À Beira da Loucura

Uma incitação de @hugodoingthings a se explorar as criptas densa de fantasmas do Basilisco de Roko (que, inexplicavelmente, nunca pegou antes) levou direto a este cativante relato na RationalWiki. Todo o artigo é excitante, mas o seguintes pequenos parágrafos se destacam por sua extraordinário intensidade dramática:

O basilisco de Roko é notável por ter sido completamente banido das discussões no LessWrong, onde qualquer menção a ele é deletada. Eliezer Yudkowsky, fundador do LessWrong, considera que o basilisco não funciona, mas não explica por quê, pois não considera que a discussão aberta sobre a noção de comércio acausal com possível superinteligências seja demonstravelmente segura.

Super-extrapolações bobas de memes, jargões e conceitos locais são bastante postados no LessWrong; quase todas apenas recebem votos negativos e são ignoradas. Mas a esta, Yudkowsky reagiu a ela imensamente e depois redobrou sua reação. Graças eu efeito Streisand, discussões sobre o basilisco e os detralhes sobre o caso logo se espalharam para fora do LessWrong. Na verdade, ele agora é frequentemente discutido fora do LessWrong, em quase qualquer lugar em que o LessWrong sequer seja discutido. Todo o caso constitui um exemplo real de um falha espetacular de gerenciamento comunitário e controle de informações supostamente perigosas.

Algumas pessoas familiares com o memeplexo do LessWrong sofreram distúrbios psicológicos graves após contemplarem ideias afins à do basilisco – mesmo quando elas estavam razoavelmente seguras intelectualmente de que ele é um problema bobo. A noção é levada suficientemente a sério por alguns postadores do LessWrong para que eles tentem descobrir como apagar evidências de si mesmos, de modo que uma futura IA não possa reconstruir uma cópia deles para torturar.

“…Quer dizer, uma infiltração retrocrônica de IAs está realmente deixando as pessoas loucas, agora mesmo?”. Ah, sim. No Less Wrong, o comentador ‘rev’ clama por ajuda:

Existe algum mecanismo neste site para lidar com questões de saúde mental desencadeadas por posts/tópicos (especificamente, o post proibido do Roko)? Eu realmente apreciaria que qualquer postador interessado entrasse em contato por MP para uma conversa. Eu não realmente sei a quem recorrer. …

Vagando pela ala psiquiátrica, passando por fileiras de Tiras Turing neurologicamente destruídos, violados no fundo de suas mentes por algo indizível vindo até eles do futuro próximo… Estou completamente viciado. Alrenous foi notavelmente bem sucedido em me desmamar desse lixo de ontologia estatística, mas uma dose de EDT concentrada, e volta tudo de novo, como a maré do destino.

Pesadelos se tornam peças de máquina projetadas com precisão. Desta forma, somos conduzidos um pouco mais ao fundo, ao longo do caminho das sombras…

Original.