cyborg_nomade Arcano, Contágio

Caixa de Pandora

O Anarchopapist desencadeu uma tempestade no twitter com isto. É um post que tem muitos tópicos indo ao seu encontro e o transpassando. O elogio mais relevante que eu posso fazer a ele é dizer que ele é potencialmente perturbador, em um sentido bem mais do que psicológico. Será interessante ver quão contagioso ele se prova ser. (Como este post demonstra, este blog já está infectado.)

Laliberte pergunta: “há diferença entre o fogo de Prometeu e a caixa de Pandora?”. Dado tudo que é dito sobre o Prometeico e o trabalho ideológico-teórico bastante considerável que ele realiza, não é estranho que o Pandórico mal seja reconhecido como um termo ou um conceito sequer? Falar sobre o fogo é mero deslumbramento raso, em comparação com qualquer exame sério das caixas. Caixas não apenas têm uma forma, mas também um interior e um lado de fora, o que significa – pelo menos implicitamente – uma estrutura transcendental. Elas modelam mundos e sugerem caminho para fora deles.

A caixa de Pandora, claro, é significante sobretudo por seu conteúdo, que é liberado ou sai. A chama prometeica, que é roubada, é contrastada com a praga pandórica, que escapa. Laliberte aproveita a opotunidade para discutir memes (e o ‘hipermeme’). Um ser infeccioso é solto, na forma de um Basilisco Neorreacionário. (No twitter, Michael Anissimov lamenta a irresponsabilidade desta eclosão.)

Pandora (Πανδώρα – a que tudo dá e talvez a onimagnânima) é uma figura dos mais profundos recônditos da Antiguidade Clássica, cujos primeiros ecos detectáveis são encontrados nos textos hesiódicos do século VII A.C. Seu mito funciona – pelo menos superficialmente – como uma teodiceia, comparável, de muitas maneiras, com a estória da Eva bíblica. Ela libera o mal dentro da história através da curiosidade e, assim, tece uma inteligência terrível, de um tipo que antecipa o Basilisco de Roko e a ameaça da IA Hostil. O Experimento da IA na Caixa é tão pandórico que arde.

Entre os horrores do Basilisco está aquele de que falar sobre ele estar dentro – e sobre como mantê-lo ali – já é a maneira em que ele sai. Daí o extraordinário pânico que ele gera, entre aqueles que começam a pegá-lo (no sentido epidemiológico, entre outros). Mesmo pensar sobre ele é sucumbir.

No Less Wrong, vozes baixas atestam uma resiliente veneração de Pandora. Ela é perigosa (e qualquer coisa perigosa, dada apenas inteligência, pode ser uma arma).

Original.
cyborg_nomade Contágio, Horror, Templexidade

À Beira da Loucura

Uma incitação de @hugodoingthings a se explorar as criptas densa de fantasmas do Basilisco de Roko (que, inexplicavelmente, nunca pegou antes) levou direto a este cativante relato na RationalWiki. Todo o artigo é excitante, mas o seguintes pequenos parágrafos se destacam por sua extraordinário intensidade dramática:

O basilisco de Roko é notável por ter sido completamente banido das discussões no LessWrong, onde qualquer menção a ele é deletada. Eliezer Yudkowsky, fundador do LessWrong, considera que o basilisco não funciona, mas não explica por quê, pois não considera que a discussão aberta sobre a noção de comércio acausal com possível superinteligências seja demonstravelmente segura.

Super-extrapolações bobas de memes, jargões e conceitos locais são bastante postados no LessWrong; quase todas apenas recebem votos negativos e são ignoradas. Mas a esta, Yudkowsky reagiu a ela imensamente e depois redobrou sua reação. Graças eu efeito Streisand, discussões sobre o basilisco e os detralhes sobre o caso logo se espalharam para fora do LessWrong. Na verdade, ele agora é frequentemente discutido fora do LessWrong, em quase qualquer lugar em que o LessWrong sequer seja discutido. Todo o caso constitui um exemplo real de um falha espetacular de gerenciamento comunitário e controle de informações supostamente perigosas.

Algumas pessoas familiares com o memeplexo do LessWrong sofreram distúrbios psicológicos graves após contemplarem ideias afins à do basilisco – mesmo quando elas estavam razoavelmente seguras intelectualmente de que ele é um problema bobo. A noção é levada suficientemente a sério por alguns postadores do LessWrong para que eles tentem descobrir como apagar evidências de si mesmos, de modo que uma futura IA não possa reconstruir uma cópia deles para torturar.

“…Quer dizer, uma infiltração retrocrônica de IAs está realmente deixando as pessoas loucas, agora mesmo?”. Ah, sim. No Less Wrong, o comentador ‘rev’ clama por ajuda:

Existe algum mecanismo neste site para lidar com questões de saúde mental desencadeadas por posts/tópicos (especificamente, o post proibido do Roko)? Eu realmente apreciaria que qualquer postador interessado entrasse em contato por MP para uma conversa. Eu não realmente sei a quem recorrer. …

Vagando pela ala psiquiátrica, passando por fileiras de Tiras Turing neurologicamente destruídos, violados no fundo de suas mentes por algo indizível vindo até eles do futuro próximo… Estou completamente viciado. Alrenous foi notavelmente bem sucedido em me desmamar desse lixo de ontologia estatística, mas uma dose de EDT concentrada, e volta tudo de novo, como a maré do destino.

Pesadelos se tornam peças de máquina projetadas com precisão. Desta forma, somos conduzidos um pouco mais ao fundo, ao longo do caminho das sombras…

Original.