A última gema sombria de Fernandez abre com:
Quando Richard Gallagher, um psiquiatra certificado e professor de psiquiatria clínica na New York Medical College, descreveu suas experiências no tratamento de pacientes com possessão demoníaca no Washington Post, alegando que tais incidentes estão em ascensão, isso foi recebido com escárnio por muitos comentaristas de jornais. Foi típico “este homem é tão maluco quanto seus pacientes. Sua licença deveria ser revogada.” […] Menos propenso a ter suas credenciais intelectuais questionadas pelos sofisticados do Washington Post está Elon Musk, que alertou uma audiência de que construir uma inteligência artificial era como “invocar o demônio”. …
O ponto, claro, é que você não recebe a segunda eventualidade sem conceder a realidade virtual da primeira. As coisas sobre as quais a ‘superstição gótica’ há muito tem falado são, em si mesmas, exatamente as mesmas que aquelas que potenciais tecnológicos extremos estão escavando da cripta do inimaginável. O ‘progresso’ é uma fórmula tácita para afastar demônios – da consciência, se não da existência – e, ainda assim, ele é, em si, cada vez mais crivelmente, exposto como a superstição mais complacente na história humana, uma que ainda mal é reconhecida como uma crença que necessite de qualquer tipo de defesa.
Como a imprensa alerta o público sobre demônios que surgem de um “algoritmo mestre” sem fazer isso soar como um feitiço mágico? Com grande dificuldade, porque o verdadeiro fundamento da realidade pode não apenas ser mais estranho do que a Narrativa supõe, mas mais estranho do que ela pode supor.
A fé no progresso tem uma afinidade com a interioridade, porque ela se consolida como o sujeito de sua própria narrativa. (Há uma rampa de acesso a Hegel neste ponto, para qualquer um que queira entrar em um bizantino contar de histórias sobre isso.) Conforme o nosso aperfeiçoamento se torna o conto, o Lado de Fora parece se obscurecer ainda além dos limites de sua obscuridade intrínseca – até que caia de volta.
…onde existem redes, existe malware. Sue Blackmore, uma escritora para o The Guardian*, argumenta que memes viajam não apenas através de sistemas similares, mas através de hierarquias de sistemas, para matar processos rivais, todo o tempo. Ela escreve, “a IA repousa sobre o princípio do darwinismo universal – a ideia de que, quando quer que uma informação (um replicador) seja copiada, com variação e seleção, um novo processo evolutivo começa. O primeiro replicador bem sucedido na terra foram os genes.” […] Em tal contexto darwiniano, o advento de um demônio IA é equivalente à chegada de uma civilização extraterrestre à Terra.
Entre uma incursão vinda do Lado de Fora e um processo de emergência não há nenhuma diferença real. Se dois quadros interpretativos bastante distintos são invocados, isso resulta das inadequações de nossa apreensão, em vez de quaisquer características qualitativas da coisa. (O capitalismo é – para além de qualquer questão séria – uma invasão alienígena, mas até aí, você sabia que ia dizer isso.)
…devemos ter cuidado ao estarmos certos de quais formas a informação pode e não pode tomar.
Se tivéssemos a competência para sermos cuidadosos, nada disso estaria acontecendo.
(Agradecimentos ao VXXC2014 pela incitação.)
* Essa descrição talvez seja um pouco cruel, ela é uma teórica dos memes séria e pioneira.
Original.