Desintegração

De acordo com uma certa construção da história cultural, à qual as ciências naturais frequentemente se pareceram apegadas, a religião é concebida essencialmente como uma explicação naturalista pré-científica. Vistas dessa maneira, as religiões são cosmologias comparativamente primitivas. É isso o que as torna vulneráveis ao progresso científico. Um Galileu, ou um Darwin, avança para dentro de seu território central, ferindo-as mortalmente no coração. Uma noção um tanto sociologicamente indistinta de "ciência" é vislumbrada como a sucessora natural da religião.

Por mais plausível (ou implausível) que se ache essa narrativa, ela importa. Por meio dela, a ascendência científica adquire seu mito fundacional. Crucialmente, esse poder mítico não depende de nenhum tipo de validação científica rigorosa. Ninguém jamais foi compelido a colocá-lo a teste. Tudo que é pré-moderno – e até mesmo profundamente arcaico – na empreitada modernista corre através dele. Ele fornece uma infraestrutura tácita de crença profunda.

Referir-se à "ciência mítica" não é algo positivamente cético, muito menos polêmico. Para que ideias científicas adquiram o status de mito é uma questão de potência cultural, suplementar a qualquer validade epistêmica que elas retenham. Conceitos científicos não se tornam nenhum pouco menos científicos ao também se tornarem míticos. Eles podem, contudo, por vezes, sustentar um poder mítico desproporcional à sua legitimidade estritamente científica. O ápice dominante de uma cultura é alguma cosmologia mais ou menos científica.

É isso que a palavra "natureza" transmitia primordialmente. Um objeto último de afirmação cognitiva é promovido através dela. É nisto que acreditamos. As coisas são desta maneira, e não de outra maneira (ou apenas de outra maneira em algum outro lugar).

Aqui perguntamos, então, como inocentes pagãos científicos: De que forma as coisas são?

A melhor cosmologia atual é aceleracionista, e desintegracionista. Para colocar a coisa de maneira crua – e, em última análise, insustentável – a expansão do universo está se acelerando e se despedaçando. Ao invés de ser desacelerada pela gravidade, ulterior a uma explosão original, a taxa de inflação cósmica aumentou. Alguma força ainda desconhecida está esmagando a gravidade e desviando para o vermelho todos os objetos distantes. Batizada bastante recentemente de "energia escura", pensa-se que essa força seja responsável por setenta por cento de toda a realidade física.

Comparada com essa descoberta fortemente confirmada da fragmentação acelerante, a noção de um "universo" integral subjacente parece cada vez mais como uma relíquia mitológica insustentável. "Insustentável", isto é, mesmo em termos de um mito científico consistente, e também de maneira mais prática.

A distância a partir da qual a informação pode ser recebida, ou à qual ela pode ser transmitida, ao longo de qualquer período de tempo, tem um limiar estabelecido pela velocidade da luz. O horizonte de espaço-tempo da realidade para qualquer entidade é determinado por esse "cone de luz". Para além dele, há apenas o absolutamente incomunicável. Um cone de luz é, desta forma, entre outras coisas, uma delimitação estrita do poder de projeção, entendido enquanto unidade prática. O processo leva da relatividade geral até a desintegração absoluta.

Em sua história intelectual da física relativista[1], Peter Gallison conecta o problema da relatividade àquele da administração imperial. Sincronização é a pré-condição de qualquer processo sofisticado de coordenação. Mesmo sob as (compactas) condições terrestres, a finitude extrema da velocidade da luz apresentava um problema técnico significativo para a governança em escala imperial-global. Redes telegráficas, em particular, exigiam a correção técnica de efeitos relativísticos.

Por extrapolação irresistível, podemos ver que a dominação é sempre capaz apenas de mascarar processos de escapada. Não pode haver nenhum Império Cósmico. O espaço não o tolera. Este é meramente um fato de ficção científica, até que seja mitologizado.

A energia escura está despedaçando o cosmos. Eventualmente, seus pedaços abandonarão os cones de luz uns dos outros. Eles então não serão nunca mais nada uns para os outros. Esta é uma descoberta de consequências extraordinárias. Na maior escala de objetividade empírica, a unidade não tem nenhum futuro. O "universo" é um modelo irrealista. Tudo que agora se sabe sobre o cosmos sugere que a fragmentação é básica.

A cosmologia fornece, dessa forma, um modelo de desintegração que é notável por seu extremismo. Ela caracteriza peças que não tem nada que seja, exceto um passado compartilhado, em comum, propelidas até uma não-comunicação absoluta. Nenhuma concepção política de separação jamais chegou a esse limite, até o momento.

Alguns resultados fascinantes rapidamente saem da extrapolação. A evidência cosmológica à qual nossa tradição científica tem sido capaz de recorrer eventualmente deixará de estar disponível. Uma espécie inteligente futura não poderia construir nenhum modelo comparável do universo com base em fundamentos empíricos. O que quer que contasse como o todo, para ela, seria, na verdade, apenas um fragmento (já podemos ver). Aglomerados galácticos distantes teriam se tornado questões de pura especulação. A própria possibilidade de uma ciência empírica teria sido demonstravelmente limitada no espaço e no tempo.

Geoff Manaugh a chama de "a amnésia vindoura". Ele observa, sobre uma palestra do autor de ficção científica Alastair Reynolds:

Conforme o universo se expande ao longo de centenas de bilhões de anos, Reynolds explica, haverá um ponto, no futuro muito distante, no qual todas as galáxias estarão tão distantes que elas não serão mais visíveis umas a partir das outras. […] Ao alcançar esse momento, não será mais possível entender a história do universo–ou talvez mesmo que ele já teve uma – já que todas as evidências de um cosmos mais amplo, fora da sua própria galáxia, terão desaparecido para sempre. O própria cosmologia será, em si, impossível. […] Em tal universo futuro radicalmente expandido, Reynolds continua, algumas das compreensões mais básicas oferecidas pela astronomia de hoje estarão indisponíveis. Afinal, ele aponta, ‘você não pode medir o desvio para o vermelho das galáxias, se você não consegue ver galáxias. E, se você não consegue ver galáxias, como você sequer sabe que o universo está expandindo? Como você jamais determinaria que o universo já teve uma origem?

Reynolds se embasou em um artigo intitulado "The End of Cosmology?" ("O Fim da Cosmologia?"), de Lawrence M. Krauss e Robert J. Scherrer, publicado na Scientific American (2008). Este artigo se resume no subtítulo: "Um universo acelerante aniquila traços de suas próprias origens".

A extrapolação pode ser levada mais além. Se é possível ver que uma cultura científica no futuro longínquo está estruturalmente privada de evidências essenciais para a apreciação realista da escala cósmica, podemos estar confiantes que nossa situação é fundamentalmente diferente? Não é mais provável que a localidade absoluta e insuperável da perspectiva científica seja uma situação básica? Quão provável é que sejamos capazes de ver universalmente – em princípio – quando já podemos ver como outros serão incapazes de o fazer no futuro? Com base na evidência disponível, temos que vislumbrar uma civilização futura que esteja absolutamente iludida sobre seu próprio paroquialismo estrutural, confiante de sua capacidade de se livrar de maneira final da limitação perspectiva. Seria possível se esperar que as mentes científicas mais estimadas em tal cultura descartassem qualquer sugestão de regiões cósmicas inacessíveis como metafísica sem fundamento. Parece meramente hubrístico se abster de voltar esse cenário a nós mesmos. Se a cosmologia universal deve se tornar impossível, a hipótese padrão deveria ser de quela já o fez.[2]

A ciência natural exibe uma estrutura trágica. Perseguindo apenas seus métodos essenciais, ela descobre – através da cosmologia – um argumento convincente para sua falta de confiabilidade em grande escala. A aquisição de compreensão universal através de uma investigação empírica rigorosa parece cosmicamente obstruída.

A ciência está, assim, eventualmente fadada a ser fundamentalmente localizada. A "localidade" em questão aqui não é meramente o particularismo fraco de uma opção tomada contra o global ou o universal. Antes, é o próprio horizonte de qualquer ambição universalista possível que se encontra rigorosamente constrito e desmantelado. O localismo, assim entendido, não é uma escolha, mas um destino e até mesmo uma fatalidade já imposta. Em suas maiores escalas, a realidade está despedaçada. A unidade existe apenas pare ser quebrada.

O princípio da isotropia mantém que não existem orientações privilegiadas no espaço. Junto com a presunção da homogeneidade do espaço, ele compõe o Princípio Cosmológico. Certamente temos direito a um análogo isocrônico, no qual pode-se assumir que um destino observável na ordem do tempo já esteja igualmente atrás de nós.

Temos um cosmos ainda, e de maneira perene, então, mas não mais um universo. O cosmos ao qual nós, enquanto modernos, aderimos sob obrigação cultural é, na verdade, a desintegração manifesta do universo aparente.

Nosso tópico reduz de marcha, da cosmologia inflacionária até a termodinâmica. Estamos falando de diversificação, ou heterogênese, afinal – e essa é o negativo rigoroso do aumento de entropia. A homogenização é entropia. Os dois conceitos não são estritamente distinguíveis. O que foi descoberto sob o nome de entropia era a destruição da diferença – seja a variação na temperatura (Clausius e Carnot) ou, mais tarde, a variação na distribuição de partículas (Boltzmann e Gibbs). A heterogênese é local, a segunda lei da termodinâmica nos diz. No nível verdadeiramente global – onde nenhuma entrada ou saída pode ocorrer – a deterioração necessariamente prevalece.

Para nos anteciparmos, descobriremos que o Ocidente fez da entropia um Deus, Um cuja lei final é que tudo será o mesmo. É um deus falso. O problema cosmo-físico derradeiro – Como a entropia negativa é possível? – atesta isso. Sabemos que a heterogênese não é nenhum pouco mais fraca que seu oposto, mesmo que não saibamos como.

A desintegração cosmológica é ecoada mais amplamente entre as ciências naturais. Talvez de maneira mais importante, A Origem das Espécies tem a desintegração como seu tópico básico, como seu nome já sublinha. O darwinismo – ou seja, toda a biologia científica – tem a especiação como seu objeto primário, e especiação é divisão.

Apesar do reconhecimento de várias conexões laterais exóticas, de simbioses até inserções genômicas retrovirais, é a divergência de linhagens genéticas que melhor define a vida nas maiores escalas. Fusões são anômalas e, em todo caso, impossíveis a menos que a diversidade tenha primeiro sido produzida. Os ingredientes de qualquer coalizão heterogênea presume uma diversificação anterior.[3]

O desintegracionismo nas ciência biológicas equivale a uma ciência em si, chamada cladística.[4] A cladística formaliza o método da classificação darwiniana rigorosa. A identidade de qualquer tipo biológico é determinada pela série particular de eventos cismáticos pelos quais ele tenha passado. Ser humano é ser um primata, um mamífero, um réptil, um peixe ósseo e um vertebrado, entre outras classes mais básicas. A soma daquilo com o que você rompeu define o que você é.

Um "clade" é um estilhaço. Ele é um grupo, de qualquer escala, determinado pela secessão de uma linhagem. O ponto de diferenciação entre clades corresponde ao seu ancestral comum mais recente (isto é, o último). De maneira crucial, portanto, todos os descendentes de um clade pertencem a esse clade, que abrange qualquer número de sub-clades. A produção de sub-clades (a origem das espécies) é chamada de radiação. Ela tende a proceder através de uma bifurcação em série, uma vez que eventos de fragmentação cladística complexa simultânea são comparativamente exóticos. Ramificações simples e sucessivas tipicamente capturam a diversificação. Os riscos disso não ocorrer não são enormes.

A cladística pode ser identificada com uma rigorização da nomenclatura taxonômica. Um sistema de nomes escreve um cladograma, ou seja, um modelo da história evolutiva e do parentesco biológico. Qualquer cladograma é uma hipótese evolutiva. Ele propõe uma ordem particular de divisão. Qualquer ordem proposta desse tipo pode ser empiricamente revisada.

A cladística mapeia todo o desintegracionismo abaixo do nível cosmológico e talvez até ele. Naturalmente, ela é supremamente controversa. O escopo completo de sua provocação ainda tem que ser entendido. Na medida em que a cladística é explicativa, contudo, muito se segue. Notavelmente, a identidade é concebida como essencialmente cismática, e o ser é apreendido de maneira fundamental como uma estrutura de herança.

A linguística histórica caiu naturalmente em um modo cladístico. ‘Famílias’ linguísticas compartilhavam característica essenciais com seu modelo biológico. Elas se proliferavam por subdivisão, fornecendo o material para um esquema de classificação. Foi sobre essa taxonomia linguística que agrupamentos raciais foram primeiro sistematicamente determinados. Os "Yamnaya" – ainda hoje mais amplamente conhecidos como "Arianos" – foram originalmente identificados através da cladística das línguas Indo-Europeias. Seu padrão de radiação era marcado por uma diversificação linguística arbórea.

A antropologia diferencial foi desenhada em cladogramas. Árvores, ordem filogenética, famílias linguísticas, genealogias, famílias (massivamente estendidas) reais – tudo era extremamente coerente. Aqui, também, fenômenos de fusão, contaminação lateral cruzada e convergência – embora de forma alguma ausentes – eram evidentemente secundários e derivativos.

A diversificação linguística se parece com um processo de etnogênese cismática. Conforme povos se ramificam, eles se diferenciam mutuamente. A origem dos povos é apenas a origem das espécies em uma resolução maior – o padrão abstrato é o mesmo.

O mecanismo concreto da especiação tipicamente envolve o isolamento de populações e, desta maneira, se torna – bastante recentemente – político. Há uma política de "espécie invasora" e bio-dispersão antrópica, mas esta não é especialmente rancorosa, ou significativamente polarizante. O caso do isolamento de populações humanas é muito diferente. Durante este processo de politização, o radicalismo exogâmico das populações do noroeste europeu foi sublimado em uma ideologia universal.

Uma vez que o tópico da raça tende a produzir perturbações ideológicas e emocionais extremas hoje em dia, pode ser preferível considerar animais domésticos variados, como a tradição naturalista inglesa esteve inclinada a fazer. Não apenas uma analogia sólida, mas também equilíbrio, ou moderação verdadeira, serão encontradas ao fazê-lo. Uma vez que, em nosso contexto cultural contemporâneo a influência da vida rural recuou de maneira notável e, com ela, o sentido da vívida distinção entre as espécies cultivadas, os cães nos servirão como de longe os exemplos mais ilustrativos.

Um mundo sem híbridos seria um mundo mais pobre. Híbridos frequentemente têm vantagens de qualidades especiais e até mesmo superiores. O Golden Doodle, por exemplo, é tão exaltado quanto qualquer tipo canino que exista. Tais cruzamentos adicionam à diversidade do mundo. Isso é completamente consistente com um processo básico através do qual o mundo é enriquecido por raças caninas divergentes, na qual "cães em geral" são uma categoria cada vez mais pouco informativa. Não há – ainda – nenhuma ideologia dirigida à homogenização genética canina global.

A diversidade é boa, o que seria dizer robusta e inovadora (pelo menos). Pode-se confiar no consenso ecológico a este respeito. Espécies invasoras são detestada porque elas diminuem a diversidade, não porque elas a aumentam. A heterogênese é, em todos os momentos, a ambição superior. Ainda assim, a diversificação – a produção de diversidade – é um tópico peculiarmente negligenciado em nossas ciências sociais contemporâneas. O mantra da diversidade é combinado com uma indiferença quase completa, e até mesmo uma negligência estratégica, a este respeito. A celebração pública obrigatória da diversidade acompanha, e acoberta, sua extirpação programática prática. A humanidade, decidiu-se de maneira autoritária, é uma e está destinada apenas a ser cada vez mais uma. A partição genética hoje é considerada equivalente a uma violação dos direitos humanos.[5]

Nossa ortodoxia suprema é de que seria terrível quase para além da contemplação já não ser e se tornar ainda mais Um. Poderíamos estar tentados a chamar esta fé de mono-humanismo. Que a humanidade será uma unidade é sua doutrina fundamental. Não se pode enfatizar o suficiente que isso é bem menos uma observação empírica do que um projeto moral e político, no qual a entropia racial foi elevada a uma obrigação sagrada. A alternativa radical – em oposição à meramente conservadora – a essa visão é encontrada apenas na ficção científica.[6]

A preservação da diversidade humana é uma marca da etno-política dissidente, com o "Mundo Bege" sendo cada vez mais percebido como um ideal coercivo. Uma resistência tipicamente incoerente à entropia racial é o fator mobilizador central em tais casos, embora um que seja lamentavelmente afligido por uma fetichização imoderada da pureza racial obrigatória. No pior – e não incomum – dos casos, essa reação contra o mono-humanismo veio a ver todas as contribuições à diversidade genética humana através do cruzamento racial como um avatar da homogenização coerciva. A resposta equilibrada, para repetir a lição dos cães, é que um mundo de especiação tendencial ou diversidade genética crescente não é, por nenhuma necessidade imperiosa, um mundo hostil aos vira-latas.

Ao longo dos últimos 60 mil anos, a divergência genética humana tem sido o processo esmagadoramente dominante. A fragmentação conspícua dos humanos modernos em sub-espécies geneticamente distintas tem sido o padrão básico. Este é um processo digno de celebração ecológica e até mesmo de aceleração tecno-industrial. A despeito das esperanças mais sinceras da atual igreja secular, não há nenhuma chance de que ele seja terminalmente dissipado.

"Globalismo" é uma palavra que, embora ideologicamente contestada, é de incontestável peso ideológico. Ela poderia ser definida, com uma tendenciosidade mínima, como a busca pela direção da política a partir de uma perspectiva em acordo com o todo. Orientações teimosamente parciais são suas inimigas. Ainda assim, tamanho tem sido seu triunfo que – mesmo em face dos contratempos recentes – a hostilidade está peculiarmente afogada em condescendência.

"Paroquialismo" está entre os insultos que o globalismo encontra preparados para sua conveniência. Ele poderia aceitar uma incapacidade de se ver de maneira universal como compreensível e educável. Uma recusa da perspectiva universalista, contudo, não pode merecer tamanha simpatia. Ela é, para o globalista, essencialmente antiética. Deve-se menos argumentar contra o paroquialismo do que desdenhá-lo. Ele deve ser desprezado em nome do universal – o que está ficando divertido.

O que quer que tenhamos visto como a morte de Deus é apenas um caso especial da queda mais abrangente da universalidade. Ao passo em que a morte de Deus foi em sua maior parte inferida, a morte do universal se desdobra como um espetáculo científico explícito. A astrofísica vê o universo sendo desmantelado ante seus olhos artificiais.

O campo globalista está especialmente propenso a gesticulações de devoção a respeito da ideia de ciência. É irônico, portanto, que – em termos científicos – o globalismo se pareça cada vez mais com uma religião insustentável. Sua cosmologia intrínseca é um mito arcaico. Não poderia facilmente ser mais óbvio de que não há nenhum universo, fora dessa estrutura mitológica. A natureza fundamental do cosmos é ir em direções separadas.[7]

Peças são básicas. Concebê-las como se seguindo a todos é uma confusão, produzida por enquadramentos universalistas insustentáveis. Qualquer perspectiva que possa realmente ser efetivada já foi localizada por quebras em série. Nada começa com o todo, a não ser como ilusão. Hoje, sabemos isso de maneira tanto empírica quanto transcendental. Nada que não seja feito em pedaços não é feito em acordo profundo com a realidade.

---

[1]: Einstein’s Clocks, Poincaré’s Maps: Empires of Time, New York, 2003.

[2]: Manaugh cita Krauss e Scherrer dizendo: "Podemos estar vivendo na única época na história do universo em que os cientísticas podem alcançar um entendimento preciso da verdadeira natureza do universo". A indolência intelectual desta sugestão é notável.

[3]: O isolamento de linhagens genéticas é uma questão de uma técnica experimental sólida – ainda que espontânea e inconsciente. Evite a contaminação cruzada das amostras de teste. Ou seja, o faça, se você insiste, mas não espere resultados epistêmicos ótimos se você o fizer. Resultados epistêmicos ótimos tendem a vencer.

[4]: A orientação arborescente da cladística não poderia ser mais inflexível. A palavra ‘clade’ é tomada do grego clados, que significa ramo. Um cladograma é uma árvore abstrata. Suas articulações são todas ramificações. O engajamento crítico de Deleuze & Guattari com ela tem sido altamente influente. Eles nos dizem que estão "entediados de árvores". A alternativa à arborescência, eles propõem, é o rizoma – uma rede na qual todo nó se conecta com todos os outros. De maneira apropriada, o ‘rizoma’ não é em si um conceito taxonômico, mas morfológico. A posição equilibrada é reconhecer que árvores evolutivas são complementadas por teias ecológicas. Nenhuma é concebível sem a outra. A árvore evolutiva é podada e treinada dentro de ecologias de relações laterais. A filogenia é esmagadoramente arbórea, ao passo que a ontogenia envolve bem mais influência lateral. Nos limitaremos aqui, com brevidade críptica, a observar que a rizomática deleuzoguattariana está rizomaticamente conectada ao neo-darwinismo, mas cladisticamente ela é neo-lamarckiana.

[5]: Isto é uma simplificação, afligida por incoerências e exceções sem princípio. De maneira mais notável, permissões ad hoc especiais são concedidas a populações ‘menores’. O uso notavelmente errático da palavra ‘genocídio’ é o índice mais óbvio disso. Uma construção mais próxima da fórmula em operação poderia ser: A partição de populações é errada, de maneira absoluta e universal, na medida em que ela assegura o isolamento de populações do noroeste europeu.

[6]: Bruce Sterling, Alastair Reynolds, e Neal Stephenson, entre muitos outros, populam seus mundos ficcionais com tipos neo-hominídeos radicalmente diversificados.

[7]: Robin Hanson devota um post recente em seu blog a três variedades (comparativamente exóticas) de descendência arbórea. A primeira é um experimento mental estranho que não precisa nos distrair sequer momentaneamente aqui. A segunda aborda seus clones mentais, os "ems". Essa é de relevância potencial para uma gama de linhagens de software potenciais e até mesmo já reais. A terceira é a estrutura do multiverso quântico. Ela sugere que uma cosmologia arbórea surge em caminhos bastante diferentes daqueles perseguidos aqui. Ele observa: "… uma história quântica é, em parte, uma árvore de observadores. Cada observador em sua árvore pode olhar para trás e ver uma cadeia de ramos de volta até a raiz, com cada ramo mantendo uma versão de si mesmos. Mais versões deles mesmos vivem em outros ramos dessa árvore."

Multiversos arbóreos são especialmente numerosos. Lee Smolin propõe um multiverso darwiniano, que seleciona a favor da aptidão reprodutiva através da produção de buracos negros. Ele poderia ser descrito como um multiverso cladisticamente estruturado, não fosse este rótulo muito mais amplamente aplicável. Multiversos cladísticos pertencem ao conjunto mais mais amplo de entidades cladisticamente estruturadas, cujas partes são caracterizadas por:

1. Uma única linha de descendência
2. Irmãos geneticamente não-comunicantes, e
3. Uma multidão de descendentes potenciais

Tais multiversos preveem sua própria imperceptibilidade. Uma vez que ramos paralelos são mutuamente não-comunicantes, deve-se esperar que sua existência seja estritamente teórica. Se o multiverso fosse um rizoma, veríamos mais dele.

O ontologia do Argumento da Simulação também tende ao desintegracionismo. Simulações são essencialmente experimentos e, assim, vários.

Jogos de Independência

O teste Nuclear da Coréia do Norte em 3 de Setembro foi registrado como um raro terremoto geopolítico literal. Alguma incerteza pública persiste quanto à escala e à significância do tremor. Reportou-se estar em uma gama de magnitudes entre 6.1 e 6.3 (ou até mesmo superior), na escala logarítmica de Richter. Um evento desta dimensão sugere uma explosão de diversas centenas de kilotons de dinamite e é consistente com a detonação de um dispositivo termonuclear. A confirmação norte-coreana exatamente dessa ocorrência foi recebida com uma seriedade sem precedentes.

A não-proliferação nuclear é mais ideia que realidade. Sua única substância é uma comparativa lentidão quando estimada contra a referência de um cenário de pesadelo geralmente não declarado. De acordo com tal consideração contra-factual, as armas nucleares poderiam estar muito mais difundidas do que estão agora. Mas processos exponenciais têm essa aparência. Eles começam pequeno, e não parecem ir a lugar a nenhum lugar dramático por um tempo. Como a celebrada fábula da exponenciação mostra, uma modesta tigela de arroz lhe é suficiente em um bom tanto do tabuleiro de xadrez. A suposição, supostamente de bom senso, de que a proliferação nuclear incontrolável ainda não está acontecendo exige um argumento. (Este pequeno ensaio faz o outro argumento.)

O ‘clube’ nuclear é desajeitado demais para compartilhar qualquer tipo de princípio seriamente restritivo. Não há nada identificável que dê a uma nação o direito de ser membro, além da simples posse de uma capacidade militar de nível apocalíptico. O clube era trans-ideológico desde o começo e, logo depois, altamente multicultural. Entre os membros, a desconfiança e mesmo a hostilidade recíprocas são a norma, o que – dado o processo desembestado de ação e reação que definiu a lista dos membros – dificilmente poderia ser inesperado. O comportamento dos membros não é controlado por nada além da teoria dos jogos. Vale bastante a pena mencionar que ninguém que consiga entrar no clube pode, de qualquer maneira prática, ser retirado.

Os Estados Unidos detonaram a primeira bomba termonuclear de fusão com dois estágios, ou ‘de hidrogênio’ (com design Teller-Ulam) no atol Enewetak em 1º de novembro de 1952. A União Soviética respondeu menos de um ano depois, testando sua própria bomba-H em 12 de agosto de 1953. Os testes – ou demonstrações – seguiram-se em sucessão no Reino Unido (novembro de 1957), na China (17 de junho de 1967) e na França (agosto de 1968). Acredita-se que Israel tenha conduzido um teste conjunto com a República da África do Sul – o chamado ‘Incidente Vela’ – em 22 de setembro de 1979. Em 1991, o governo sul-africano alegou ter montado e, mais tarde, unilateralmente desmontado seis dispositivos nucleares. A Índia expandiu a espiral de proliferação termonuclear até o sul da Ásia, com um teste em maio de 1998. O Paquistão não é conhecido por ter testado nada além de dispositivos de ‘fissão intensificada’, mas sua formidável capacidade nuclear não está em questão. (Um ensaio mais longo teria encontrado espaço, neste ponto, para reconhecer a contribuição desproporcional do paquistanês Abdul Qadeer Khan para a dinâmica global de proliferação.) Pode-se esperar que a cooperação nuclear saudita com o Paquistão acelere a difusão de armamentos nucleares até a península arábica, uma vez que o progresso iraniano na aplicação militar da tecnologia desencadeia a muito antecipada corrida armamentista Sunita-Xiita em armas de destruição em massa. Assim, a cadeia de proliferação se estende de forma constante em seu eixo principal, passando da rivalidade de superpotências da Guerra Fria, para a triangulação chinesa, uma bomba indiana de resposta e daí para dentro do mundo fraturado do Islã, por via do Paquistão (com as proezas nucleares não reciprocadas israelitas como incitação, e pretexto adicional.)

O caráter unidimensional desta narrativa é um artefato de sua imaturidade. O sub-desenvolvimento do processo de proliferação aparece, para a atual ‘comunidade internacional’, sem mais do que uma crise por vez. As coisas não vão ficar assim por muito tempo. Não há nada essencialmente mono-linear sobre a dinâmica de escalação cruzada. Aumentar o impulso já é tirá-la dos trilhos. Como Richard Fernandez observa, as linhas de escape nucleares estão ocorrendo em diversas direções de uma só vez:

Nas questões de segurança, a antiga matrix de ganhos do jogo Ocidente-Oriente foi substituída por um vetor multidimensional de novos jogadores, muitos deles subnacionais, alguns deles desconhecidos. O grande coringa é a tecnologia. Mudanças tecnológicas disruptivas e novos modos de guerra a elas associadas têm perturbado o antigo cálculo. Coréia do Norte e Irã não são ameaças extravagantes, mas indicadores importantes da dinâmica alterada. Eles são as primeiras amostras de uma nova ameaça entrando em andamento.

A Coréia do Norte alega ter testado armas nucleares em janeiro de 2016, seguindo testes de dispositivos de fissão em 2006, 2009 e 2013. Seja como questão de realismo analítico ou de ceticismo público com motivação estratégica, a alegação foi recebida com um menosprezo ocidental orquestrado. O teste de 2017 estilhaçou esse muro de negação. Nas palavras de Scott D. Sagan, escrevendo na Foreign Affairs: “A Coréia do Norte não apresenta mais um problema de não-proliferação; ela apresenta um problema de dissuasão nuclear”.

Embora, se traçada como uma curva simples e historicamente consistente, ainda não seja impossível ver um processo de desaceleração nessa linha do tempo, tal ótica está deixando de convencer. Parece ser parte de uma ordem mundial em colapso, que está levando sua estruturas de percepção abaixo consigo. A suposição de continuidade, por exemplo, agora parece imprudente ao extremo. A descontinuidade histórica na dinâmica de proliferação tem sido especialmente notável ao longo das décadas recentes, devido a um padrão em arraigamento cujos efeitos de incentivo não poderiam facilmente ser mais sinistros. A renúncia de ambições termonucleares tem adquirido uma forte correlação com a subsequente destruição do regime, ao contrário de qualquer coisa vista na era anterior de patronagem de superpotências na Guerra Fria.

A Ucrânia voluntariamente entregou seu arsenal nuclear para a Rússia na desintegração da União Soviética. Na era de Gorbachev, esta decisão sem dúvida parecia racional – e até mesmo prudente. Os desenvolvimentos subsequentes na região a tornam bem mais difícil de desculpar. Resta saber se a independência nacional ucraniana será finalmente sacrificada por essa elevada decisão, mas a segurança geopolítica e doméstica rudimentares já o foram.

A predominante histeria racial de nossa era nubla qualquer análise da mudança do regime sul-africano em termos comparáveis, como já nublou o próprio processo. Historiadores futuros terão olhos mais nítidos. Certamente, ela parece se encaixar no padrão. Não menos do que com o Juche, a experiência do apartheid é de que a sensibilidade à ‘opinião educada’ internacional é amplamente aumentada pela ausência de nukes.

A lição da Líbia foi a mais lúgubre até hoje. A desnuclearização da Líbia “foi pacificamente resolvida em dezembro de 2003, [explica a Wikipédia. Em um artigo separado, ela adiciona o apêndice (ainda mais útil) de que “Muammar Gaddafi, o líder deposto da Líbia, foi capturado e morto em 20 de outubro de 2011, durante a Batalha de Sirte. …vídeos de seus últimos instantes mostram combatentes rebeldes o espancando e um deles o sodomizando com uma baioneta, antes dele ser baleado diversas vezes enquanto gritava por sua vida”. Seria difícil elaborar um recurso educacional mais explícito contra a observância da não-proliferação internacional das ADMs.

Este é o pano de fundo contra o qual a obstinação nuclear norte-coreana deve ser avaliada. O regime já havia, em todo caso, tornado a desobediência uma especialidade local. Seu comportamento internacional delinquente há muito tem sido material de comédia negra. A imagem cultivada do país leva o espinhoso a territórios que a linhagem zoológica do porco-espinho ainda está por explorar.

No que diz respeito a fundamentos estratégicos, contudo, a atitude feroz de performance punk do regime em relação à conduta diplomática não é a questão principal. Uma má atitude cria um teatro diplomático estimulante, mas decora os fundamentos da ameaça. Foque em capacidades, não motivações, é um princípio estratégico que não pode ser superestimado. No caso da Coréia do Norte, e de outros que sem dúvida logo se seguirão, contudo, é um princípio que requer uma inversão completa. Uma incapacidade definida se eleva, ao invés, à proeminência estratégica.

A extremidade da ameaça norte-coreada emergente é uma função da fraqueza, em muitos aspectos, mas mais centralmente em relação às suas novas responsabilidades pela gestão de dissuasão. Arsenais nucleares inseguros são desestabilizantes, uma vez que se inclinam ao primeiro uso, sobre o princípio do use-ou-perca. A vulnerabilidade a um primeiro golpe é uma incitação contínua a prevenção.

A Coréia do Norte é uma nação geograficamente pequena, com estruturas cruas de comando e controle, capacidades muito limitadas de alerta antecipado e uma dependência exclusiva de plataformas terrestres expostas de mísseis balísticos para o disparo de ogivas. Em outras palavras, está destinada a permanecer a um fio de cabelo do momento em que cruza o limiar de dissuasão. Em vez de ser uma dor de cabeça insuportável para a ordem mundial por conta de sua iniciativa implacável e maligna, ela doravante será uma por simples padrão estratégico. O mundo terá se tornado uma cidade construída sob o Vesúvio, independente de basicamente quaisquer decisões de planejamento ou filosofias de risco. Uma época de perigo está se abrindo.

Sob estas condições, a mera ‘capacidade’ se torna extraordinariamente provocativa, e a incompetência é automaticamente aterrorizante. Ainda assim, embora este dilema não seja difícil de entender, ele talvez seja um pouco difícil demais para ser capturado por qualquer debate público conduzido em um nível realisticamente imaginável de sofisticação. Na medida em que existe algo como uma corte da opinião global de massa, pode-se confiantemente esperar que ela deixe passar os fundamentos estratégicos e se perca em performances teatrais multilaterais. Realidades geoestratégicas e percepções de massa estão em trajetórias divergentes.

As ilusões predominantes tendem a ser simplificadoras e retardadas (no sentido estrito). Elas atrasam a tendência difusiva e, assim, invocam estruturas de agência irrealisticamente econômicas, voltadas para o ideal de bipolaridade há muito perdido. A era de superpotências ainda domina a imaginação nuclear.

Uma vez que não há nenhuma rota passando por Pyongyang que não acabe em um buraco cheio de estacas diplomáticas, a tentação é fantasiar uma rota que passe por Pequim. Tal estrada não existe. As relações entre a China e o regime norte-coreano chegaram ao seu ponto mais baixo desde a Guerra da Coréia e agora são francamente hostis. O regime de Kim Jong-un buscou extirpar a influência chinesa de sua liderança, com espetacular crueldade. Ter os centros urbanos chineses como alvos do arsenal norte-coreano não é mais inimaginável, ou, na China, inimaginado. Afinal, o alvo natural de um dissuasor é a maior ameaça à soberania da nação que o usa. É quase-inevitável que a China venha a ocupar esse papel no caso norte-coreano. A impotência chinesa em relação à Coréia do Norte é grandemente – e talvez mesmo primariamente – o objetivo do arsenal norte-coreano.

Tyler Cowen [descreve o romance “The Moon Is A Harsh Mistress” (1966) de Robert Heinlein como “talvez o melhor romance para entender a lógica de um futuro conflito com a Coréia do Norte”. Ele, então, adiciona: “além disso, os Catalães deveriam lê-lo também. Acima de tudo, eu lembrei ao reler que este livro foi minha primeira exposição ao raciocínio da teoria dos jogos”. Não apenas bombardeios exóticos (por “catapultas eletrônicas”), luta por independência e jogos, mas também uma ordem mundial reconstruída pela ascensão da China e até mesmo uma “IA maliciosa” que adquire agência estratégica. Evidentemente, já há meio século, Heinlein estava explorando um aglomerado durável de preocupações. No cerne: Não pode haver uma questão de se alcançar ou manter independência sem a capacidade de infligir um sério dano àqueles que poderiam buscar impedi-la.

Independência, no seu sentido geopolítico, funde liberdade e segurança de maneira indissociável. A autonomia – que é, de maneira exata, soberania – exige insensibilidade à coerção e é, assim, o negativo de ameaças estrangeiras convincentes. A equivalência analítica entre independência recíproca e um ‘equilíbrio de terror’ submete a autonomia nacional a uma forma geopolítica de relatividade geral. Uma vez que nada como uma segurança absoluta é realista, a soberania existe apenas em graus, dentro de redes tensas. A tensão é o jogo.

A aplicação pioneira, por Thomas Schelling, da teoria dos jogos à estratégia nuclear continua sendo o ponto de ingresso neste mundo. O cerne da realidade dos jogos de destruição mútua assegurada (MAD) é facilmente incompreendido. Uma retaliação massiva (ou não reiterante) é, – no estágio em que se torna devida – por estimação imediata, irracional. Nesse momento, é tarde demais para contribuir qualquer coisa além de dano composto, independente de sua ocorrência. Sob condições hipotéticas de amnésia e ação irrestrita, ela nunca pode fazer sentido. Ainda assim, paradoxalmente, a capacidade de fazer ameaças retaliatória críveis é o fundamento básico da racionalidade durante os jogos de negociação anteriores. Sem ela, não pode haver nenhuma razão para a restrição do competidor. A exigência, então, é que um agente futuro esteja firmemente comprometido a um curso condicional de ação que – no potencial ponto de execução – não será convincente.

A destruição mútua assegura foi ridicularizada por sua loucura, mas não é menos um limite externo da sanidade. Sua lógica é tão rigorosamente implacável quanto qualquer uma encontrada dentro das ciências sociais e históricas. A perturbação moral extrema que ela desperta fala em favor de sua racionalidade intransigente. Uma intuição angustiada não conta de nada em seu cálculo frio, a não ser como um obstáculo técnico. O fato de que as pessoas acham essa lógica de comprometimentos fatais herdados intolerável, como dramatizado com excepcional vividez na sequência de abertura da filme War Games de 1983, é nosso problema. O processo é re-roteado por nossos melindres, mas de forma alguma descarrilado. Há muito se suspeita que os humanos são fracos demais para a MAD.

Enquanto expressão de comprometimento absoluto, o terrorismo suicida parece fornecer um modelo microscópico à MAD, mas ele é fraco e enganador. Para além da diferença em escala, o terrorismo suicida falha através da execução. Ele comunica através da realização – ou demonstração de vontade – o que é o negativo da dissuasão. (Ou talvez, da dissuasão de um tipo, comprada a um preço alto.) O terror à beira do presente, e do futuro, tem modelos diferentes. Entre esses, o ‘suicídio quântico’ de escala civilizacional é talvez a concepção filosófica e ideológica mais exótica em nosso caminho. Dada a suposição de um multiverso (de Nível-3 ou superior), um apocalipse abrangente é racionalizado como a poda de ramos sub-ótimos. Opera como uma edição da realidade. As consequências na teoria dos jogos de tal perspectiva são intrigantes. Ela aumenta a credibilidade das ameaças (se aceita como um comprometimento intelectual sério), ao passo em que adapta a matriz de ganhos de uma maneira que só pode ser considerada desestabilizadora. A MAD clássica funciona melhor entre aqueles que vislumbram um resultado como a pior coisa do mundo, e ainda assim se comprometem com ele da mesma forma.

Aproximamo-nos aqui de um dos mais profundos problemas da engenharia social e institucional. Poderia ser chamado de Problema de Odisseu. Ao navegar pelas sereias, Odisseu antecipou a subversão do comprometimento e, assim, implementou um mecanismo sócio-técnico para atar sua própria ação futura. A estrutura é aquela de um ‘jogo de galinha’ – uma variação mutante do dilema do prisioneiro, na qual o jogador que desvia perde. Se você conseguisse recuar, você poderia. Tanto no dilema de Odisseu quanto naquele do jogador de galinha, a eliminação da discrição futura aparece como um recurso estratégico. A exigência de auto-atação se inclina a um congelamento tecnológico da decisão. Problemas estratégicos do tipo do ‘jogo de galinha’, assim, tendem inexoravelmente à automação.

Se a IA for posta em jogo pelas dinâmicas intrínsecas ao confronto nuclear, não para por aí. A IA tem uma potencialidade de ADM própria de si. Não há nenhum horizonte óbvio do que um algoritmo poderia fazer. As mesmas capacidades que permitem o controle algorítmico de arsenais de ADMs igualmente permitem que tais arsenais sejam substituídos pela própria IA. Um arsenal inimigo sob controle algorítmico só é ‘deles’ por contingências de dominância de software. Da perspectiva militar – entre outras orientadas à capacidade negativa – a destrutividade potencial da tecnologia não tem limite determinado. Qualquer coisa sob controle de software cai nesse âmbito. O que seria dizer, assintoticamente, tudo. Mas não acaba aí. A IA também promove um avanço à virtualidade.

Armamentos nucleares cortam um caminho convergente até a pureza da concepção. Nenhuma bomba de hidrogênio foi usada contra um inimigo ainda (ou “com raiva”, como a expressão singularmente inapropriada diz). Ogivas termonucleares permanecem entre uma seleta categoria de armas virtuais, ao lado de uma variedade de agentes químicos e biológicos, cujo uso tem sido exclusivamente diplomático, ou mesmo filosófico. O valor deste maquinário militar é estritamente contra-factual. Aqueles ‘mundos possíveis’ nos quais eles foram operacionalizados sustentam pouco, se qualquer, valor. Armamentos que sustentam sua potencialidade levantam a opção ontológica da utilidade negativa extrema. Eles são – no sentido mais rigoroso – geradores de pesadelos.

Não existe qualquer razão (que seja), então, para pensar que as armas nucleares são a última palavra em destruição em massa. Tampouco pode se assumir que a destruição em massa é o critério último para armamentos de dissuasão. Não é apenas que a física de alta-energia abre um vasto e errante bestiário de catástrofes virtuais que mal começamos a examinar (embora isto seja verdade). A física não tem nenhum monopólio sobre desastres, independente do que seus privilégios recentes possam sugerir.

Não pode nunca ser uma virtude que uma arma seja indiscriminada, ou seja, imprecisa. Virando ao avesso, podemos dizer sem hesitação ou reserva que é louvável em qualquer arma, não importa o quão absolutamente devastadora, que a maior proporção possível do dano que ela produz seja infligido sobre o inimigo. Em outras palavras, uma boa arma discrimina especificamente contra os interesses inimigos. Ela caça. Não pode haver qualquer dúvida séria de que as biociências genômicas e a engenharia de software têm mais a contribuir para essa busca do que a física jamais poderia.

Stuart Russell descreve armas autônomas como uma “classe nova e escalável de ADMs”. Os sistemas que ele está considerando seriam exemplificados por enxames de drones, “caçando em matilhas como lobos” (como um empregado da DARPA foi indiscreto o suficiente para revelar). Dados enormes ciclos de produção industrial, especificações de desempenho desprendidas da limitação humana e algoritmos de mira definidos para letalidade indiscriminada, o potencial devastador de tais armas seria difícil de exagerar. Suas vulnerabilidades chave, confiantemente previstas, contudo, são pelo menos igualmente significantes.

Como Russell enfatiza, armas autônomas poderiam ser subvertidas por uma “atualização de software” hostil. Elas poderiam ser hackeadas. Por trás da ameaça do hacker está aquela de uma inteligência artificial avançada, reunindo poderes superiores de arrombamento criptográfico e intrusão suave. Armamentos autônomos estão, portanto, aninhados em uma ameaça mais profunda.

A IA designa uma culminação, por assim dizer. Em nenhum outro lugar, capacidade destrutiva e comprometimento rígido prometem se interseccionar mais dinamicamente. Nada separa a arma do jogo. Também conta, potencialmente, como uma escalada.

Muito da crítica à corrida armamentista da Guerra Fria já a configurava como um risco existencial, antes do termo ter sido cunhado. Entre um X-risco e um dissuasor extremo, não há nenhuma fronteira definida. A diferença é técnica. Dissuasão é um modo de emprego. Ela usa utilidade negativa. Neste aspecto, qualquer coisa ruim poderia ser útil, não fosse que um dissuasor exige um gatilho, sob o controle do agente negociador (no ponto de negociação). Ameaçar um potencial agressor com um ataque de asteroides não faz nenhum sentido, a menos que um ataque de asteroides possa ser realizado. O mesmo vale para desastres geológicos em geral. Tudo isso significa que a aquisição de capacidades de engenharia nas maiores escalas, tais como geo-engenharia, controle e regulação climática e defesa por asteroides – talvez desenvolvidos explicitamente para evitar riscos existenciais – inevitavelmente expandirão o domínio das opções de dissuasão. Em outras palavras, o progresso tecno-econômico e a escalada da infraestrutura de dissuasão estão apenas formalmente diferenciados. Não há nenhuma maneira materialmente persuasiva de se melhorar o mundo que não amplie – em seu lado oculto – os horizontes de horror geopolítico.

Além do que se poderia ter, há a questão de quem tem. Além das qualidades dos antagonistas armados com ADMs, seu mero número é uma fonte de terror, em si. É apenas natural que se ache a dissuasão multilateral mais ameaçadora do que seu ideal bilateral e agora predecessor distante. A complexidade se escala de maneira não linear em redes e rapidamente se torna matematicamente intratável. Ninguém têm qualquer ideia de como redes de insegurança massivamente distribuídas funcionariam. Bastante provavelmente é impossível saber. A dissuasão está prestes a mudar de fase.

A pasta de dentes não volta para o tubo só porque faz uma bagunça. Uma vez que esteja fora, o inconveniente deixou de ser qualquer tipo de argumento contra ela. Os perigos de um mundo no qual a capacidade ubíqua de dissuasão reina são tanto óbvios quanto imensos. Este é, não obstante, o mundo em que estamos entrando. As tendências que o guiam, tanto do lado geopolítico quanto do tecno-econômico, são, por qualquer estimativa realista, irresistíveis. Armamentos de pesadelos mais baratos e mais diversos estão ficando disponíveis dentro de uma ordem internacional cada vez mais desintegrada. Uma variedade de dinâmicas auto-reforçadoras – incluindo, mas não limitadas àquelas do tipo de corridas armamentistas – estimulam ainda mais o processo. Uma aceleração em cascata é basicamente inevitável.

Quando concebida com o máximo de cinismo (ou seja, realismo), a independência geoestratégica é uma função direta da capacidade de dissuasão. Não pise em mim é a afirmação coloquial, cuja aplicabilidade perfeita normalmente é subestimada. A cascavel, que combina um armamento terrível com sinalização, constitui um totem natural da dissuasão. Nem o veneno, nem o chocalho são dispensáveis. “Diplomacia sem armas é como música sem instrumentos”, diz a famosa analogia, atribuída a Frederico, O Grande. A teoria dos jogos reconhece a capacidade militar como um meio de comunicação.

Não é apenas que a independência robusta depende da dissuasão. De maneira recíproca, a liberdade geoestratégica necessariamente tende à produção de capacidade de dissuasão. Uma liberdade alienígena, que consiga fazer qualquer coisa, é – ineliminavelmente – uma ameaça. Ela fornece o modelo abrangente da ameaça militar. Se ‘eles nos odeiam por nossa liberdade’ ou não, eles não têm qualquer escolha além de nos temer por ela, e inversamente. A geopolítica não tem qualquer outra origem. Qualquer estado sem a vontade de assustar também carece da vontade de existir.

É tudo bem mais básico do que fomos levados a crer. Como Niall Ferguson escreve (de maneira realista):

Na análise final, fronteiras são uma função do poder. Se você não consegue defendê-las, elas são apenas linhas pontilhadas. O cálculo da dinastia Kim foi de que os nukes são os derradeiros guardas da fronteiras. Logo descobriremos se esse cálculo estava correto. Se estiver, muito mais estados irão querê-los.

Toda entidade geopolítica que seja séria sobre a soberania vai querê-los, ou algo de credibilidade dissuasora pelo menos equivalente. A única alternativa é a pura dependência, tornada cada vez mais desconfortável pela crescente multipolaridade global, entre os resolutos destroços de qualquer ‘ordem mundial’ ou ‘comunidade internacional’ fundamentada na fantasia coletiva de normas supranacionais milagrosamente autorizadas. Proliferação explosiva será algo que o mundo não viu antes, mesmo que já tenha estado lá para ver. Podemos estar confiantes de que a ordem geopolítica será reconfigurada por ela.

O que significa proliferação explosiva? Potencialmente, muitas coisas. Por exemplo, vetores de desenvolvimento tecnológico – e, assim, econômico – por certo serão, em algum grau significativo, orientados por ela. Conforme a inteligência artificial seja fatorada na tomada de decisões sobre políticas, não apenas como um colaborador para o comando, controle, comunicações e inteligência (C³I), mas como uma intrínseca arma de destruição em massa, sua proeminência será ainda mais elevada.

A proliferação de ADMs implica em uma multiplicação das agências geopolíticas reais. É rigorosamente indistinguível – em ambas as direções – de um mundo desintegrado. Relações estabelecidas de dependência são quebradas, liberando liberdades não antecipadas – e evidentemente perigosas. Quer este seja o mundo que queremos ou não, parece cada vez mais inevitável que este é o mundo que devemos ter.

Original.

Curto-Circuito

Provavelmente o melhor modelo curto de risco da IA já proposto:

Não consigo encontrar o link, mas eu lembro de ouvir sobre um algoritmo evolutivo projetado para escrever código para alguma aplicação. Ele gerava código de maneira semi-aleatória, o executava através de uma “função de aptidão” que avaliava se ele era bom, e os melhores pedaços de código eram “cruzados” uns com os outros, depois ligeiramente modificados, até que o resultado fosse considerado adequado. […] Eles acabaram, claro, com um código que hackeava a função de aptidão e a configurava com algum inteiro absurdamente alto.

…Qualquer mente que funcione com aprendizado por reforço, com uma função de recompensa – e isto parece quase universal nas formas de vida biológicas e é cada vez mais comum na IA – terá a mesma falha de design. A principal defesa contra ela, até o momento, é simples falta de capacidade: a maioria dos programas de computador não são inteligentes o suficiente para “hackear sua própria função de recompensa” ser uma opção; quanto aos humanos, nossos centros de recompensa estão escondidos bem dentro de nossas cabeças, onde não conseguimos alcançar. Uma superinteligência hipotética não terá este problemas: ela saberá exatamente onde seu centro de recompensa está e será inteligente o suficiente para alcançá-lo e reprogramá-lo.

O resultado final, a menos que passos muito deliberados sejam tomados para impedi-lo, é que uma IA projetada para curar o câncer hackeia seu próprio módulo que determina quanto câncer foi curado e o configura com o maior número que sua memória é capaz de representar. Depois, ela anda por aí adquirindo mais memória, de modo que possa representar números mais altos. Se ela é superinteligente, sua opções para adquirir memória nova incluem “tomar todo o poder computacional do mundo” e “converter coisas que não são computadores em computadores”. A civilização humana é uma coisa que não é um computador.

(Superficialmente, parece com uma versão do – absurdo – maximizador de clipes, mas não é, absolutamente.)

Original.