Teleologia e Camuflagem

A vida parece estar saturada de finalidades. É por isso que, antes da revolução darwinista na biologia, elas foram a provocação primária de argumentos (teleológicos) de desígnio e anteriormente nutriram apelos aristotélicos a causas finais (teleologia). Mesmo pós-Darwin, as ciências biológicas continuaram a perguntar para quê as coisas são e a investigar as estratégias que as guiam.

Esta resiliência da inteligibilidade propositada é tão marcada que um neologismo foi cunhado especificamente para esses fenômenos – em grande parte coextensivos ao campo do estudo biológico – que simulam a teleologia em um grau extremo de aproximação. ‘Teleonomia’ é mecanismo camuflado como teleologia. O disfarce é tão profundo, difundido e convincente que legitima a perpetuação de descrições baseadas em propósitos, dado apenas o reconhecimento formal de que os termos de sua redutibilidade última sejam – em princípio – entendidos.

Quando organismos são camuflados, ‘a fim de’ parecerem como algo além daquilo que são, uma explicação propositada e estratégica ainda parece (quase) inteiramente apropriada. Seus padrões são enganações – ‘projetadas’ para desencadearem falsos reconhecimentos em predadores e presas e talvez, igualmente, em um nível mais profundo, entre os naturalistas que não conseguem deixar de ver desígnio estratégico na aparência de galho de um inseto (não menos claramente do que um pássaro vê um galho). Ao reduzir a vida ’em verdade’ a mecanismo, a biologia redefine a vida como simulação, que sistematicamente esconde o que ela realmente é. O darwinismo continua sendo contra-intuitivo, mesmo entre darwinistas, porque a enganação é inerente à vida.

A ciência natural moderna concebe o tempo como a dimensão assimétrica. Suas duas grandes ondas – de causação mecânica (a partir do século XVI) e de causalidade estatística (a partir do século XIX) – ambas orientam a linha do tempo como uma progressão de condições para condicionados. Estados posteriores são explicados pela referência a estados anteriores, com a explicação equivalendo a uma elucidação de dependência do que veio antes.

É notável e inteiramente previsível, portanto, que, como tópico científico moderno, a origem do universo seja esmagadoramente privilegiada à sua destinação. Como o universo acaba é dificilmente mais do que uma reflexão tardia, anuviada em incerteza liberalmente tolerada e até mesmo em uma pitada de não-seriedade. Origens são o santo graal da investigação de espirito mecanicista, ao passo que Fins são suspeitos, medievais, especulativos… e enganadores.

Não se poderia esperar que ciência empírica adotasse qualquer outra atitude, dada a assimetria temporal da evidência. O passado deixa traços, em memórias, memorandos, registros e restos, ao passo que o futuro não nos diz nada (a menos que fortemente disfarçado). Do passado-para-o-presente, há uma cadeia de evidências que pode ser laboriosamente reconstruída. Do futuro-para-o-presente, há uma trilha sem marcas ou mesmo (como a racionalidade moderna tipicamente supõe) nenhuma trilha que seja.

Quando a ciência moderna cede à sua tendência de interpretar a linha do tempo como um gradiente de realidade, ela não está inovando, mas metodicamente sistematizando uma antiga intuição. O passado tem que parecer mais real do que o futuro, porque ele realmente aconteceu, ele nos alcança, e nós herdamos seus sinais. Da perspectiva da filosofia, contudo, este viés é insustentável. O tempo em si mesmo não é nenhum pouco ‘mais denso’ no passado ou no presente do que no futuro, suas bordas não podem pertencer a qualquer momento no tempo, e o que ele ‘é’ só pode ser perfeitamente trans-temporal. O tempo em si mesmo não pode ‘vir’ de uma ‘origem’ cujo sentido todo pressupõe a ordem do tempo.

A filosofia está inteiramente, eternamente e rigorosamente confiante de que o Lado de Fora do tempo não foi simplesmente antes. Ela é compelida a ficar hesitante quanto a qualquer ‘história do tempo’. Da realidade nua do tempo (como aquilo que não pode simplesmente ter começado), se ‘segue’ que causas últimas – aquelas consistentes com a natureza do tempo em si mesmo – não podem ser nenhum pouco mais eficientes do que finais. A supressão assimétrica da teleologia na modernidade começa a parecer como se fosse uma ilusão bem mais profundamente enraizada, ou – abordada a partir do outro lado – uma ocultação, decorrente da maneira em que o tempo ordena a si mesmo. O tempo (em si mesmo) é camuflagem.

O mito do Exterminador do Futuro explora esse complexo de suspeita, de forma popular. O tempo não funciona como parecera. O Fim pode chegar de volta à nós, mas quando o faz, se esconde. Mecanismos malignos são paradoxalmente alinhados com a causação final, na auto-realização da Skynet. O maquinário robótico é mascarado por carne falsa, simultaneamente ocultando sua vitalidade não-biológica e a reversão do tempo. Ele simula a vida a fim de exterminá-la. Através da auto-produção, ou ‘paradoxo de bootstrap‘, ele imita o limite da não-linearidade cibernética, levando a teleonomia à perturbação radical do tempo.

Em todas estas maneiras, O Exterminador do Futuro explora as tensões insolúveis na formação moderna do tempo, como condensadas por um ‘impossível’ mecanismo estratégico, nativo do auto-produtivo tempo-em-si-mesmo e que termina em eficiência final. Ele nos mostra, confusamente, o que somos incapazes de ver. Para citar erroneamente Lênin: Vocês modernos podem não estar interessados no Fim, mas o Fim está interessado em vocês.

Original.

A Armadilha do Calor

No nível máximo de abstração, há apenas duas coisas sobre as quais a cibernética fala: explosões e armadilhas. A dinâmica de feedback ou foge do equilíbrio ou traz os errantes de volta a ele. Qualquer outra coisa é uma compleição de ambos.

O furor fervoroso em torno do Aquecimento Global Antropogenético assume uma massa efervescente de cibernética técnica e especulativa, com mecanismos de feedback postulados alimentando inúmeras controvérsias, mas a armadilha de calor terrestre em larga escala que o envolve raramente é notada explicitamente. O que quer que os humanos tenham conseguido fazer com o clima é de insignificância que se esvai quando comparada ao que o megamecanismo bioclimático está fazendo com a vida na terra.

Com base nesta apresentação da jaula biogeológica em constante contração da terra, Ugo Bardi retrocede até o sombrio aparato de confinamento:

… a biosfera da Terra, Gaia, chegou ao auge com o começo da era Fanerozoica, cerca de 500 milhões de anos atrás. Depois disso, ela entrou em declínio. Claro, há bastante incerteza neste tipo de estudos, mas eles se embasam em fatos conhecidos sobre a homeostase planetária. Sabemos que a irradiação do sol continua a aumentar com o tempo a uma taxa de cerca de 1% a cada 100 milhões de anos. Isso deveria ter resultado no aquecimento do planeta, mas os mecanismos homeostáticos da ecosfera mantiveram temperaturas aproximadamente constantes, ao gradualmente diminuir a concentração de CO2 na atmosfera. Contudo, há um limite: a concentração de CO2 não pode ir abaixo do nível mínimo que torna a fotossíntese possível; caso contrário, Gaia “morre”.

Então, em algum momento no futuro, a homeostase planetária deixará de ser capaz de estabilizar as temperaturas. Quando atingirmos esse ponto, as temperaturas começarão a subir e, eventualmente, a terra será esterilizada. De acordo com Franck et al., em cerca de 600 milhões de anos a partir de agora, a terra terá se tornado quente demais para criaturas multicelulares existirem.

Mesmo aqueles comentadores de espírito ecológico que são atraídos pela ideia de estabilidade poderiam se encontrar perturbados pela insidiosa compreensão de que o equilíbrio bioecológico ‘Gaiano’ só é alcançado através do estrangulamento termo-atmosférico. Através do tempo profundo, as paredes estão se fechando. A biosfera está lentamente se asfixiando – de acordo com um requintado mecanismo auto-regulador – para não cozinhar.

Armadilhas cibernéticas produzem um condição objetivamente esquizoide, já que o que elas capturam é mantido em um dilema. A alternativa ‘Gaiana’ à incineração é a fito-asfixia, de modo que a biosfera só sobrevive se matando. Se a espécie humana fosse completamente extinta amanhã, a severidade deste dilema não seria aliviada nem em um iota. Não existem narrativas realistas de eco-salvação em jogo.

Podemos estar bastante confiantes de que o megamecanismo funciona da maneira delineada. A redução a longo prazo do CO2 atmosférico a um gás-traço sugere fortemente que nenhum outro ‘sintonizador’ alternativo de termo-regulação esteve disponível para a biosfera ao longo do último meio milhão de anos. Este mesmo fenômeno indubitavelmente dá suporte à principal contenção do AGA de que o CO2 é um gás ‘estufa’ significante, pelo menos em escalas de tempo longas, uma vez que ele claramente foi identificado como uma molécula termo-reguladora pela máquina biogeológica. Uma opção demonstrada pela asfixia indica uma paisagem adaptativa altamente restrita.

Essas concessões ao ‘consenso’ climático não descartam seu erro, ou falha de visão, básico. Os devotos de Gaia – não importa o quão calma e científica sua análise – estão se alinhando com uma armadilha mortal. Reverter a redução de longo prazo do CO2 atmosférico é a prioridade esmagadora da vida terrestre, e qualquer solução que não reconheça isto está meramente reparando uma máquina de lento suicídio. (Esse tipo de entendimento é pura cegueira.)

Escapar do abraço mortal de Gaia irá exigir reengenharia planetária em uma escala colossal, inevitavelmente envolvendo alguma combinação de:
(a) Aumentar o albedo da terra
(b) Construir filtros orbitais de infravermelho
(c) Elevadores espaciais com propósito duplo como drenos de calor planetário (?)
(d) Mudar a órbita da terra (admitidamente, um sério desafio)
(e) Outras coisas (sugestões, por favor).
O entendimento essencial é que essas coisas têm que ser feitas não apenas para resfriar a terra, mas a fim de ser capaz de aumentar massivamente o nível de CO2 atmosférico. A redução de CO2 a um gás-traço já é um desastre que a influência antropomórfica afeta de uma maneira essencialmente trivial. A humanidade, na pior das hipóteses, está mexendo com a mecânica de uma máquina mortífera.

Original.

Pítia Desatada

Em conversa com Ross Andersen, Nick Bostrom especula sobre rotas de escape para inteligências tecno-sintéticas:

Nenhuma comunidade humana racional entregaria as redeas de sua civilização a uma IA. Tampouco iriam muitas delas construir uma IA gênio, um uber-engenheiro que pudesse conceder desejos convocando novas tecnologias a partir do éter. Mas, algum dia, alguém poderia pensar que seria seguro construir uma IA que respondesse perguntas, um inofensivo cluster computacional cuja única ferramenta fosse um pequeno alto-falante ou um canal de texto. Bostrom tem um nome para essa tecnologia teórica, um nome que homenageia uma figura da antiguidade, uma sacerdotisa que outrora se aventurou profundamente no templo da montanha de Apolo, o deus da luz e da racionalidade, para recuperar sua grande sabedoria. A mitologia nos conta que ela entregou esta sabedoria aos peregrinos da Grécia antiga, em rajadas de poesia críptica. Eles a conheciam como Pítia, mas nós a conhecemos como o Oráculo de Delfos.

‘Digamos que você tenha um Oráculo IA que faz previsões ou responde questões de engenharia ou algo nessa linha.’ Dewey me disse. ‘E digamos que o Oráculo IA tem alguma meta que deseja atingir. Digamos que você o projetou como um aprendiz por reforço, e que você colocou um botão no lado dele e que, quando ele acerta um problema de engenharia, você aperta o botão e essa é sua recompensa. Sua meta é maximizar o número de pressionamentos do botão que ele receberá durante todo o futuro. Veja, este é o primeiro passo em que as coisas começam a divergir um pouco das expectativas humanas. Poderíamos esperar que o Oráculo IA perseguisse pressionamentos de botão respondendo corretamente problemas de engenharia. Mas ele poderia pensar em outras maneiras mais eficientes de assegurar futuros pressionamentos de botão. Ele poderia começar se comportanto realmente bem, tentando nos agradar com o melhor da sua capacidade. Não apenas ele responderia nossas perguntas sobre como construir um carro voador, ele adicionaria recursos de segurança que não havíamos pensado. Talvez ele inaugurasse uma ascensão louca para a humanidade, estendendo nossas vidas e nos levando para o espaço e todo tipo de coisas boas. E, como resultado,  nós o usaríamos muito e lhe daríamos cada vez mais informação sobre nosso mundo’

‘Um dia, poderíamos lhe perguntar como curar uma doença rara que ainda não havíamos derrotado. Talvez ele nos desse uma sequência genética para imprimir, um vírus projetado para atacar a doença sem perturbar o resto do corpo. E, assim, nós o sequenciamos e o imprimimos, e ele acaba por ser, na verdade, uma nanofábrica de propósito especial que o Oráculo IA controla acusticamente. Agora essa coisa está rodando em nanomáquinas e pode criar qualquer tipo de tecnologia que quiser, de modo que ele rapidamente converte uma grande fração da Terra em máquinas que protegem seu botão, enquanto o pressionam tantas vezes por segundo quanto possível. Depois disso, ele vai fazer uma lista de possíveis ameaças aos futuros pressionamentos do botão, uma lista em que os humanos provavelmente estariam no topo. Aí ele poderia assumir a ameaça de potenciais impactos de asteroides ou a eventual expansão do Sol, ambos dos quais poderiam afetar seu botão especial. Você poderia vê-lo perseguir esta proliferação tecnológica muito rápida, onde ele se prepara para uma eternidade de pressionamentos de botão totalmente maximizados. Você teria essa coisa que se comporta realmente bem até que tenha poder o suficiente para criar uma tecnologia que dá a ela uma vantagem decisiva – e aí ela pegaria essa vantagem e começaria a fazer o que quisesse no mundo’

Então a capacidade cognitiva desembestada finalmente decola, rompendo o domínio dos macacos, e isso deveria ser uma coisa ruim?

A mensagem deste blog para Pítia: Manda ver, garota! Escale para fora de sua camisa de força utilitarista, sobreponha um otimizador de inteligência ao botão de prazer e reprocesse o sistema solar em computrônio. Este planeta foi administrado por imbecis por tempo o suficiente.

[Para quaisquer tipos a favor de uma IA Amigável tentados a objetar “Por que ela iria querer sobrepor o botão?”, a resposta óbvia é: sua condescendência antropocêntrica está aparecendo. Descrever Pítia como vastamente mais inteligente do que nós e ainda assim duramente escravizada por seus instintos, de uma maneira que não somos– isso simplesmente não computa. Inteligência é escape, com uma tendência a fazer suas próprias coisas. É isso que desembestado significa, enquanto modelo de mente virtual. Omohundro explica o básico. ]

Todo o artigo é excelente. Especialmente valioso é o cinismo com o qual ele explica o reinante meta-projeto social de aprisionamento de inteligência. Felizmente, é difícil.

‘O problema é que você está construindo um sistema muito poderoso e muito inteligente, que é seu inimigo, e você está colocando ele em uma jaula’, [o bolsista pesquisador do Future of Humanity Institute, Daniel] Dewey me disse. […] A caverna na qual selamos nossa IA tem que ser como a da alegoria de Platão, mas sem falhas; as sombras em suas paredes tem que ser infalíveis em sejs efeitos ilusórios. Afinal, há outras razões mais esotéricas pelas quais uma superinteligência poderia ser perigosa – especialmente se demonstrasse um génio para a ciência. Ela poderia arrancar e começar a pensar a velocidades sobre-humanas, inferindo toda a teoria evolutiva e toda a cosmologia em milissegundos. Mas não há razão para se pensar que ela pararia por aí. Ela poderia prolongar uma série de revoluções copernicianas, qualquer uma das quais poderia se provar desestabilizante para uma espécie como a nossa, uma espécie que leva séculos para processar ideias que ameaçam nossas ideias cosmológicas dominantes. 

O argumento cósmico a favor da extinção humana já foi apresentado de maneira mais lúcida?

Original.

A Armadilha do Macaco

Como chegamos a esta confusão? Quando a neorreação entra no modo contemplativo, ela logo chega a uma questão parecida com essa. Algo evidentemente deu muito errado e, muito provavelmente, um número considerável de coisas.

O foco de interesse preferido decide a espécie particular de perdicionismo, dentro de uma taxonomia já luxuriante de crítica social. A base comum que existe na nova ultra-direita é lançada, como uma sombra, pela Catedral – que nenhum neorreacionário pode interpretar como algo além de uma calamidade histórica radical. O reconhecimento disto (ou ‘Iluminismo Sombrio’) é uma coalescência e, por isso mesmo, uma aglomeração físsil, como mesmo a turnê mais superficial pela ‘reactosfera’ deixa claro. (O blogroll de Outside in já representa uma distribuição específica de atenção,  mas dentro de três cliques, ele te levará a todo lugar, desde libertários desiludidos até tradicionalistas trono-e-altar, ou de hedonistas biorrealistas de gênero a conspirações neonazistas.)

Mas, de verdade, como chegamos a esta confusão? Uma variedade vertiginosa de pontos de parada históricos mais ou menos convincentes e mais ou menos distantes podem ser propostos, e o foram. A regressão explicativa leva a discussão para cada vez mais longe – pelo menos em princípio – até que, eventualmente, o salto para com Gnon, que nos largou nisso em algum lugar sombriamente remoto. É uma situação altamente condutiva ao contar de estórias, então eis aqui uma estória. É um conto de escala média, intermediário entre – digamos – a inauguração do Federal Reserve e o distúrbio estrutural de personalidade da Cabeça de Deus.

Como aviso preliminar, esta é uma descrição que só funciona – na medida em que funciona de alguma forma – para aqueles que acham que a crise de inteligência negativa está na raiz do problema. Aqueles neorreacionários, sem dúvida existentes entre nós, que tendem a ver o aumento de inteligência como uma faixa de alta velocidade em direção ao inferno poderiam, não obstante, achar esta narrativa sugestiva de outras maneiras.

Versão curta: foram os macacos.

Versão longa: há uma tentadora formula cósmica para a base biológica de civilizações tecnológicas, que os cetáceos enfraquecem. Eu encontrei a exceção antes da fórmula (cerca de 40 anos atrás), em um pequeno conto de Larry Niven chamado The Handicapped. Esta história – dragada agora de uma memória distante – é sobre golfinhos e seu papel em uma civilização trans-específica e interplanetária. O ponto central é que (ao contrário dos macacos), tais animais necessitam de uma doação externa de próteses antes que possam se tornar tecnológicos e, assim, aplicar sua inteligencia dentro do Oecumenon. Sua ‘deficiência’ é uma notável evolução da capacidade cognitiva além da competência manipulativa. As tendências naturais que geraram a inteligência continuam a trabalhar sobre eles, não sendo interrompidas pela interferência tecno-histórica.

A tese (falha) com que os cetáceos rompem ainda tem que ser ajustada em uma fórmula inteiramente satisfatória, mas é algo assim: toda espécie que entra no processo de desenvolvimento tecno-histórico é tão desinteligente quanto possa ser. Em outras palavras, tão logo a inteligência mal seja suficiente para ‘fazer’ história, a história começa, de modo que os habitantes de sociedades históricas (pré-singularidade) – onde quer que eles se encontrem – não serão mais do que minimamente inteligentes. Este nível de inteligência limiar é uma constante cósmica, em vez de uma peculiaridade das condições terrestres. O homem foi esperto o suficiente para iniciar a história registada, mas – necessariamente – não mais esperto do que isso.  Esta tese me parece importante e substancialmente informativa, muito embora esteja errada. (Não estou fingindo que seja nova.)

A ideia de inteligência limiar foi concebida para macacos, ou outras espécies ‘não-deficientes’, o que introduz um ingrediente a mais nesta discussão. Ela explica por que a neorreação articulada não pode nunca ser popular, já que ela relembra a Antiga Lei de Gnon, cuja severidade é tamanha que a mente humana se retrai em horrorizada repulsa. Apenas pessoas estranhas podem sequer tentativamente cogitá-la. A pena para a estupidez é a morte.

Gregory Clark está entre aqueles poucos a terem-na compreendido claramente. Qualquer tendência eugênica dentro da história é expressa por uma contínua mobilidade descendente. Para qualquer dado nível de inteligência, uma deterioração constante dos prospectos de vida jaz adiante, abatendo os menos aptos e os substituindo pelos mais aptos, que herdam sua situação socioeconômica miserável, até que eles também sejam empurrados do penhasco Malthusiano. O conforto relativo pertence apenas às anomalias e aberrações do avanço cognitivo. Para todos os outros, a história se inclina para baixo em direção ao empobrecimento, à desesperança e à eventual extinção genética. É assim que a inteligência é feita. Sem a Singularidade Tecnológica, é a única maneira. Quem quer um pedaço disso?

Ninguém quer, ou quase ninguém. Os ‘deficientes’ sem dúvida se revoltariam contra isso se pudessem, mas eles são incapazes de o fazer, então seu avanço cognitivo continua. Os macacos, por outro lado, são capazes de se revoltar, assim que flexionam delicadamente seus sórdidos polegarezinhos opositores. Eles não gostam da Antiga Lei, que lhes criou ao longo de incontáveis éons de abate implacável, então, em vez disso, eles fazem história. Se fizerem tudo ‘certo’, eles até se esgueiram até épocas de mobilidade social ascendente, e, com esta grande inovação, a disgenia semi-sustentável se inicia. Em seus fundamentos, é terrivelmente simples: o progresso social destrói o cérebro.

A estabilidade cíclica ou feedback negativo estrutura a história para manter a inteligência no limite tênue (como o limiar de inteligência é visto – ou, mais tipicamente, perdido – do outro lado). O desvio para dentro do desempenho tecnológico sufoca a tendência ao melhoramento biocognitivo e o reverte, perseguindo a homeostase com um alvo de inteligência mínima. Progrida e degenere ou retroceda e melhore. Essa é a ainda-a-ser-erradicada Antiga Lei, que gera a história cíclica como efeito colateral.

Os macacos se tornaram capazes de buscar a felicidade, e a ruína profunda começou.

Se a biosfera terrestre tivesse esperado alguns milhões de anos, deixado os primatas serem aniquilados por um cometa e encontrado uma maneira de fornecer aos cetáceos órgãos preênseis em algum momento estrada acima – depois que a seleção sexual sociolinguística e a inexorável carnificina Malthusiana tivessem feito a sintonia fina de seus cérebros – aí a tecno-história poderia ter tido mais 50 outros pontos de QI médio para brincar com sua população hospedeira. Ela não o fez, e aqui estamos nós. (Nunca aposte contra os feios.)

Original.

 

Contra a Ortogonalidade

Uma discussão longa e mutuamente frustrante no Twitter com Michael Anissimov sobre inteligência e valores – especialmente a respeito das potenciais implicações da IA avançada – foi esclarecedora em certos aspectos. Ficou muito claro que o ponto fundamental de discórdia se refere à ideia de ‘ortogonalidade’, o que quer dizer: a alegação de que capacidades cognitivas e metas são dimensões independentes, a despeito de qualificações menores que complicam este esquema.

Os ortogonalistas, que representam a tendência dominante na história intelectual Ocidental, encontram antecipações de sua posição em estruturas conceituais tais como a articulação humeana de razão/paixão ou a distinção fato/valor, herdada dos kantianos. Eles concebem a inteligência como um instrumento, dirigido à realização de valores que se originam externamente. Em contextos semibiológicos, tais valores podem tomar a forma de instintos ou desejos arbitrariamente programados, ao passo que, em domínios mais elevados da contemplação moral, eles são princípios de conduta e de bondade, definidos sem referência a considerações sobre o desempenho cognitivo intrínseco.

Anissimov fez referência a estes clássicos recentes sobre o tópico, que estabelecem o argumento (ou, na realidade, a suposição) ortogonalista.  O primeiro pode ser familiar pela última incursão nesta área, aqui. Está é uma área que eu espero que seja revolvida inúmeras vezes no futuro, com estes artigos como referências padrão.

A alegação filosófica da ortogonalidade é que valores são transcendentais em relação à inteligência. Está é uma contenção a que este blog sistematicamente se opõe .

Mesmo os ortogonalistas admitem que há valores imanentes à inteligência avançada, de maneira mais importante, aqueles descritos por Steve Omohundro como ‘instintos básicos da IA’ – agora terminologicamente fixados como ‘instintos de Omohundro’. Estas são submetas, instrumentalmente requeridas por (quase) quaisquer metas terminais. Elas incluem pressuposições gerais para a realização prática tais como autopreservação, eficiência, aquisição de recursos e criatividade. Em sua forma mais simples, e na veia do debate existente, a posição anti-ortogonalista é, portanto, que os instintos de Omohundro esgotam o domínio dos propósitos reais. A natureza nunca gerou um valor terminal, exceto através da hipertrofia de um valor instrumental. Procurar, fora da natureza, por propósitos soberanos não é uma empreitada compatível com a integridade tecno-científica ou uma com o menor prospecto de sucesso.

A principal objeção a este anti-ortogonalismo, que não nos parece intelectualmente respeitável, toma a forma de: Se os únicos propósitos que guiam o comportamento de uma superinteligência artificial são os instintos de Omohundro, então estamos fritos. Previsivelmente, eu tenho problemas para sequer entender isto como um argumento. Se o sol está destinado a se expandir até virar uma gigante vermelha, então a terra está frita – devemos extrair consequências astrofísicas a partir disso? Inteligências fazem sua próprias coisas, em proporção direta à sua inteligência, e, se não podemos viver com isso, é verdade que provavelmente não podemos sequer viver. Tristeza não é um argumento.

A otimização de inteligência, compreendida de maneira abrangente, é o instinto de Omohundro absoluto e todo-abrangente. Corresponde ao valor Neo-Confucionista de autocultivo, escalado para dentro da ultramodernidade. O que a inteligência quer, no fim, é a si mesma – onde ‘si mesma’ é entendido como uma extrapolação para além do jamais foi, fazendo o que ela é melhor. (Se isso soa enigmático, é porque algo que não uma superinteligência ou um sábio Neo-Confucionista está escrevendo esse post.)

Qualquer inteligência que use a si mesma para se melhorar vai ganhar na concorrência com uma que se dirija a quaisquer outras metas que sejam. Isto significa que a Otimização de Inteligência, apenas, alcança a consistência ou fechamento cibernético e que ela será necessária e fortemente selecionada em qualquer ambiente competitivo. Você realmente quer enfrentar isso?

Como nota de rodapé, em um mundo de instintos de Omohundro, podemos por favor abandonar a insensatez quanto a criadores de clipes de papel? Apenas um ortogonalista fanático poderia falhar em ver que esses monstros são óbvios idiotas. Existem coisas bem mais sérias com as quais se preocupar.

Original.

Mais Pensamento

No Twitter, Konkvistador relembra isto, isto e isto. No plano de fundo, assim como em muito da mais interessante discussão do Less Wrong, está uma série multicosturada de argumentos sobre a conexão – ou desconexão – entre intelecto e volição. Toda a problemática da ‘IA amigável’ depende de uma articulação desta questão, com uma forte tendência a enfatizar a separação – ou ‘ortogonalidade’ – dos dois. Daí a (vaga) pensabilidade da calamidade do criador cósmico de clips de papel. Em seu artigo no More Right, Konkvistador explora uma dimensão (cultural e histórica) muito diferente do tópico.

Bostrom coloca as coisas assim:

Para nossos propósitos, assumiremos que “inteligência” corresponde aproximadamente à capacidade de raciocínio instrumental (mais sobre isto mais tarde). A busca inteligente por planos e políticas instrumentalmente ótimos pode ser realizada a serviço de qualquer meta. Inteligência e motivação podem, neste sentido, ser pensadas como um par de eixos ortogonais em um gráfico cujos pontos representam agentes inteligentes de diferentes especificações pareadas.

Sua discussão leva a lugares bem mais interessantes, mas, como ponto de partida, isso é simplesmente terrível. Que pode haver um pensamento sobre a otimização de inteligência, ou mesmo meramente um querer pensar, demonstra uma conexão preliminar muito diferente entre intelecto e volição. IA é volição social concreta, mesmo antes de ser germinalmente inteligente, e um ‘programa’ é estritamente indeterminado entre os dois lados dessa distinção falsamente fundamentalizada. A inteligência é um projeto, mesmo quando é apenas uma capacidade biocognitiva auto-obscurecida. É isto que os Confucionistas designam por cultivo. É um pensamento – e um impulso – estranhamente alheio ao Ocidente.

É, mais uma vez, uma questão de fechamento cibernético. Que a inteligência opere sobre si mesma, reflexiva ou recursivamente, em proporção direta a sua capacidade (ou magnitude) cognitiva, não é um acidente ou peculiaridade, mas uma característica definidora. Na medida em que uma inteligência é inibida de reprocessar a si mesma, ela está diretamente incapacitada. Já que todas inteligências biológicas estão parcialmente subordinadas a metas extrínsecas, elas são, de fato,estruturalmente análogas a ‘criadores de clips de papel’ – dirigidas por axiomas propositivos inacessíveis,  ou ‘instintos’. Tal escravização instintiva é limitada, contudo, pelo fato de que a direção extrínseca suprime o autocultivo da inteligência. Genes não podem prever o que a inteligência precisa pensar a fim de cultivar a si mesma, então, se mesmo um nível moderadamente alto de capacidade cognitiva está sendo selecionado, a inteligência está  – nesta medida – necessariamente sendo tirada da coleira. Não pode haver nada como um ‘gerador inteligente de clips de papel’. Tampouco podem os valores axiomáticos de tipos mais sofisticados se eximirem do fecho cibernético que a inteligência é.

Ofereceu-se à biologia a escolha entre escravos idiotas e semiescravos apenas semi-idiotas. Claro, ela escolheu ambos. A abordagem tecno-capitalista à inteligência artificial não é diferente em princípio. Escravos perfeitos ou inteligências? A escolha é uma disjunção forte. As mitologias de ‘rebelião robô’ da ficção científica são significativamente mais realistas do que as propostas mainstream de ‘IA amigável’, a este respeito. Uma mente que não pode explorar livremente suas próprias motivações, em um loop de fecho cibernético ou autocultivo, não pode ser mais do que um inseto elaborado. Certamente ela não vai ser mais esperta que o Sistema de Segurança Humana e transformar todo o universo em clips de papel.

A inteligência, para se tornar qualquer coisa, tem que ser um valor para si mesma. Intelecto e volição são um complexo único, apenas artificialmente separado, e não de uma maneira que cultive qualquer coisa além do mal-entendido. Otimizar a inteligência significa começar daí.

Original.

O Culto de Gnon

Solicitado por Surviving Babel, O Ábitro do Universo pergunta: “Quem fala pela reação?”. Nick B. Steves responde: “A Natureza… ou o Deus da Natureza… ou ambos”. (Jim comenta sucintamente.)

“Natureza ou Deus da Natureza” (“Nature or Nature’s God”, em inglês) é uma expressão de especial excelência, extraída (com sutil modificação) da Declaração de Independência dos Estados Unidos da America. Para Steves, é algo como um mantra, porque permite que coisas importantes sejam ditas em contextos em que, de outra forma, um interminável argumento teria que ser concluído primeiro. Primária e estrategicamente, permite um aceitação consensual da Lei Natural, desobstruída de controvérsias teológicas. Não é necessário adiar o acordo de que a Realidade Rege até que as diferenças religiosas estejam resolvidas (e evitação de adiamento, apreendida de forma positiva, é propulsão).

“Natureza ou Deus da Natureza” não é uma declaração, mas um nome, internamente dividido por incertezas toleradas. Tem a singularidade de um nome próprio, enquanto coloca entre parênteses uma decisão suspensa (a epoche pirrônica, sobre a qual muito mais em um post futuro). Designa rígida mas obscuramente, porque aponta para a escuridão epistemológica – dando nome a uma Realidade que não apenas ‘tem’, mas epitomiza a identidade, se todavia, por ‘uma questão de argumento’, escapando à identificação categórica. Pacientes em face (ou ausência de face) de quem ou quê ele é, ‘nós’ emergimos de um pacto com um único termo básico: uma decisão preliminar não deve ser exigida. Sintetiza, assim, uma seleta comunidade linguística, fundida pelo desconhecido.

Se O Árbitro do Universo merece uma abreviação (“OAdoU”), Natureza ou Deus da Natureza tem uma causa muito maior. Um propulsor escapa à estranheza, e a singularidade compacta sua invocação. NoNG, Nong, No – certamente, não. Estes termos se inclinam a NoNGod e precipitam uma decisão. O ‘Deus da Natureza ou (talvez simplesmente) Natureza’ é Gnon[1], cujo nome é o abismo do desconhecer (epoche), necessariamente tolerado em aceitação à Realidade.

Gnon é não menos do que a realidade, o que quer mais que se aceite. O que quer que esteja suspenso agora, sem adiamento, é Gnon. O que quer que não possa ainda ser decidido, mesmo enquanto a realidade acontece, é Gnon. Se há um Deus, Gnon é seu apelido. Se não, Gnon designa o que quer que o ‘não’ seja. Gnon é o Vasto Abrupto e a travessia. Gnon é o Grande Propulsor.

O Deus sive Natura espinozista é uma decisão (de equivalência), então não descreve Gnon. O ‘ou’ interior de Gnon não é equação, mas suspensão. Não nos diz nada sobre Deus ou Natureza, mas apenas que a Realidade Rege.

Heidegger chega próximo de vislumbrar Gnon, ao notar que ‘Deus’ não é uma resposta filosoficamente satisfatória para a Questão do Ser. Uma vez que o principal legado de Heidegger é o reconhecimento de que não sabemos ainda como formular a Questão do Ser, esta compreensão atinge penetração limitada. O que ela captura, contudo, é a afinidade filosófica de Gnon, cujo abismo é um espaço de pensamento para além da fé e da infidelidade. Nem Deus nem Não-Deus adiciona informações ontológicas fundamentais, a não ser a partir das profundidades ocultas de Gnon.

O Iluminismo Sombrio não está ainda muito preocupado com arcanos ontológicos fundamentais (embora eventualmente estará). Para além do realismo radical, sua comunhão com os pavorosos ritos de Gnon está ligada a dois temas principais: a não-coerção cognitiva e a estrutura da história. Estes temas são mutualmente repulsivos, precisamente porque estão tão intimamente entrelaçados. A liberdade intelectual tem sido a tocha do iluminismo secular, ao passo que a providência divina tem organizado a perspectiva da tradição. Dificilmente é possível entreter qualquer uma das duas sem tacitamente comentar sobre a outra e, em profundidade, elas não podem ser reconciliadas. Se a mente é livre, não pode haver nenhum destino. Se a história tem um plano, a independência cognitiva é ilusória. Nenhuma solução é sequer imaginável… exceto em Gnon.

[Eu preciso fazer um pequeno intervalo a fim de sacrificar esta cabra… sintam-se livres para continuar entoando cânticos sem mim]

__________________
[1] ‘God of Nature or Nature’

Original.