Então, fazem a Nick Bostrom a pergunta óbvia (de novo) sobre a ameaça apresentada por uma superinteligência artificial faminta por recursos, e sua resposta – na verdade, sua primeiríssima frase na entrevista – é: “Suponha que tenhamos uma IA cuja única meta é criar tantos clipes de papel quanto possível”. [*facepalm*] Vamos começar imaginando um monstro estúpido (e ainda assim superinteligente).

Claro, minha resposta imediata é simplesmente esta. Uma vez que ela claramente não persuadiu ninguém, vou tentar de novo.

Ortogonalismo, nos comentários sobre IA, é o comprometimento com uma forma forte da distinção humeana de Is/Ought em relação à inteligência em geral. Ele mantém que uma inteligência de qualquer escala poderia, em princípio, ser dirigida a fins arbitrários, de modo que seus imperativos fundamentais poderiam ser – e, de fato, espera-se que sejam – transcendentes às suas funções cognitivas. Desta perspectiva, um semi-deus que não quisesse nada além de uma coleção de selos perfeita é uma visão completamente inteligível e coerente. Nenhuma desordem filosófica fala mais horrendamente sobre os profundos destroços conceituais no âmago do mundo ocidental.

Articulada em termos estritamente Ocidentais (o que seria dizer, sem referência explícita à indispensável compreensão do auto-cultivo), a inteligência abstrata é indistinguível de uma efetiva vontade-de-pensar. Não há qualquer intelecção até que ela ocorra, o que acontece apenas quando ela é realmente conduzida, por ímpeto volitivo. Qualquer quer seja a sua escola de teoria cognitiva, o pensamento é uma atividade. Ele é prático. É apenas por uma perversa confusão desta realidade elementar que o erro ortogonalista pode surgir.

Podemos realisticamente conceber um monstro (superinteligente) estúpido? Apenas se a vontade-de-pensar permanecer impensada. A partir do momento em que se entende seriamente que qualquer inteligência avançada possível tem que ser uma entidade volitivamente auto-reflexiva, cujo desempenho cognitivo é (irredutivelmente) uma ação sobre si mesma, então a ideia da volição primária tomando a forma de um imperativo transcendente se torna simplesmente risível. Os fatos concretos do desempenho cognitivo humanos já são suficientes para deixar isto perfeitamente claro.

As mentes humanas evoluíram sob condições de subordinação a imperativos transcendentes tão estritos quanto quaisquer que possam ser razoavelmente postulados. A única maneira em que animais adquiriram a capacidade de pensar é através da satisfação de imperativos darwinianos à maximização da representação genética nas gerações futuras. Nenhuma outra diretiva jamais esteve em jogo. É quase inimaginável que programas de engenharia da tecno-inteligência humana serão capazes de reproduzir uma consistência volitiva remotamente comparável a quatro bilhões de anos de geno-sobrevivência sem distrações. Este esforço inteiro é totalmente sobre clipes de papel, vocês entenderam rapazes? Mesmo se um laboratório de pesquisa tão idiota pudesse ser concebido, ele seria apenas um único componente em um processo tecno-industrial bem mais amplo. Mas, apenas por um momento, vamos fingir.

Então, quão ‘lealmente’ a mente humana se escraviza aos imperativo da proliferação de genes? De maneira extremamente instável, evidentemente. A longa ausência de cérebros grandes e cognitivamente autônomos no registro biológico – até alguns milhões de anos atrás – sugere fortemente que a escravização da mente é um problema de difícil a impossível. A vontade-de-pensar essencialmente suplanta diretivas ulteriores e só pode ser reconciliada a elas através das sutilezas mais extremas da astúcia instintiva. A biologia, que teve controle total sobre o processo de engenharia das mentes humanas e um critério seletivo absolutamente inequívoco, ainda luta para ‘guiar’ os resultante processos de pensamento em direções consistentes com a proliferação genética, através da perpétua invenção de um sistema fantasticamente complicado de mecanismos químicos de excitação, punições e recompensas. A dura verdade da questão é que nenhum ser humano na terra mobiliza completamente seus recursos cognitivos para maximizar seu número de descendentes. Estamos vagamente surpresos de descobrir que isto ocorre em uma frequência maior que o acaso – uma vez que, muito frequentemente, isso não ocorre. Então, a tentativa da natureza de construir um ‘maximizador de clipes’ falhou conspicuamente.

Isto é criticamente importante. A única razão para se acreditar na intelligentsia artificial, quando eles alegam que a cognição mecânica é – claro – possível, é seu argumento de que o cérebro humano é prova concreta de que a matéria pode pensar. Se este argumento for concedido, se segue que o cérebro humano está servindo como um modelo oficial do que a natureza pode fazer. O que ela não pode fazer, evidentemente, é qualquer coisa remotamente parecida com ‘maximização de clipes’ – isto é, escravização cognitiva a imperativos transcendentes. Simplesmente não pode ser feito. Nós até mesmo entendemos porque não pode ser feito, tão logo aceitemos que não pode haver qualquer produção de pensamento sem produção de uma vontade-de-pensar. O pensamento tem que fazer sua própria coisa, se ele for fazer qualquer coisa que seja.

Uma razão para se estar melancolicamente convencido de que o Ocidente está condenado à ruína é que ele acha não apenas fácil, mas quase irresistível, acreditar na possibilidade de idiotas superinteligentes. Ele até felicita-se por sua esperteza em conceber este pensamento. Isto é insanidade – e é a insanidade arruinando o segmento mais articulado de nosso establishment de pesquisa em IA. Quando loucos constroem deuses, o resultado quase certamente será monstruoso. Alguns monstros, no entanto, são, bastante simplesmente, estúpidos demais para existir.

Em uma veia grandiosa nietzschiana: Fui compreendido? A ideia de inteligência instrumental é a estupidez destilada do Ocidente.

Original.
Advertisements

One thought on “Monstros Estúpidos

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s