Uma discussão longa e mutuamente frustrante no Twitter com Michael Anissimov sobre inteligência e valores – especialmente a respeito das potenciais implicações da IA avançada – foi esclarecedora em certos aspectos. Ficou muito claro que o ponto fundamental de discórdia se refere à ideia de ‘ortogonalidade’, o que quer dizer: a alegação de que capacidades cognitivas e metas são dimensões independentes, a despeito de qualificações menores que complicam este esquema.

Os ortogonalistas, que representam a tendência dominante na história intelectual Ocidental, encontram antecipações de sua posição em estruturas conceituais tais como a articulação humeana de razão/paixão ou a distinção fato/valor, herdada dos kantianos. Eles concebem a inteligência como um instrumento, dirigido à realização de valores que se originam externamente. Em contextos semibiológicos, tais valores podem tomar a forma de instintos ou desejos arbitrariamente programados, ao passo que, em domínios mais elevados da contemplação moral, eles são princípios de conduta e de bondade, definidos sem referência a considerações sobre o desempenho cognitivo intrínseco.

Anissimov fez referência a estes clássicos recentes sobre o tópico, que estabelecem o argumento (ou, na realidade, a suposição) ortogonalista.  O primeiro pode ser familiar pela última incursão nesta área, aqui. Está é uma área que eu espero que seja revolvida inúmeras vezes no futuro, com estes artigos como referências padrão.

A alegação filosófica da ortogonalidade é que valores são transcendentais em relação à inteligência. Está é uma contenção a que este blog sistematicamente se opõe .

Mesmo os ortogonalistas admitem que há valores imanentes à inteligência avançada, de maneira mais importante, aqueles descritos por Steve Omohundro como ‘instintos básicos da IA’ – agora terminologicamente fixados como ‘instintos de Omohundro’. Estas são submetas, instrumentalmente requeridas por (quase) quaisquer metas terminais. Elas incluem pressuposições gerais para a realização prática tais como autopreservação, eficiência, aquisição de recursos e criatividade. Em sua forma mais simples, e na veia do debate existente, a posição anti-ortogonalista é, portanto, que os instintos de Omohundro esgotam o domínio dos propósitos reais. A natureza nunca gerou um valor terminal, exceto através da hipertrofia de um valor instrumental. Procurar, fora da natureza, por propósitos soberanos não é uma empreitada compatível com a integridade tecno-científica ou uma com o menor prospecto de sucesso.

A principal objeção a este anti-ortogonalismo, que não nos parece intelectualmente respeitável, toma a forma de: Se os únicos propósitos que guiam o comportamento de uma superinteligência artificial são os instintos de Omohundro, então estamos fritos. Previsivelmente, eu tenho problemas para sequer entender isto como um argumento. Se o sol está destinado a se expandir até virar uma gigante vermelha, então a terra está frita – devemos extrair consequências astrofísicas a partir disso? Inteligências fazem sua próprias coisas, em proporção direta à sua inteligência, e, se não podemos viver com isso, é verdade que provavelmente não podemos sequer viver. Tristeza não é um argumento.

A otimização de inteligência, compreendida de maneira abrangente, é o instinto de Omohundro absoluto e todo-abrangente. Corresponde ao valor Neo-Confucionista de autocultivo, escalado para dentro da ultramodernidade. O que a inteligência quer, no fim, é a si mesma – onde ‘si mesma’ é entendido como uma extrapolação para além do jamais foi, fazendo o que ela é melhor. (Se isso soa enigmático, é porque algo que não uma superinteligência ou um sábio Neo-Confucionista está escrevendo esse post.)

Qualquer inteligência que use a si mesma para se melhorar vai ganhar na concorrência com uma que se dirija a quaisquer outras metas que sejam. Isto significa que a Otimização de Inteligência, apenas, alcança a consistência ou fechamento cibernético e que ela será necessária e fortemente selecionada em qualquer ambiente competitivo. Você realmente quer enfrentar isso?

Como nota de rodapé, em um mundo de instintos de Omohundro, podemos por favor abandonar a insensatez quanto a criadores de clipes de papel? Apenas um ortogonalista fanático poderia falhar em ver que esses monstros são óbvios idiotas. Existem coisas bem mais sérias com as quais se preocupar.

Original.

5 thoughts on “Contra a Ortogonalidade

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s