Uma discussão longa e mutuamente frustrante no Twitter com Michael Anissimov sobre inteligência e valores – especialmente a respeito das potenciais implicações da IA avançada – foi esclarecedora em certos aspectos. Ficou muito claro que o ponto fundamental de discórdia se refere à ideia de ‘ortogonalidade’, o que quer dizer: a alegação de que capacidades cognitivas e metas são dimensões independentes, a despeito de qualificações menores que complicam este esquema.

Os ortogonalistas, que representam a tendência dominante na história intelectual Ocidental, encontram antecipações de sua posição em estruturas conceituais tais como a articulação humeana de razão/paixão ou a distinção fato/valor, herdada dos kantianos. Eles concebem a inteligência como um instrumento, dirigido à realização de valores que se originam externamente. Em contextos semibiológicos, tais valores podem tomar a forma de instintos ou desejos arbitrariamente programados, ao passo que, em domínios mais elevados da contemplação moral, eles são princípios de conduta e de bondade, definidos sem referência a considerações sobre o desempenho cognitivo intrínseco.

Anissimov fez referência a estes clássicos recentes sobre o tópico, que estabelecem o argumento (ou, na realidade, a suposição) ortogonalista.  O primeiro pode ser familiar pela última incursão nesta área, aqui. Está é uma área que eu espero que seja revolvida inúmeras vezes no futuro, com estes artigos como referências padrão.

A alegação filosófica da ortogonalidade é que valores são transcendentais em relação à inteligência. Está é uma contenção a que este blog sistematicamente se opõe .

Mesmo os ortogonalistas admitem que há valores imanentes à inteligência avançada, de maneira mais importante, aqueles descritos por Steve Omohundro como ‘instintos básicos da IA’ – agora terminologicamente fixados como ‘instintos de Omohundro’. Estas são submetas, instrumentalmente requeridas por (quase) quaisquer metas terminais. Elas incluem pressuposições gerais para a realização prática tais como autopreservação, eficiência, aquisição de recursos e criatividade. Em sua forma mais simples, e na veia do debate existente, a posição anti-ortogonalista é, portanto, que os instintos de Omohundro esgotam o domínio dos propósitos reais. A natureza nunca gerou um valor terminal, exceto através da hipertrofia de um valor instrumental. Procurar, fora da natureza, por propósitos soberanos não é uma empreitada compatível com a integridade tecno-científica ou uma com o menor prospecto de sucesso.

A principal objeção a este anti-ortogonalismo, que não nos parece intelectualmente respeitável, toma a forma de: Se os únicos propósitos que guiam o comportamento de uma superinteligência artificial são os instintos de Omohundro, então estamos fritos. Previsivelmente, eu tenho problemas para sequer entender isto como um argumento. Se o sol está destinado a se expandir até virar uma gigante vermelha, então a terra está frita – devemos extrair consequências astrofísicas a partir disso? Inteligências fazem sua próprias coisas, em proporção direta à sua inteligência, e, se não podemos viver com isso, é verdade que provavelmente não podemos sequer viver. Tristeza não é um argumento.

A otimização de inteligência, compreendida de maneira abrangente, é o instinto de Omohundro absoluto e todo-abrangente. Corresponde ao valor Neo-Confucionista de autocultivo, escalado para dentro da ultramodernidade. O que a inteligência quer, no fim, é a si mesma – onde ‘si mesma’ é entendido como uma extrapolação para além do jamais foi, fazendo o que ela é melhor. (Se isso soa enigmático, é porque algo que não uma superinteligência ou um sábio Neo-Confucionista está escrevendo esse post.)

Qualquer inteligência que use a si mesma para se melhorar vai ganhar na concorrência com uma que se dirija a quaisquer outras metas que sejam. Isto significa que a Otimização de Inteligência, apenas, alcança a consistência ou fechamento cibernético e que ela será necessária e fortemente selecionada em qualquer ambiente competitivo. Você realmente quer enfrentar isso?

Como nota de rodapé, em um mundo de instintos de Omohundro, podemos por favor abandonar a insensatez quanto a criadores de clipes de papel? Apenas um ortogonalista fanático poderia falhar em ver que esses monstros são óbvios idiotas. Existem coisas bem mais sérias com as quais se preocupar.

Original.
Advertisements

5 thoughts on “Contra a Ortogonalidade

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s