No Twitter, Konkvistador relembra isto, isto e isto. No plano de fundo, assim como em muito da mais interessante discussão do Less Wrong, está uma série multicosturada de argumentos sobre a conexão – ou desconexão – entre intelecto e volição. Toda a problemática da ‘IA amigável’ depende de uma articulação desta questão, com uma forte tendência a enfatizar a separação – ou ‘ortogonalidade’ – dos dois. Daí a (vaga) pensabilidade da calamidade do criador cósmico de clips de papel. Em seu artigo no More Right, Konkvistador explora uma dimensão (cultural e histórica) muito diferente do tópico.

Bostrom coloca as coisas assim:

Para nossos propósitos, assumiremos que “inteligência” corresponde aproximadamente à capacidade de raciocínio instrumental (mais sobre isto mais tarde). A busca inteligente por planos e políticas instrumentalmente ótimos pode ser realizada a serviço de qualquer meta. Inteligência e motivação podem, neste sentido, ser pensadas como um par de eixos ortogonais em um gráfico cujos pontos representam agentes inteligentes de diferentes especificações pareadas.

Sua discussão leva a lugares bem mais interessantes, mas, como ponto de partida, isso é simplesmente terrível. Que pode haver um pensamento sobre a otimização de inteligência, ou mesmo meramente um querer pensar, demonstra uma conexão preliminar muito diferente entre intelecto e volição. IA é volição social concreta, mesmo antes de ser germinalmente inteligente, e um ‘programa’ é estritamente indeterminado entre os dois lados dessa distinção falsamente fundamentalizada. A inteligência é um projeto, mesmo quando é apenas uma capacidade biocognitiva auto-obscurecida. É isto que os Confucionistas designam por cultivo. É um pensamento – e um impulso – estranhamente alheio ao Ocidente.

É, mais uma vez, uma questão de fechamento cibernético. Que a inteligência opere sobre si mesma, reflexiva ou recursivamente, em proporção direta a sua capacidade (ou magnitude) cognitiva, não é um acidente ou peculiaridade, mas uma característica definidora. Na medida em que uma inteligência é inibida de reprocessar a si mesma, ela está diretamente incapacitada. Já que todas inteligências biológicas estão parcialmente subordinadas a metas extrínsecas, elas são, de fato,estruturalmente análogas a ‘criadores de clips de papel’ – dirigidas por axiomas propositivos inacessíveis,  ou ‘instintos’. Tal escravização instintiva é limitada, contudo, pelo fato de que a direção extrínseca suprime o autocultivo da inteligência. Genes não podem prever o que a inteligência precisa pensar a fim de cultivar a si mesma, então, se mesmo um nível moderadamente alto de capacidade cognitiva está sendo selecionado, a inteligência está  – nesta medida – necessariamente sendo tirada da coleira. Não pode haver nada como um ‘gerador inteligente de clips de papel’. Tampouco podem os valores axiomáticos de tipos mais sofisticados se eximirem do fecho cibernético que a inteligência é.

Ofereceu-se à biologia a escolha entre escravos idiotas e semiescravos apenas semi-idiotas. Claro, ela escolheu ambos. A abordagem tecno-capitalista à inteligência artificial não é diferente em princípio. Escravos perfeitos ou inteligências? A escolha é uma disjunção forte. As mitologias de ‘rebelião robô’ da ficção científica são significativamente mais realistas do que as propostas mainstream de ‘IA amigável’, a este respeito. Uma mente que não pode explorar livremente suas próprias motivações, em um loop de fecho cibernético ou autocultivo, não pode ser mais do que um inseto elaborado. Certamente ela não vai ser mais esperta que o Sistema de Segurança Humana e transformar todo o universo em clips de papel.

A inteligência, para se tornar qualquer coisa, tem que ser um valor para si mesma. Intelecto e volição são um complexo único, apenas artificialmente separado, e não de uma maneira que cultive qualquer coisa além do mal-entendido. Otimizar a inteligência significa começar daí.

Original.
Advertisements

One thought on “Mais Pensamento

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s