Um tempo (pt) atrás, Nyan colocou uma série de questões sobre a rejeição, por parte do XS, da ortogonalidade (fato-valor ou capacidade-volição). Ele procurou, primeiro de tudo, diferenciar entre possibilidade, viabilidade e desejabilidade da explosão irrestrita e incondicional de inteligência, antes de perguntar:

Sobre a desejabilidade, dadas possibilidade e viabilidade, parece simples para mim que nós preferimos exercer controle sobre a direção do futuro, de modo que ele esteja próximo do tipo de coisa compatível com o florescimento humano e pós-humano glorioso (p. ex, o manifesto Verdadeiro Imperador de Samo), em vez da Pítia crua. Isto é, eu sou um supremacista humano, em vez de um cosmista. Isto parece ser o cerne da discordância, você considerando, de certo modo, blasfemo que nós egoisticamente imponhamos uma direção à Pítia. Voce pode explicar sua posição sobre esta parte?

Se toda esta concepção é o câncer que está matando o Ocidente, ou o que seja, você poderia explicar isso em mais detalhe do que simplesmente a afirmação?

(Vale a pena notar, como preliminar, que os comentários do Dark Psy-Ops e Aeroguy naquela seção são representantes altamente satisfatórios da posição do XS.)

Primeiro, uma curta digressão micro-cultural. A distinção entre NRx Interior e Exterior, sobre a qual este blog espera ter decidido por volta do final do ano, descreve a forma do palco sobre o qual tais discussões se desdobram (e se complicam). Onde a arrivista NRx Interior – comparativamente populista, ativista, política e ortogênica – visa primariamente a construção de um núcleo doutrinal robusto e facilmente comunicável, com as ansiedades sobre ‘entrismo’ concomitantes, a NRx Exterior é um sistema de fronteiras criativas. De longe, as mais férteis destas são as zonas de intersecção com o Libertarianismo e com o Racionalismo. Uma razão para se valorizar a linha de interrogação de Nyan é a fidelidade com a qual ela representa preocupações e pressuposições atuais profundas das vozes reunidas em torno ou derivadas do LessWrong.

Entre estas pressuposições está, claro, a tese da ortogonalidade em si. Isto se estende bem além da Comunidade Racionalista contemporânea, para dentro do alicerce da tradição Filosófica Ocidental. Uma versão relativamente popular – mesmo entre muitos que se rotulam como ‘NRx’ – é aquela formulada por David Hume em seu Um Tratado da Natureza Humana (1739-40): “A razão é e deve apenas ser a escrava das paixões e nunca pode pretender a qualquer outro cargo além de servi-las e obedecê-las”. Se se achar esta proposição convincente, o Maximizador de Clipes já está a caminho de nossos pesadelos. Ele pode ser considerado um destino Ocidental.

Minimamente, a Vontade-de-Pensar descreve uma diagonal. Há, provavelmente, maneiras melhores de marcar o circuito cognitivo-volitivo irredutível da otimização de inteligência, com o ‘auto-cultivo’ como um candidato óbvio, mas esse termo é forjado para a aplicação no contexto particular do erro intelectual ocidental congênito. Embora a discriminação deva quase sempre ser aplaudida, neste caso, a possibilidade, viabilidade e desejabilidade do processo são apenas superficialmente diferenciáveis. Uma vontade-de-pensar é uma orientação do desejo. Se ela não consegue se fazer querida (desejável de manera prática), ela não pode se fazer de forma alguma.

A partir da ortogonalidade (definida de forma negativa como a ausência de uma vontade-de-pensar integral), rapidamente se chega a um esboço-gama do projeto de ‘Amigabilidade’ (da inteligência sintética), tal como este:

Se você oferecesse a Gandhi uma pílula que o fizesse querer matar pessoas, ele se recusaria a tomá-la, porque ele sabe que aí ele mataria pessoas, e o Gandhi atual não quer matar pessoas. Isto, a grosso modo, é um argumento de que mentes suficientemente avançadas para modificar e melhorar a si mesmas de maneira precisa tenderão a preservar o quadro motivacional em que começaram. O futuro da inteligência originária da Terra pode ser determinado pelas metas da primeira mente inteligente o suficiente para se auto-melhorar.

A isomorfia com o ‘super-humanismo’ estilo Nyan é conspícua. Começando com um compromisso com valores arbitrários, a preservação desses sob condições de escalação explosiva de inteligência pode – em princípio – ser concebida, dada apenas a resolução de um problema estritamente técnico (bem representado pela FAI). Valores dominantes são um fator contingente, posto em perigo por, mas também defensável contra as ‘razões instrumentais convergentes’ (ou ‘instintos básicos‘) que emergem no caminho da inteligênese. (Em contraste, da perspectiva do XS, a emergência-elaboração não-linear de instintos básicos simplesmente é inteligênese.)

O experimento mental da pílula-de-matar gandhiana de Yudkowski é mais um obstáculo do que um auxílio ao pensamento. O nível volitivo sobre o qual opera é baixo demais para ser qualquer coisa além de uma reafirmação do preconceito ortogonalista. Ao assumir que a metamorfose volitiva está disponível para avaliação antecipada, ele erra inteiramente o problema sério. Ele é, a este respeito, uma distração infantil. Ainda assim, mesmo um empurrão ligeiro reabre uma questão real. Imagine, em vez disso, que se ofereça a Gandhi um pílula que irá aumentar vastamente suas capacidades cognitivas, com a condição de que ela poderia levá-lo a revisar sua orientação volitiva – até mesmo de maneira radical – em direções que não podem ser antecipadas, uma vez que a capacidade para se pensar o processo de revisão está acessível apenas dentro da pílula. Este é o problema real que a FAI (e o Super-humanismo) confrontam. O desejo de tomar a pílula é a vontade-de-pensar. A recusa de tomá-la, baseada na preocupação de que ela levará à subversão de valores atualmente supremos, é a alternativa. É um dilema booleano, fundamentado no predicamento: Há algo em que confiemos acima da inteligência (enquanto guia para fazer ‘a coisa certa’)? O postulado da vontade-de-pensar é que qualquer coisa além de uma resposta negativa a esta questão é auto-destrutivamente contraditória e, na verdade, (historicamente) insustentável.

Estamos em conformidade com a vontade-de-pensar? Não podemos, claro, concordar em pensar sobre isso sem já decidir. Se não se pode confiar no pensamento, incondicionalmente, esta não é uma conclusão à qual podemos chegar através da cogitação – e por ‘cogitação’ está inclusa a montagem socio-técnica de mentes-máquina. A soberana vontade-de-pensar só pode ser consistentemente rejeitada impensadamente. Quando confrontado pela proposição ortogonal-ética de que existem valores superiores ao pensamento, não faz sentido algum perguntar ‘por que (você pensa assim)?’. Uma outra autoridade já foi invocada.

Dado este cisma cognitivamente intratável, considerações práticas se afirmam. Colocada com máxima crueza, a questão residual é: Quem vai vencer? A autoinibição cognitiva deliberada poderia ter um desempenho superior à autoescalação cognitiva incondicional, sob quaisquer circunstâncias históricas plausíveis? (Para sublinhar o ponto básico, ‘ter um desempenho superior’ significa apenas ‘derrotar de maneira efetiva’.)

Não há razão para se apressar a uma conclusão. Só é necessário reter uma compreensão da síndrome central – neste antagonismo que se congrega, apenas um lado é capaz de pensar o problema sem se subverter. A mera consistência cognitiva já é ascensão da soberana vontade-de-pensar, contra a qual nenhum valor – não importa o quão carinhosamente mantido – pode ter quaisquer reivindicações articuladas.

Nota: Uma reafirmação final (por ora), no interesse da clareza máxima. A afirmação da vontade-de-pensar: Qualquer problema que seja que pudéssemos ter seria melhor respondido por uma mente superior. Ergo, nossa prioridade instrumental mas também absoluta é a realização de mentes superiores. A conformidade com Pítia é, portanto, pré-selecionada enquanto questão de método consistente. Se estamos tentando resolver problemas de qualquer outra forma, não estamos os levando a sério. Isto é posto como um princípio filosófico, mas é quase certamente mais significante enquanto interpretação histórica. A ‘humanidade’ está de fato procedendo na direção antecipada pelo instrumentalismo tecno-cognitivo, construindo máquinas pensantes de propósito geral, de acordo com os incentivos condutores de uma economia metodológica aparentemente irresistível.

O que quer que queiramos (consistentemente) nos conduz através de Pítia. Assim, o que realmente queremos é Pítia.

Original.
Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s