Antes de “Penso, logo existo”

Rápido, o autor é René Descartes. Qual é a citação?

Sua famosa frase, “Penso, logo existo”, é uma das poucas linhas filosóficas que realmente escapou da sala de aula. E, curiosamente, muitas vezes encontro isso em conversas sobre inteligência artificial. À medida que os grandes modelos de linguagem se tornam mais sofisticados, às vezes é fácil apontar para a sua computação e perguntar-nos se estamos a observar algo como o pensamento tomar forma. “Eu calculo, logo existo.”

Há algo nesta citação que a maioria das pessoas não percebe. Não as cinco palavras, mas o pensamento que as precede. No MeditaçõesDescartes não acordou uma manhã e anunciou que o pensamento provava sua existência. Ele começou com dúvida. Ele questionou tudo o que podia questionar, inclusive se seus próprios sentidos eram confiáveis. A famosa conclusão chegou apenas ao final, e esta é uma distinção crítica. Comprimimos toda essa “demolição cognitiva” numa única citação, e penso que a compressão é tanto a falha como o problema.

Passei alguns anos escrevendo sobre IA, atrito cognitivo e nosso caminho para a compreensão. O que eu queria dizer muitas vezes era que o pensamento humano não se move em linha reta. O caminho de A a B é repleto de hesitação, distração e até alegria da realização. Simplificando, esse caminho é o que nos torna humanos. A resposta importa, mas o caminho muda a pessoa.

Então, isso tem sido uma preocupação desde a Antrópica publicado seu trabalho no que chama de espaço J dentro de Claude. EU escreveu recentemente que o artigo me levou a reconsiderar uma de minhas próprias suposições. Os pesquisadores parecem ter encontrado um espaço de trabalho computacional interno onde os conceitos existem antes de se tornarem linguagem. Isso é importante. Merece ser levado a sério, em vez de descartado, porque complica uma posição que muitos de nós, inclusive eu, temos mantido sobre uma espécie de “vida computacional interna” da IA.

E ainda assim. Não acho que o artigo apagou a linha entre a computação e o ser humano cognição. Na verdade, isso me fez procurar mais onde essa linha realmente está. Dizemos que grandes modelos de linguagem preveem o próximo token, e essa descrição agora parece incompleta. Eles claramente fazem mais. Mas o que quer que esteja acontecendo dentro do modelo, não é uma incerteza vivida. O modelo não se pergunta se a premissa está errada antes de procurar uma resposta. Não há dúvida. Ele calcula extraordinariamente bem, e cálculo e dúvida não são a mesma coisa. Pelo menos eu não acho que eles sejam.

Essa diferença pode explicar algo que noto frequentemente sobre IA. Apesar de toda a sua capacidade, pode ser estranhamente frágil. Um pequeno empurrão ou uma mudança no texto e o sistema falha. Talvez essa fragilidade nos esteja a dizer algo mais profundo do que aquilo que os modelos actuais deixam a desejar. IA assume que existe uma solução em algum lugar no que aprendeu, e sua tarefa é encontrar o caminho mais provável para isso. As pessoas fazem outra coisa. Às vezes abandonamos totalmente o caminho em busca do inexplorado.

Há um velho ditado que diz que aprendemos mais com nossos erros do que com nossos sucessos. Embora possa não ser literalmente verdade, reflete algo em que acredito. Nossos erros — a luta e a dúvida de Descartes — nos moldam. Um experimento fracassado pode mudar o cientista e um diagnóstico errado pode mudar o médico. Simplesmente não coletamos respostas melhores, nos tornamos pensadores diferentes porque lutamos para alcançá-las.

Talvez seja essa a parte de Descartes que deixamos para trás. Esta construção, como argumentou Descartes, pode agora necessitar de um enquadramento contemporâneo.

Duvido, logo penso, logo existo.

Citamos o destino porque é elegante. Esquecemos a viagem porque foi uma bagunça. E num mundo cativado por máquinas que produzem respostas surpreendentes, a parte confusa de repente parece a parte mais importante.