Quem manda em quem? As reflexões de Miguel Nicolelis sobre IA, máquinas e humanos

O mais jovem dos titãs, Cronos, senhor do tempo, teve seis filhos com sua irmã Reia. Para evitar que se cumprisse a profecia de que um deles o destronaria, devorava-os ao nascer. Engoliu todos, exceto Zeus, o caçula — salvo pela mãe, que entregou ao marido uma pedra enrolada em um pano no lugar do bebê.

Criado longe do pai, Zeus voltou já adulto para enfrentá-lo. Fez Cronos vomitar os irmãos, liderou a guerra contra os titãs e tornou-se o soberano dos deuses do Olimpo. São muitos os mitos em que o criador acaba subjugado pela criatura. E é sob essa perspectiva que o neurocientista Miguel Nicolelis olha para a inteligência artificial — ou “Nina”, como ele prefere chamá-la; “nem inteligente e nem artificial”.

Professor emérito de neurobiologia da Duke University, nos Estados Unidos, e apontado pela Scientific American, em 2004, como um dos 50 líderes em ciência e tecnologia, Nicolelis fez da provocação um dos pontos de partida de sua participação na segunda edição do Encontro Futuro Vivo, promovido pela Vivo na semana passada, em São Paulo.

Até aqui, diz ele, as ferramentas criadas pelo homem eram assimiladas pelo cérebro como extensões de nós mesmos. Agora, pela primeira vez, “criamos uma tecnologia que nos absorve, que nos assimila”. Uma inversão que busca “nos convencer que Deus é uma máquina e nós somos autômatos que o servem — e não o contrário”.

Nicolelis compara a IA aos Borgs, personagens de Star Trek. Na série de sci-fi, os seres cibernéticos absorvem outras formas de vida conectando-as a uma consciência coletiva. Ao encontrar uma nova civilização, anunciam: “The resistance is futile” — “A resistência é inútil”. “Na realidade, ela não é”, defende o neurocientista. “A resistência está em nossas mãos.”

A apresentação foi mediada pelo psiquiatra Rodrigo Bressan, livre-docente da Unifesp, professor no King’s College London e presidente do Instituto Ame Sua Mente. Ao longo do encontro, os dois passaram por cérebro, mente, consciência, educação, memória e terceirização emocional.

Assista abaixo ao vídeo completo da conversa e, na sequência, confira os principais trechos da participação de Nicolelis, editados para dar concisão e clareza às falas.

Afinal, o que são cérebro, mente e consciência?

Essa é a pergunta de US$ 1 trilhão de dólares. Que Sam Altman não nos ouça, porque é capaz de ele querer dizer que sabe a resposta.

A neurociência é uma disciplina muito jovem. Tem pouco mais de 120 anos. Tive um professor, um dos maiores neurocientistas do século passado, que dizia: "Quando você não sabe a resposta, você começa dizendo o que não é".

O cérebro não é um computador. Nunca foi, nunca será — a menos que a gente queira virar zumbis digitais e restringir a nossa inteligência natural à inteligência da nossa criatura. O computador é a nossa criatura.

Os fundadores da era digital, Alan Turing, Claude Shannon, John von Neumann, Norbert Wiener, sabiam disso. Ninguém cita porque não é conveniente.

O cérebro não pode ser entendido como sendo hardware e software, por exemplo. Ele opera com matéria orgânica. Cada encontro que ele tem com a natureza, com outro ser humano, com animais… com toda sorte de eventos com os quais nos deparamos ao longo da vida, altera a sua estrutura microscópica.

O cérebro é como um rio. Você nunca passa pelo mesmo rio na segunda vez.

A mente é uma propriedade emergente do cérebro que habita um corpo, que habita um planeta e que convive com outras mentes. Ela não é um algoritmo, ela não é computável.

O próprio Alan Turing sabia disso. Em seu paper mais famoso, de 1936… foi ele que criou o termo não computável quando percebeu que certas coisas não podem ser previstas pela máquina de Turing.

"O cérebro é como um rio. Você nunca passa pelo mesmo rio na segunda vez"

E o que ele dizia? Quando um fenômeno não computável ocorre, eu tenho de chamar um oráculo para tomar a decisão. Quem é o oráculo? Nós.

Turing é o pai da era digital. Não é nenhum jogador do Palmeiras; é o cara que criou toda a era que nós vivemos.

A consciência, eu nem me arrisco porque se eu for abrir a boca para falar qualquer coisa, eu perco minha carteirinha da Sociedade Internacional de Neurocientistas. A definição de consciência é o cálice sagrado da área. Ela desafia todos nós.

Todas as civilizações humanas têm mitos em que o criador é devorado pela criatura. Até esse momento, nós tínhamos criado ferramentas que o nosso cérebro assimila como extensões de nós. Machado, avião, bicicleta, bola de futebol…

Pois bem, esse é o primeiro momento da história em que nós criamos uma tecnologia que nos absorve, que nos assimila.

É como se os Borgs, de Star Trek, tivessem chegado aqui e dito para nós: "The resistance is futile". Mas, na realidade, ela não é. A resistência está nas nossas mãos.

A tecnologia piora o aprendizado?

Em 2006, eu fui convidado para dar uma palestra em Davos. Havia lá um senhor do Media Lab do MIT chamado [Nicholas] Negroponte, o pai da ideia de um computador para cada criança na escola.

Ele meteu o pau no Brasil porque o Brasil tinha rejeitado o projeto dele. Mas ele esqueceu que tinha um espírito de porco palmeirense da Bela Vista no palco.

E eu comecei falando para ele: “O senhor não tem nenhuma prova científica de que pôr um computador na mão de toda criança vai melhorar o aprendizado. E se piorar?”.

"As crianças estavam perdendo vocabulário, criatividade, capacidade de interpretação de texto e de se relacionar em grupo"

Pois bem, a Finlândia, que é quem realmente pensa em educação com seriedade… Em 2019, fui dar uma palestra na Escola de Educação da Universidade de Helsinque. Os caras falaram: “Nós fizemos um estudo de 30 anos, porque fomos os primeiros a introduzir computadores na sala de aula e vamos tirar”.

As crianças estavam perdendo vocabulário, criatividade, capacidade de interpretação de texto e de se relacionar em grupo. Seis meses atrás, a Suécia chegou à mesma conclusão.

Agora vou dar os dados americanos.Dos anos 1950 até agora, os alunos do último ano do high school perderam 30% do vocabulário. Eles começam a pular palavras das sentenças para tentar acelerar… a tal da rapidez, sem lucidez.

Por que a IA não é inteligente nem artificial?

Eu chamo a inteligência artificial de Nina — nem inteligente e nem artificial.

A inteligência é propriedade da vida orgânica. É a otimização das estratégias de sobrevivência dos seres vivos.

A minha jabuticabeira do quintal aqui em São Paulo tem mais inteligência do que qualquer app de inteligência artificial. É só você ver como é que ela floresce e como as abelhinhas vão de uma flor para outra… Quando a abelhinha completa a polinização de uma flor, as outras desaparecem para salvar energia para que você tenha jaboticaba.

Isso é inteligência. E não é computável. Não sei se vocês viram alguma jaboticaba de silício.

A Nina não é inteligente, ela não é artificial porque ela depende de milhões de seres humanos trabalhando a custo de alguns centavos de dólar nas regiões mais miseráveis do mundo para marcar dados, para treinar algoritmos, para remover conteúdo. Isso não é artificial, isso é humano, é orgânico.

"Se você treina a IA em tudo o que já foi publicado e a solução não está lá, você só vai produzir um futuro sem futuro"

A primeira função da inteligência artificial é convencer todos nós que somos inferiores à máquina. É remover do ser humano a confiança de que ele é capaz de resolver os problemas humanos.

Nenhuma IA vai curar o câncer, por favor. Se você treina a IA em tudo o que já foi publicado e a solução não está lá, você só vai produzir um futuro sem futuro.

A segunda função da Nina está ocorrendo nos Estados Unidos nesse instante. Existe um movimento da sociedade civil para eliminar as câmaras de vigilância contínua de uma empresa chamada Flock, que combina câmeras que tiram fotos da placa dos seus carros com a inteligência policial para rastrear os movimentos de toda a população. Não quem cometeu o crime, quem é suspeito de crime… Todo mundo está sendo rastreado.

E aí os caras começaram a descobrir que os policiais estavam usando isso para rastrear as ex-namoradas, as ex-mulheres... Um delegado rastreou 3 mil vezes a ex-mulher em um único dia.

O segundo grande impacto, portanto, é a vigilância completa. Que nós, com um sorriso nos lábios, estamos permitindo, usando esses baratinhos aqui [ele mostra o celular].

E o terceiro é a automação. Eu e os meus amigos neurocientistas a chamamos de “o primeiro grande papagaio estatístico digital”.

Ela nada mais é do que uma máquina estatística de completar a próxima palavra ou realizar os seus desejos de vídeo, de imagem… mas ela não cria nada.

O que acontece quando terceirizamos o cérebro?

A University College London fez um estudo brilhante. Antigamente, os motoristas de táxi de Londres tinham o exame mais difícil para virar motorista profissional: ir para qualquer lugar da cidade sem nenhum auxílio.

Meus amigos começaram a fazer ressonância magnética nesses caras e descobriram que o hipocampo deles, uma área muito importante no mapeamento espacial, era maior do que a média da população.

Eu estive lá antes da pandemia e sugeri: “Vocês têm de fazer o oposto. Têm de medir o cérebro da molecada que usa só o Waze”.

Eles não fizeram, mas recentemente um grupo nos Estados Unidos fez. O hipocampo dessas pessoas é menor do que a média da população controle.

"Ela [a IA] não só é um parasita global, porque precisa de data centers consumindo água, eletricidade, mas porque tem o grande potencial de degradar a mente humana"

Acontece que o hipocampo está envolvido em memória de curto prazo e memória de longo prazo. Se o seu hipocampo diminui, você começa a perder a memória.

Ou seja, o quarto mandamento da grande Nina… Ela não só é um parasita global, porque precisa de data centers consumindo água, eletricidade, mas porque tem o grande potencial de degradar a mente humana.

O estudo do MIT que saiu ano passado… A pesquisadora separou os alunos em três grupos. Um fazia redação sem consultar nada, outro podia consultar o Google e o terceiro podia usar o ChatGPT.

Pois bem, 30 minutos depois da prova, 80% das pessoas do terceiro grupo não conseguiam citar uma única sentença da sua redação, enquanto o primeiro grupo citava parágrafos inteiros.

A conclusão é óbvia. O cérebro é que nem o músculo. Se você ficar sentado o dia inteiro, o músculo atrofia. O cérebro também.

Ainda há esperança?

Neil Postman, que é um cara que eu gosto muito de ler, diz o seguinte: "Nenhuma tecnologia é subtrativa ou aditiva. Ela é ecológica”. E a história que ele reproduz, contada pela primeira vez por Lewis Mumford, é a história do vidro.

Quando as fornalhas de vidro de Murano, em Veneza, na Itália, começaram a se espalhar pelas cidades medievais, a primeira coisa foi pôr vitrais nas igrejas, para que o cidadão que entrasse tivesse um grau “X” de transcendência e ele passasse a acreditar no divino. Era uma luz que ele nunca tinha visto.

"E é essa a grande missão dos tempos modernos da inteligência artificial, nos convencer que o Deus é uma máquina e nós somos autômatos que o servem"

Quando as vidraças caíram de preço, começaram a ser postas nas casas. A luz natural começou a estar mais presente na vida das pessoas e o raquitismo começou a diminuir na Europa.

O vidro deu origem às lentes. As lentes permitiram que pessoas com problemas de visão voltassem a ler quando a indústria de impressão começou a publicar livros em massa. O vidro mudou a educação na Europa e permitiu a Renascença. Ou seja, o vidro mudou tudo.

Quem fala do vidro? Ninguém.

Lewis Mumford dizia: “O que a humanidade não se deu conta é que antes da mecanização feita pelas máquinas, foi preciso mecanizar a mente humana. Foi preciso convencer o ser humano que ele tinha de funcionar como um autômato”.

E a maior invenção da história, segundo ele, não é a máquina a vapor. É o relógio. Quando o relógio entra na vida dos monastérios beneditinos e começa a regrar a hora de comer, de dormir, de trabalhar, a mente humana começou a se acostumar a ser uma máquina.

E é essa a grande missão dos tempos modernos da inteligência artificial, nos convencer que o Deus é uma máquina e nós somos autômatos que o servem — e não o contrário.

É mudar a equação, é fazer com que a criatura domine o criador. E isso é que nós não podemos deixar de forma alguma acontecer.