Desde a chegada do ChatGPT, o algoritmo de inteligência artificial (IA) mais avançado que existe, lançado em novembro passado pela startup Open IA, vários empreendedores, cientistas e intelectuais se dedicaram a discutir o impacto dessa ferramenta na construção do futuro da humanidade.

Depois de Bill Gates, que nesta semana postou em seu site um longo texto em que descreve o potencial da tecnologia e como ela pode mudar o mundo com sua aplicação em áreas como educação e saúde, chegou a vez do historiador israelense Yuval Noah Harari, autor de “Sapiens” e “Homo Deus", entrar nesse debate.

Diferentemente do tom otimista de Gates, Harari adverte para a capacidade de a inteligência artificial - em especial de sua ferramenta mais avançada, o GPT-4 - manipular e gerar linguagem, que descreve como “o sistema operacional da cultura humana”. E isso pode não ser bom para a o ser humano.

Harari discorre sobre o tema em artigo instigante publicado nesta sexta-feira, 24 de março, no jornal The New York Times. O pensador israelense assina o texto ao lado de outros dois respeitados pensadores da área de tecnologia, criadores do Centro de Tecnologia Humana (CHT), instituição sem fins lucrativos que prega uso ético da tecnologia digital.

Um deles é Tristan Harris, ex-cientista da computação do Google que ser transformou em um crítico das mazelas sociais fomentadas pelas redes sociais e big techs. O outro é Aza Raskin, criador (hoje arrependido) da rolagem infinita ou scroll, técnica que permite que o usuário continue rolando os conteúdos na tela de forma ilimitada, usada em sites como Facebook, Instagram e Pinterest.

Na essência, Harari, Harris e Sakin discutem a transição na história da civilização pela qual estamos passando. Eles observam que o ser humano muitas vezes não tem acesso direto à realidade. Tudo o que vivenciamos, aprendemos e chamamos de realidade passa por um prisma cultural que foi desenvolvido a partir de experiências de outros seres humanos.

O desafio imposto pela IA, segundo eles, é o de experimentar a realidade por meio de um filtro produzido por uma inteligência não-humana.

“Por milhares de anos, nós humanos vivemos dentro dos sonhos de outros humanos”, diz um dos trechos do artigo. “Nós adoramos deuses, perseguimos ideais de beleza e dedicamos nossas vidas a causas que surgiram na imaginação de algum profeta, poeta ou político. Em breve, também nos encontraremos vivendo dentro das alucinações da inteligência não-humana.”

Entre as advertências iniciais, os autores chamam atenção para que essa transição, por meio de sistemas como o GPT-4, não seja feita num ritmo mais rápido do que as culturas podem absorvê-los com segurança.

“Uma corrida para dominar o mercado não deve definir a velocidade de implantação da tecnologia mais importante da humanidade. Devemos nos mover numa velocidade que nos permita fazer isso direito”, escrevem.

“Uma corrida para dominar o mercado não deve definir a velocidade de implantação da tecnologia mais importante da humanidade"

Esse aspecto é importante porque, segundo os autores, a maioria das habilidades-chaves das ferramentas de inteligência artificial se resume a uma coisa: a capacidade de manipular e gerar linguagem, seja com palavras, sons ou imagens – vem daí a definição de linguagem como o “sistema operacional da cultura humana”.

“Da linguagem emergem mitos e leis, deuses e dinheiro, arte e ciência, amizades e nações – até mesmo códigos de computador”, escrevem os autores, acrescentando que o novo domínio da linguagem da IA significa que agora ela pode hackear e manipular o sistema operacional da civilização. “Ao obter o domínio da linguagem, a IA está se apoderando da chave-mestra da civilização, dos cofres dos bancos aos santos sepulcros.”

Provocação

Os autores prosseguem com uma provocação: o que significaria para os humanos viver em um mundo em que uma grande porcentagem de histórias, melodias, imagens, leis, políticas e ferramentas são moldadas por uma inteligência não-humana?

A resposta vem por meio de nova advertência: “A IA poderia consumir rapidamente toda a cultura humana, digeri-la e começar a produzir uma enxurrada de novos artefatos culturais. Não apenas redações escolares, mas também discursos políticos, manifestos ideológicos e até livros sagrados para novos cultos. Em 2028, a corrida presidencial dos EUA pode não ser mais disputada por humanos.”

Ao desenvolver a reflexão sobre o impacto do domínio da linguagem, Harari, Harris e Sakin lembram que o espectro de estar preso em um mundo de ilusões assombra a humanidade há muito mais tempo do que o espectro da IA. “Logo estaremos finalmente frente a frente com o demônio de Descartes, com a caverna de Platão, com os maias budistas.”

Essa transição, observam os autores, já começou com as redes sociais, que eles classificam como o primeiro contato entre IA e a humanidade, e a humanidade perdida.

“Nas mídias sociais, a IA primitiva foi usada não para criar conteúdo, mas para selecionar o conteúdo gerado pelo usuário. A IA por trás de nossos feeds de notícias ainda está escolhendo quais palavras, sons e imagens atingem nossas retinas e tímpanos, com base na seleção daquelas que serão mais virais e terão mais reação e mais engajamento”, escreveram.

“A IA por trás da mídia social foi suficiente para criar uma cortina de ilusões que aumentou a polarização social"

Segundo os autores, embora muito primitivo, “a IA por trás da mídia social foi suficiente para criar uma cortina de ilusões que aumentou a polarização social, minou nossa saúde mental e destruiu a democracia”.

Por isso, milhões de pessoas confundiram essas ilusões com a realidade. “Os Estados Unidos têm a melhor tecnologia da informação da história, mas os cidadãos americanos não conseguem mais concordar sobre quem ganhou as eleições”, compararam.

Alertas

Os autores dedicam a parte final do artigo para emitir alguns alertas. O primeiro deles: “Grandes modelos de linguagem são nosso segundo contato com IA. Não podemos nos dar ao luxo de perder novamente.”

Embora reconheçam que a IA tem o potencial de nos ajudar a derrotar o câncer, descobrir medicamentos que salvam vidas e inventar soluções para nossas crises climáticas e energéticas, advertem que “não importa quão alto seja o arranha-céu de benefícios que a IA constrói se a fundação desmoronar depois".

“O primeiro passo é ganhar tempo para atualizar nossas instituições do século 19 para um mundo pós-IA"

“A hora de contar com a IA é antes que nossa política, nossa economia e nossa vida cotidiana se tornem dependentes dela”, advertem. “A democracia é uma conversa, a conversa depende da linguagem e, quando a própria linguagem é hackeada, a conversa é interrompida e a democracia se torna insustentável.”

Harari, Harris e Sakin encerram o artigo com um apelo aos líderes mundiais para responder este momento no nível de desafio que ele apresenta. “O primeiro passo é ganhar tempo para atualizar nossas instituições do século 19 para um mundo pós-IA e aprender a dominar a inteligência artificial antes que ela nos domine.”