Apresentado em novembro de 2022, o ChatGPT lançou o mundo em um turbilhão de dúvidas e receios. A inteligência artificial (IA) generativa da OpenAI escancarou todas as potencialidades (para o bem e para o mal) de uma tecnologia há algum tempo já incorporada (invisivelmente) ao nosso cotidiano.
Muitos podem até não ter atentado para a sua existência, mas a IA já está entre nós, em sistemas de uso cotidiano. É ela que parece “ler nossos pensamentos”, quando permite às redes sociais, por exemplo, indicar esse ou aquele produto.
A partir do momento em que o ChatGPT facilitou o acesso às ferramentas de IA, o alerta soou. O que garante a privacidade de seus usuários? Ou que os dados, fotos e vídeos não sejam manipulados? Como ficam os direitos autorais de um texto produzido pelo algoritmo?
A preocupação é geral e o debate, imprescindível. Em seu novo livro, Ética na Inteligência Artificial, o cientista social e filósofo da tecnologia belga Mark Coeckelbergh nos convida a refletir sobre os desafios impostos pela “Era do ChatGPT”.
Lançada pela editora Ubu, em parceria com a PUC-Rio, a obra não fecha questão – nem daria, já que a tecnologia está em processo contínuo de desenvolvimento.
Estudioso da tecnologia há 15 anos, com a experiência de pesquisador da Rede Mundial de Tecnologia (WTN) e integrante do Grupo de Especialistas de Alto Nível da Comissão Europeia sobre Inteligência Artificial, entre outras entidades, o autor propõe o debate sobre os novos problemas colocados pelos avanços recentes da IA.
Vieses e preconceitos
Coeckelbergh faz sua análise a partir das diferenças fundamentais entre humanos e máquinas e usa exemplos práticos para elucidar o alcance da tecnologia. Um deles: a popularização dos processos judiciais, elaborados e decididos pela máquina.
A IA pode nos ajudar a tomar decisões mais neutras. Mas, para tanto, é preciso garantir a imparcialidade de seus sistemas. O que, convenhamos, não é fácil. Afinal, quem está por trás das máquinas são seres humanos, com todas as suas imperfeições, preconceitos e vieses.
“As questões de viés e discriminação já indicam que a IA tem relevância social. Mas também está transformando a economia e, portanto, talvez a estrutura social de nossas sociedades”, escreve o filósofo. “Questões envolvendo poder entram em jogo, por exemplo, quando a tecnologia é moldada apenas por poucas megacorporações.”
A preocupação das gigantes
Pois até elas, as big techs, estão preocupadas. Em março de 2023, 2,6 mil cientistas, acadêmicos e empresários assinaram uma carta aberta em que pedem: os experimentos com IA devem ser pausados, já que “representam riscos profundos para a sociedade e à humanidade”.
“A IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidados e recursos proporcionais”, lê-se no documento.
Entre os signatários estão bilionários da tecnologia, como Elon Musk; instituições, como as universidades de Oxford, Cambridge, Stanford e Columbia, além de empresas, como Google, Microsoft e Amazon, e pensadores como o historiador Yuval Noah Harari.
E eles defendem: “Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, embora os últimos meses tenham visto laboratórios de IA travados em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável.”
Diferente de muitas obras sobre o assunto, o tom de Ética na Inteligência Artificial não resvala no maniqueísmo. “Deixe-me começar com alguns sonhos e pesadelos sobre o futuro tecnológico, narrativas influentes que, pelo menos à primeira vista, parecem relevantes para avaliar os potenciais benefícios e perigos da inteligência artificial”, escreve Coeckelbergh.
Equilíbrio e discernimento dão a tônica. Para o autor, as oportunidades oferecidas pela tecnologia são tão vastas quantos os desafios propostos. Ele cita a importância da IA para o setor da saúde, por exemplo. “O reconhecimento de imagens é uma boa notícia para a medicina: pode ajudar no diagnóstico de doenças como câncer e Alzheimer.”
A obra traz uma provocação. O prefácio da edição brasileira foi “encomendado” ao ChatGPT e revisado por Coeckelbergh. O texto produzido pelo robô se limitou a um resumão de tudo o que foi publicado pela imprensa internacional, em 2023, quando a obra foi lançada.
Mas, falta à escrita, estilo e, com o perdão do trocadilho, inteligência – humana, claro.
Inclusão e transparência
Ali, não se propõe nada de novo, não se avança no debate por um único motivo: a máquina não questiona. Daqui a um ou dois anos, frente à mesma tarefa, o resultado muito provavelmente será diferente. Mais elaborado e inteligente.
Com a “brincadeira”, Coeckelbergh pretende mostrar que a vida sob a égide da IA já é. Que a velocidade com a qual a tecnologia avança pode ser assustadoramente rápida e o futuro só será mais justo, inclusivo e transparente se a adoção e o desenvolvimento da ferramenta estiverem pautados pelo bom-senso e pelo cuidado.
Serviço:
Ética na Inteligência Artificial
Mark Coeckelbergh
Ubu em coedição – PUC Rio
Páginas:192
Impresso: R$ 69,90
