O desenvolvimento de carros autônomos segue dando mostras de que ainda precisa de novos testes e uma interação mais segura das ferramentas de Inteligência Artificial que operam esses veículos com a tecnologia embarcada nos modelos.

Os acidentes ocorridos em agosto, logos após a entrada em operação do serviço de táxis autônomos em San Francisco, oferecidos pela Cruise (da GM) e pela Waymo (da Alphabet, holding dona do Google), já haviam chamado a atenção para “bugs” nesta conexão.

Uma pesquisa recente sobre segurança de veículos autônomos conduzida pela engenheira Missy Cummings, professora de engenharia e robótica na Universidade George Mason, concluiu que os novos táxis-robôs têm de quatro a oito vezes mais probabilidade de sofrer um acidente do que um carro dirigido por humanos.

De acordo com o paper de Cummings, testes feitos com o táxis-robôs indicaram que os carros autônomos apresentaram “comportamentos variáveis e muitas vezes inseguros” que exigiam mais testes “antes que tal tecnologia pudesse operar sem humanos no controle direto”.

Cummins, ex-piloto de caças da Marinha de 57 anos, é uma autoridade e também uma voz crítica sobre o tema na área acadêmica. Ela estuda o uso de IA e automação em sistemas críticos de segurança, incluindo carros e aeronaves, e no início deste ano retornou à academia após uma passagem pela Administração Nacional de Segurança de Tráfego Rodoviário (NHTSA, na sigla em inglês), que supervisiona a tecnologia automotiva.

“Estamos com sérios problemas em termos das capacidades desses carros”, disse Cummings, numa palestra no primeiro semestre deste ano. “Eles não estão nem perto de serem tão capazes quanto as pessoas pensam que são."

Segundo ela, os executivos da indústria automotiva precisam entender a diferença entre a “boa e velha IA”, que simplesmente segue regras, e as redes neurais, que alimentam informações para si mesmas para aprendizado contínuo.

E  esse processo pode simplesmente proliferar a desinformação e até mesmo espalhar propaganda: “Todas as redes neurais, todos os grandes modelos de linguagem, toda IA generativa; é tudo apenas suposição.”

Desafeta de Elon Musk

A engenheira começou a ficar conhecida em 2021, quando conduziu um estudo semelhante sobre a segurança de carros autônomos pela Universidade de Duke, onde lecionava na época. Suas descobertas a levaram a emitir alertas críticos sobre a tecnologia de assistência ao motorista dos veículos autônomos desenvolvidos pela Tesla, a montadora de carros elétricos do bilionário Elon Musk.

Irritado, Musk não só rejeitou o estudo como ainda fez comentários misóginos contra Cummings no Twitter, hoje rebatizada de X. Logo após a publicação do estudo, Cummings foi nomeada para a NHTSA para ajudar na regulamentação de carros autônomos.

No início deste ano, 350 mil veículos da Tesla foram recolhidos pela NHTSA devido a preocupações com seu software de assistência à direção autônoma. Não foi, porém, um recall típico. A correção será enviada “over the air” (o que significa que o software será atualizado remotamente e o hardware não precisará ser corrigido).

Falhas dos táxis-robôs

A nova pesquisa da especialista reforçou a desconfiança com a segurança dos táxis-robôs que já ocupam as ruas de várias cidades americanas. A Cruise e a Waymo estão expandindo os serviços comerciais de São Franciso para cidades em todo o país, incluindo Austin, Los Angeles, Miami e Nova York.

Em 10 de agosto, a Comissão de Serviços Públicos da Califórnia concedeu à Cruise e à Waymo uma vitória ao permitir que operassem em São Francisco a qualquer hora e cobrassem tarifas. No dia seguinte, porém, a estreia do serviço foi caótica.

Os táxis autônomos da Cruise provocaram um congestionamento no bairro de North Beach depois que um festival de música realizado na região causou uma pane no sinal de internet, fazendo com que pelo menos dez carros autônomos perdessem o contato com o escritório central. Os carros ficaram parados no meio da rua, bloqueando o trânsito.

Alguns dias depois, um dos carros da mesma operadora ficou preso em concreto recém-derramado em outra rua. Em outro incidente registrado na mesma semana, um táxi autônomo da Cruise colidiu com um caminhão dos bombeiros – um passageiro do táxi ficou ferido.

Advertidas, as empresas diminuíram a frota de táxis-robôs em circulação. Mesmo assim, a novidade passou a atrair casais, que aproveitam a privacidade de o carro autônomo não ter motorista para fazer sexo durante a viagem.

Cummings, por sua vez, vem insistindo no alerta quanto à segurança. “Nunca estivemos em uma situação mais perigosa na história da segurança automotiva, exceto talvez no momento em que os carros foram inventados e ainda não tínhamos criado as luzes de freio e os faróis”, disse a especialista, em recente entrevista.