A inteligência artificial não funciona como se fosse a varinha de Harry Potter

Uma das mais conhecidas representações gráficas dos estágios do ciclo de vida de uma tecnologia é o Hype Cycle, criado pelo Gartner, nos anos 1990. É hoje quase uma instituição usada pelos executivos de TI nas suas discussões e apresentações para o público.

Entretanto, o ciclo não tem embasamento científico e não há dados ou análises que justifiquem a inserção de determinada tecnologia em uma fase desse ciclo. É mais uma constatação, com fases definidas em termos subjetivos, como desilusão e expectativas, que não podem ser descritos de forma objetiva onde determinada tecnologia realmente está em um determinado momento.

Na verdade, a curva é desenhada explorando duas outras curvas conhecidas: a curva em sino, a primeira parte, que é emocional, onde a tecnologia é superestimada (um entusiasmo excessivo) e depois, despenca, quando a realidade se faz presente e acontece um desapontamento também exacerbado. E, a segunda parte, uma curva em “s”, que mais ou menos descreve a adoção real de uma tecnologia no tempo, que geralmente acontece de forma gradual.

Além disso, os termos são enganosos no sentido de que podem levar a uma ideia errada de quando usar uma tecnologia: o usuário deveria ficar longe da tecnologia no Vale da Desilusão? Ou deverá seguir o “efeito manada” e adotar a tecnologia quando há otimismo exagerado? Ou aguardar a maturidade dela e adotá-la quando o mercado já a utiliza de forma ampla?

É, claro, uma decisão afeita unicamente à cada empresa. E essa decisão não pode e nem deve ser tomada apenas com base em um gráfico simples assim. Além disso, nenhuma perspectiva de ação é oferecida para fazer com que a tecnologia avance para a próxima fase.

Uma análise dos ciclos de hype do Gartner desde 2000 mostra que poucas tecnologias realmente viajam pelas fases propostas e que, na prática, a maioria das tecnologias importantes adotadas desde 2000 não foram identificadas no início de seus ciclos de adoção. Há um artigo de 2016, “8 Lessons from 20 Years of Hype Cycles”, que aborda esse assunto de forma bem instigante.

O artigo mostra o Hype Cycle de 1995 e vemos que muito pouca coisa realmente seguiu o caminho proposto pelas fases do ciclo.

Bem, e que isso tem a ver com inteligência artificial (IA)? Também sem base científica, apenas olhando os gráficos de hype cycle como auxílio visual e minha própria percepção sobre o mercado, observo que estamos na fase do otimismo exagerado. Toda e qualquer startup se diz usando IA. Eventos e mais eventos abordam IA no setor x ou y, ou é “IA para executivos”.

A IA se tornou o termo da moda e como ainda existe pouco conhecimento do que é e o que não é IA, muita coisa que não tem nada a ver com IA é rotulado de IA. Aliás, volta e meia me deparo com frases do tipo “IA vai resolver isso”. Como se IA fosse a varinha mágica de Harry Potter. A IA está na fase das expectativas exageradas.

Mas essa fase emocional de otimismo exagerado será desmanchada quando a realidade aparecer. Colocar um sistema de IA baseado em ML-as-a-service como os oferecidos pelas grandes empresas de tecnologia é relativamente fácil, mas colocar os sistemas de IA em produção não o é.

Além dos desafios naturais de treinamento dos algoritmos, como dispor de base de dados adequada em volume e variedade suficientes para evitar distorções, existem desafios próprios dos sistemas de Machine Learning (ML). Por exemplo, em sistemas de software tradicionais, os desenvolvedores escrevem o código que interage com os dados para produzir o resultado desejado.

Os testes de software ajudam a garantir que a lógica escrita no código esteja alinhada com o comportamento real esperado. No entanto, em sistemas de ML, os desenvolvedores fornecem o comportamento desejado como exemplos durante o treinamento e o processo de otimização do modelo produz a lógica do sistema.

Como podemos garantir que essa lógica aprendida produzirá de forma consistente o comportamento desejado? Pois é, os sistemas de ML são, portanto, mais complicados de testar pelo fato de que não estamos escrevendo explicitamente a lógica do sistema. Este artigo, “Effective testing for machine learning systems”, é bem interessante e nos dá algumas dicas legais de como testar modelos de ML.

Além disso, sistemas de IA também falham. Mas existem diferenças entre IA e um sistema de software tradicional. No software tradicional, como folha de pagamento, por ser determinístico, se o salário de um funcionário sair errado, é fácil identificar. Em um sistema de IA, por ser probabilístico, é muito mais difícil.

Em estatística “todos os modelos estão errados, mas alguns são úteis”, o que nos leva a pensar de forma diferente na questão da identificação de falhas. Nenhum sistema de IA consegue ser 100% correto, pois joga com probabilidade.

Um sistema de IA degrada assim que entra em produção, pois o contexto onde ele atua provavelmente já será diferente do contexto de onde ele foi treinado

Um sistema de IA degrada assim que entra em produção, pois o contexto onde ele atua provavelmente já será diferente do contexto de onde ele foi treinado. O planejamento para atuar na identificação e correção de falhas é uma etapa que deve ser incluída no planejamento do projeto de IA. É inevitável e esperado. Faz parte do jogo. Vale a pena ler o artigo “What to Do When AI Fails” para alguns cuidados que toda empresa envolvida com IA deveria tomar.

Mas, além disso, algumas limitações dos modelos de ML, como serem “black boxes” e muitas vezes embutirem vieses ocultos e não intencionais vão gerar desconforto e decepção em muitos sistemas de IA, quando eles entrarem em produção. Já escrevi sobre isso aqui no NeoFeed.

Toda tecnologia transformadora, como a IA, tende a ser superestimada no curto prazo e subestimada no médio e longo prazo. A IA vai provocar muitas decepções no curto prazo, exatamente pelas limitações e escassez de talentos que consigam resolver de forma adequadas essas limitações. Entretanto, já vemos muitas ações endereçando estas questões.

O AI Now Institute é uma das organizações que visam a aprimorar o uso responsável de IA pelas empresas e governos. As BigTechs, que hoje concentram grande parte da expertise em IA no mundo, também começam a dedicar mais atenção ao uso ético da IA. Como recentemente, Tracy Frey, um dos estrategistas de IA do Google, disse: ““O mundo da tecnologia está mudando para dizer não 'vou construir só porque posso', mas devo?”e o Google já atua de forma mais direta nesse sentido. O artigo “Google Offers to Help Others With the Tricky Ethics of AI” sinaliza essas novas posturas das BigTechs.

Mas o que isso tem a ver com o Hype Cycle? Como estamos na fase do entusiasmo desenfreado e IA é visto como hype, pelo menos para a maioria das empresas e startups, pouca atenção é dada às questões que vão pegar logo ali na frente:

- testar adequadamente os sistemas de IA, minimizando vieses e falhas;

- colocar em produção, minimizando fenômenos como “deriva” e “cauda longa”;

- evoluir os algoritmos com novos dados e versões;

- adequar à regulações e critérios de desenvolvimento responsável e ético.

Isso implica que muita coisa que está sendo feita no atropelo vai gerar insatisfação e até mesmo decepção. Pelo Hype Cycle do Gartner, seria a descida para o vale da desilusão.

A IA não é tão simplista assim, e isso vai fazer com que as empresas tenham que investir budget e contratar talentos realmente preparados. Pasmem, já ouvi executivos de uma grande empresa dizerem que IA é importante, mas tinham limitação de apenas 10 mil reais de budget para colocar um sistema de IA de pé!

Provavelmente muitas empresas terão que refazer o caminho que fizeram até agora com IA, mas, seguindo outra trilha. A trilha é mais longa e sinuosa que parecia no início. IA é importantíssimo para as empresas e vai mudar e moldar a sociedade, como a eletricidade e os motores a combustão criaram e moldaram a atual sociedade que conhecemos.

Mas não será com hype que isso vai acontecer. Portanto, em vez de seguir o “feito manada” entrando em IA por que é “cool”, que tal começar com uma estratégia de negócios que embuta IA em produtos e serviços, que contrate talentos internos e externos adequados e reserve budget suficiente? Sair do hype e cair na real!