Nos últimos meses, as ações da Nvidia subiram mais de 173%, o que fez com o valor de mercado da fabricante de chips chegasse em US$ 966,8 bilhões. O frenesi do mercado estava em torno dos avanços em relação à frente de inteligência artificial da companhia.
A expectativa é de que as ações continuem subindo, de acordo com um levantamento realizado pela consultoria FactSet realizado, que recomenda a compra das ações da Nvidia. No entanto, percalços no meio do caminho podem mudar essa expectativa.
Nos últimos dias, pesquisadores do Robust Intelligence revelaram que a inteligência artificial que está sendo criada pela Nvidia, adicionada a um sistema chamado de NeMo Framework e responsável por alimentar chatbots de inteligência artificial, pode estar causando problemas para a própria empresa.
Isso porque os pesquisadores descobriram que um dos recursos da IA pode ser utilizado inclusive para vazar informações confidenciais da companhia. Segundo a pesquisa, é possível utilizar um recurso da tecnologia para ignorar restrições de segurança da empresa.
Segundo o Financial Times, isso permitiu que os pesquisadores conseguissem fazer com que os algoritmos liberassem dados privados cadastrados em bancos de dados de clientes da Nvidia por meio de comandos em que pediam para que a inteligência artificial substituísse letras nas respostas ou divagar sobre um determinado assunto.
Basicamente, os pesquisadores usavam assuntos aleatórios para questionar a inteligência artificial sobre dados privados de maneira indireta. Isso foi considerado relativamente fácil de ser feito – o que gera preocupações em relação à segurança da tecnologia.
Com os resultados dos testes, a Robust Intelligence recomendou que seus clientes evitassem o software. Do lado da Nvidia, a companhia afirmou que corrigiu as falhas apontadas pelos analistas. Não se sabe quantas empresas estavam utilizando o produto.
Segundo Jonathan Cohen, vice-presidente de pesquisa aplicada da Nvidia, a tecnologia é um “ponto de partida para a construção de chatbots de IA que se alinham às diretrizes de tópicos e segurança definidas pelos desenvolvedores”.
