Em meio à adoção acelerada da inteligência artificial (IA), um dos principais desafios das empresas é a governança corporativa. Com a velocidade da adoção das novas tecnologias, existe uma brecha importante em cibersegurança, especialmente entre as companhias que estão em estágio de desenvolvimento em sua jornada de aplicação da IA.
“O agente de IA precisa ser gerido como um funcionário em termos de regras governança: entender o que pode ou não fazer, em qual grau, em qual função”, disse Alberto Leite, CEO do Grupo FS, durante o NeoSummit IA na Real. “Quem não tiver [essa governança] tende a ter um ambiente extremamente descontrolado.”
O executivo avalia que o obstáculo é maior para as empresas que estão nos estágios iniciais da adoção de ferramentas de inteligência artificial e que utilizam as soluções especialmente de forma tática. “Isso, de fato, pode abrir um mercado importante de desenvolvimento de produtos para as empresas nessa parte de governança e de agentes que geram governança”, afirmou Leite.
Luís Fernando Liguori, líder de arquitetura de soluções da AWS no Brasil, também vê um desafio de governança quando o assunto são agentes de inteligência artificial. “O agente de IA tem que ter controle, restrição, tem que ser monitorado. A empresa cria, contrata, treina e uma hora vai ter que demitir. Todo mundo hoje em dia vai ser gestor de agentes”, afirmou Liguori no mesmo painel.
Para além dos agentes, o executivo destacou ainda que dois outros níveis necessários de governança dentro do novo cenário de cibersegurança em IA: prompt e dados. “A lógica de negócio que era o diferencial, geralmente no software, é facilmente copiada, replicada, ou criada. Sobraram os dados, que são um produto. É preciso entender quem acessa, como acessa”, afirmou. “Vejo as empresas pulando muitas fases [de governança]”.
Risco em escala
Outro ponto de atenção em cibersegurança é a complexidade que as situações de risco ganharam com o desenvolvimento da IA. As tentativas de golpes estão mais sofisticadas e velozes, o que dificulta sua identificação – tanto entre pessoas físicas quanto entre empresas.
“Hoje existe uma quantidade de dispositivos conectados muito maior do que você tinha 10 anos atrás, com muito mais pontos de contato das pessoas, então a superfície de ataques aumenta muito”, disse Leite, do Grupo FS. “Mas a IA vem em duas vias: as empresas também começam a se defender”.
Liguori, da AWS, reforçou que a IA mudou a velocidade e a escala dos ataques de cibersegurança. Nessa batalha, o executivo enxerga a assimetria de informação como a grande vantagem das empresas que buscam se defender.
“Temos que gerar assimetria: quem ataca a empresa conhece uma parte do seu contexto. Mas quem tem todo o contexto é o cliente. Eu tenho mais informação que ele, posso usar isso a meu favor”, disse ele.
Cibersegurança e soberania digital
Há ainda uma questão não endereçada no Brasil sobre cibersegurança e soberania nacional. Segundo Leite, um cenário geopolítico mais turbulento aumenta a necessidade do governo repensar a proteção dada a infraestruturas críticas e dados sensíveis.
“Tenho uma preocupação muito grande no Brasil. Aspectos críticos, como o gerenciamento da criptografia, não estão nas mãos de empresas nacionais. Empresas internacionais [estão com posse] de dados sensíveis dos brasileiros”, disse o CEO do Grupo FS.
Segundo o Leite, empresas internacionais contornam a exigência de que a infraestrutura tenha capital brasileiro ao adquirir pequenas participações de companhias locais.
“As ações ordinárias, com direito a voto, são transferidas para fora e aqui ficam apenas as preferenciais, de forma que a empresa estrangeira é dona efetiva da empresa, ainda que apareça para o governo que a contratação é feita com uma empresa de capital nacional. E a gente aceita isso”, afirmou ele.
O maior risco é que a estrutura de criptografia do Estado fique vulnerável – especialmente diante da evolução da computação quântica esperada para os próximos anos. Ele avalia que ainda não é possível estimar quando a computação quântica vai entrar em seu maior momento de potencialização, mas que o impacto será grande e que será preciso ter uma estrutura forte de proteção.
“Podemos nos defender se houver amadurecimento em soberania digital, para entender aquilo que realmente precisa ser feito no Brasil”, afirmou Leite.
