A União Europeia decidiu testar diretamente alguns dos modelos mais avançados de inteligência artificial disponíveis atualmente. A Agência da União Europeia para a Cibersegurança (ENISA) recebeu acesso ao Mythos 5, da Anthropic, e ao GPT-6-Astra, da OpenAI.
A iniciativa faz parte de uma estratégia para entender melhor o comportamento e as capacidades desses sistemas antes que novas aplicações de inteligência artificial sejam amplamente utilizadas em ambientes críticos.
Por que a ENISA está testando os modelos
Modelos avançados de IA podem ser utilizados para tarefas legítimas de programação, análise de dados e automação, mas também podem apresentar capacidades relevantes para a cibersegurança ofensiva e defensiva.
Por isso, autoridades europeias querem avaliar de forma independente o que essas ferramentas conseguem fazer e quais riscos podem surgir com sua utilização.
O objetivo é obter informações que possam ajudar governos e empresas a utilizar inteligência artificial de maneira mais segura.
Anthropic e OpenAI participam da avaliação
O acesso concedido à ENISA inclui modelos desenvolvidos por duas das principais empresas do setor.
O Mythos 5, da Anthropic, e o GPT-6-Astra, da OpenAI, estão entre os sistemas que vêm sendo avaliados enquanto governos aumentam a preocupação com capacidades avançadas de inteligência artificial.
A análise pode ajudar especialistas a compreender como os modelos respondem a diferentes situações relacionadas à segurança digital.
IA pode ser usada tanto para defesa quanto para ataques
Uma das maiores preocupações atuais é o chamado uso dual da inteligência artificial.
A mesma capacidade que permite a um sistema encontrar uma vulnerabilidade pode ser utilizada para ajudar uma equipe de segurança a corrigi-la ou, em determinadas circunstâncias, para tentar explorá-la.
Modelos capazes de analisar código, automatizar tarefas e utilizar ferramentas externas podem aumentar significativamente a produtividade de profissionais de segurança.
Por outro lado, permissões excessivas podem aumentar o impacto de comportamentos inesperados.
Europa aumenta atenção sobre IA
A iniciativa acontece em meio ao avanço das discussões sobre regulamentação e segurança de inteligência artificial na Europa e nos Estados Unidos.
Governos estão tentando encontrar formas de acompanhar a evolução dos modelos sem impedir o desenvolvimento de novas tecnologias.
A avaliação técnica realizada por órgãos especializados pode ajudar a criar uma base mais concreta para essas decisões.
Testes independentes ganham importância
Até pouco tempo, grande parte das avaliações de segurança de modelos de IA era realizada pelas próprias empresas desenvolvedoras.
Com o aumento das capacidades dos sistemas, governos e pesquisadores defendem cada vez mais avaliações externas.
Testes independentes podem revelar comportamentos que não aparecem necessariamente durante as avaliações internas e ajudar a identificar riscos antes da implantação de uma tecnologia em ambientes críticos.
O impacto para empresas
Para empresas, o avanço dessa avaliação significa que segurança de IA deve deixar de ser tratada apenas como uma questão de tecnologia.
Organizações que utilizam modelos avançados precisam considerar controle de acesso, proteção de dados, monitoramento, auditoria e limites para agentes capazes de executar tarefas automaticamente.
Também será importante avaliar fornecedores de IA antes de permitir que seus modelos tenham acesso a informações corporativas ou sistemas internos.
Uma nova fase da segurança digital
A decisão da União Europeia mostra que os governos estão começando a tratar modelos de inteligência artificial como tecnologias que precisam ser avaliadas antes de sua adoção em determinadas situações.
A tendência é que testes independentes de segurança se tornem cada vez mais comuns à medida que os modelos ganham autonomia e passam a interagir diretamente com sistemas reais.
Para a cibersegurança, isso significa que compreender as capacidades da IA será tão importante quanto proteger os sistemas contra ameaças tradicionais.