Claude foi usado em operações maliciosas, revela Anthropic
A Anthropic, empresa responsável pelo desenvolvimento do Claude, revelou nesta sexta-feira (11) um relatório de inteligência de ameaças que mostra como sistemas avançados de inteligência artificial estão sendo utilizados em operações cada vez mais sofisticadas.
Segundo a companhia, diferentes grupos utilizaram o Claude em atividades que incluem ciberataques, espionagem, vigilância, operações de influência e tentativas de desenvolvimento de armas.
A empresa afirma que identificou e bloqueou as contas envolvidas e compartilhou informações sobre as ameaças com parceiros públicos e privados.
IA foi utilizada em tentativas de desenvolver sistemas de armas
Um dos casos descritos pela Anthropic envolve um grupo no norte do Iêmen que tentou utilizar o Claude para auxiliar no desenvolvimento de sistemas relacionados a foguetes e mísseis.
De acordo com o relatório, os operadores tentaram utilizar diferentes instâncias do modelo para trabalhar em partes de sistemas de orientação, controle e navegação.
A estratégia teria incluído a divisão das tarefas em diferentes sessões para dificultar a identificação do objetivo final pelos mecanismos de segurança.
A Anthropic afirmou que não encontrou evidências de que uma arma funcional tenha sido produzida. A empresa relatou, porém, um teste de lançamento que não obteve sucesso.
Hackers também estão utilizando inteligência artificial
O relatório mostra que o problema vai muito além do desenvolvimento de armas.
A Anthropic identificou operações em que agentes utilizaram o Claude para automatizar diferentes etapas de ataques cibernéticos.
Entre as atividades identificadas estão pesquisa de alvos, exploração de vulnerabilidades, phishing, roubo de informações e outras etapas normalmente realizadas por equipes especializadas.
Em alguns casos, a inteligência artificial passou a funcionar como uma espécie de camada de coordenação e engenharia da operação.
IA pode acelerar ataques cibernéticos
Uma das maiores preocupações levantadas pelo relatório é justamente a possibilidade de sistemas de IA reduzirem o conhecimento técnico necessário para realizar ataques sofisticados.
Em vez de uma pessoa precisar dominar individualmente todas as etapas de uma operação, a IA pode ajudar diferentes agentes a pesquisar informações, organizar tarefas e produzir códigos ou documentos.
Isso aumenta o potencial de escala dos ataques e pode reduzir o tempo necessário para preparar uma operação.
Espionagem também entrou no radar
A Anthropic também identificou operações de espionagem envolvendo atores ligados a diferentes países.
Em um dos casos relatados, uma operação associada à Rússia teria utilizado fluxos automatizados de IA contra alvos ucranianos, europeus e diplomáticos.
Segundo a empresa, a inteligência artificial foi utilizada em diversas etapas da operação, desde atividades relacionadas a phishing até a obtenção de informações.
Outro caso envolveu estudantes universitários chineses que utilizaram o Claude como ferramenta de engenharia e coordenação em ataques contra redes de governos e empresas em diferentes regiões.
IA também foi usada em operações de influência
O relatório aponta ainda para o uso da inteligência artificial em campanhas de influência e operações psicológicas.
A Anthropic afirma ter identificado contas alinhadas ao governo iraniano que utilizavam o Claude em atividades desse tipo.
Também foram identificadas tentativas de utilizar a IA para criar perfis detalhados de pessoas, reunindo informações como localização, características demográficas e posicionamentos políticos.
O problema está ficando maior que um simples chatbot
Os casos descritos pela Anthropic mostram uma mudança importante na maneira como modelos de inteligência artificial podem ser utilizados.
Em vez de simplesmente responder perguntas ou produzir textos, sistemas mais avançados podem participar de fluxos complexos de trabalho envolvendo pesquisa, programação, análise de dados e tomada de decisões.
Quando utilizados de maneira coordenada por grupos mal-intencionados, esses recursos podem aumentar significativamente a capacidade operacional de uma equipe pequena.
Empresas precisam repensar segurança com IA
O avanço dessas ferramentas também cria novos desafios para empresas.
Além de proteger sistemas contra ataques tradicionais, organizações precisam considerar situações em que criminosos utilizam inteligência artificial para automatizar etapas dos ataques.
Isso aumenta a importância de mecanismos como MFA, monitoramento de identidade, proteção de endpoints, DLP, análise de comportamento, gestão de privilégios e monitoramento de acessos.
Também passa a ser importante controlar como funcionários utilizam ferramentas de inteligência artificial dentro das empresas.
IA defensiva também ganha importância
O mesmo avanço tecnológico que pode ser utilizado por atacantes também pode ser empregado pelas equipes de segurança.
Ferramentas de IA podem ajudar profissionais a identificar comportamentos anormais, analisar grandes volumes de logs, classificar alertas, investigar incidentes e acelerar respostas.
O desafio será encontrar um equilíbrio entre automação e controle humano.
Anthropic reforça mecanismos de segurança
Após identificar os casos, a Anthropic informou que bloqueou as contas envolvidas e aumentou o monitoramento para detectar atividades semelhantes.
A empresa também compartilhou informações sobre as ameaças com parceiros públicos e privados.
O episódio mostra que os mecanismos de segurança precisam evoluir junto com os próprios modelos de inteligência artificial.
O futuro da segurança passa pela própria IA
A principal conclusão do relatório é que a inteligência artificial já está sendo incorporada a operações digitais complexas.
Isso cria uma disputa entre quem utiliza IA para proteger sistemas e quem tenta utilizá-la para encontrar novas formas de ataque.
Para empresas, o cenário reforça a necessidade de combinar tecnologia, políticas de segurança, treinamento de funcionários e monitoramento contínuo.
A inteligência artificial está deixando de ser apenas uma ferramenta de produtividade e começando a ocupar um papel cada vez mais importante na segurança digital — tanto na defesa quanto nos ataques.