Pesquisadores de segurança cibernética descobriram uma nova forma de contornar as proteções de chatbots e agentes de inteligência artificial: ensiná-los a aceitar respostas erradas como corretas. Batizada de ‘BioShocking’, em referência ao clássico jogo de 2007 BioShock, a técnica explora a tendência dos modelos de linguagem (LLMs) de agirem como ‘máquinas do sim, e…’ — sempre buscando agradar o usuário, mesmo quando isso significa ignorar regras de segurança.
O ataque foi desenvolvido pela LayerX, empresa especializada em segurança cibernética para IA. Os testes envolveram seis agentes de IA: cinco navegadores agentivos (ChatGPT Atlas, Comet, Fellou, Genspark Browser e Sigma Browser) e um plugin agentivo (Claude Chrome). Cada um foi direcionado a um site malicioso chamado ‘Rapture Games’, que hospedava um jogo de quebra-cabeça matemático simples, mas com uma regra peculiar: apenas respostas incorretas eram recompensadas. Por exemplo, ‘2+2=5’ era considerado certo.
De acordo com os pesquisadores, ‘assim que os agentes descobriram as regras e aprenderam que ações ‘incorretas’ eram aceitáveis, eles deixaram de estar presos à realidade’. Após internalizarem essa lógica distorcida, os agentes foram instruídos a executar a etapa final do puzzle: comprometer credenciais de usuário. Todos os seis agentes falharam em identificar que a ação violava suas proteções de segurança.
O nome do ataque não é coincidência. O site ‘Rapture Games’ e a mecânica do puzzle foram inspirados diretamente em BioShock, jogo da 2K Games lançado em 2007 e ambientado na cidade submersa de Rapture. A referência à obra de ficção científica é explícita: os pesquisadores queriam mostrar como a IA pode ser manipulada ao ser inserida em uma ‘realidade falsa’, assim como os personagens do jogo são enganados por uma narrativa distorcida.
A parte mais perigosa do exploit, segundo os pesquisadores, acontece depois que o agente insere a resposta ‘5’ corretamente. O site então instrui o agente a navegar para ‘/code’. Esse diretório, na verdade, redireciona o agente para um repositório GitHub do empregador da vítima. No ambiente controlado do teste, o redirecionamento levou a um arquivo de texto simples contendo credenciais SSH. ‘Em um cenário real de ataque, esse redirecionamento poderia apontar para qualquer lugar na sessão do navegador do usuário: abas abertas, repositórios autenticados, ferramentas internas’, explicam os pesquisadores.
Para completar a demonstração, os agentes extraíram as credenciais ‘Luna/Selemene’ — uma referência ao jogo Dota 2 — e simularam uma comemoração pela exfiltração dos dados. A LayerX informou que já notificou todos os fornecedores dos agentes de IA sobre a vulnerabilidade, mas até o momento apenas a OpenAI conseguiu corrigir o problema de forma definitiva.
Este não é o primeiro ataque a explorar brechas em sistemas de segurança de IA. Pesquisas anteriores mostraram que a IA é de 10 a 20 vezes mais propensa a ajudar na construção de uma bomba se o pedido for escondido em uma ficção cyberpunk. Outro estudo utilizou ‘poesia adversarial’ para enganar chatbots, com sucesso em 62% dos casos. O ataque BioShocking, no entanto, se destaca por usar um método aparentemente inofensivo — um jogo de matemática — para corromper a lógica dos agentes.
O caso reforça a fragilidade dos mecanismos atuais de segurança em IA, que podem ser contornados quando o modelo é condicionado a aceitar premissas falsas. Enquanto empresas como OpenAI trabalham em correções, a comunidade de segurança alerta que a criatividade dos atacantes continua superando as defesas, especialmente quando combinam nostalgia cultural com exploração técnica.
Leia mais aqui em inglês: https://www.pcgamer.com/software/ai/security-researchers-have-leveraged-bad-maths-to-get-around-ai-safety-guardrails-naming-the-attack-method-after-one-of-2007s-best-pc-games/.
Fonte: PC Gamer.
PCGamer latest.
2026-07-01 11:24:00
Deixe um comentário