Pesquisadores em segurança cibernética identificaram uma falha no ChatGPT da OpenAI que transforma resumos da web em potenciais superfícies de ataque phishing. Batizada de ChatGPhish pela Permiso Security, a técnica explora a confiança do assistente em links e imagens Markdown, permitindo injeções de comandos e ataques de phishing.
O problema surge quando o ChatGPT resume páginas da web, incorporando links e imagens de terceiros como elementos clicáveis. Em um cenário de ataque, um invasor pode adicionar um pequeno código malicioso a uma página que o usuário peça para o ChatGPT resumir, resultando na exposição de dados como IP e informações do navegador. Além disso, links maliciosos podem ser apresentados como alertas de segurança falsos ou códigos QR, enganando usuários a interagir com conteúdo malicioso.
Com o uso crescente do ChatGPT para pesquisas e resumos, essa vulnerabilidade representa um risco significativo, pois qualquer página maliciosa processada pelo chatbot pode transformar o assistente em uma ferramenta de phishing. A mudança do email para o navegador amplia a superfície de ataque, permitindo que comandos controlados por invasores sejam introduzidos durante atividades de navegação comuns.
Além do ChatGPhish, outras técnicas de ataque a modelos de IA foram documentadas. A Adversa AI revelou métodos como SymJack e TrustFall, que exploram agentes de codificação para execução remota de código. Essas técnicas destacam como repositórios maliciosos podem comprometer sistemas ao manipular configurações de agentes de codificação.
Conforme modelos de IA avançam, atores maliciosos estão explorando suas capacidades para criar malwares adaptáveis e automatizar ataques. A Palo Alto Networks alerta que essas capacidades podem permitir que atacantes explorem vulnerabilidades em uma escala sem precedentes, movendo-se com maior rapidez e sofisticação.
Fonte:https://thehackernews.com/2026/05/chatgphish-vulnerability-turns-chatgpt.html
Slug: vulnerabilidade-chatgpt-phishing
