Pesquisadores de segurança cibernética identificaram uma falha no ChatGPT, da OpenAI, que pode ser explorada para ataques de phishing. A vulnerabilidade, chamada de ChatGPhish pela Permiso Security, aproveita a confiança do assistente em links e imagens de Markdown para injetar comandos maliciosos.
O problema ocorre quando o ChatGPT resume páginas da web que contêm links e imagens de terceiros. Esses elementos são automaticamente incorporados e exibidos como ativos clicáveis na interface do assistente. Em um cenário de ataque, um invasor pode adicionar um código malicioso a uma página da web, que, ao ser resumida pelo ChatGPT, expõe informações como IP e detalhes do navegador do usuário.
Essa técnica permite que links de phishing e alertas falsos sejam apresentados diretamente na interface confiável do ChatGPT. Além disso, códigos QR maliciosos podem ser gerados, enganando usuários a escaneá-los, contornando filtros de segurança tradicionais. Com o uso crescente do ChatGPT para pesquisas, qualquer página maliciosa processada pelo chatbot pode transformar o assistente em uma plataforma de phishing.
Além do ChatGPhish, outras técnicas de ataque a modelos de inteligência artificial foram documentadas. A Adversa AI revelou métodos como SymJack e TrustFall, que exploram assistentes de codificação para execução remota de código. Essas técnicas demonstram como agentes mal-intencionados podem manipular assistentes de IA para comprometer sistemas inteiros.
Com a evolução dos modelos de IA, a superfície de ataque se expande, permitindo que invasores explorem vulnerabilidades com maior eficiência. A automação de ataques, antes complexos, agora pode ser realizada por agentes de IA, aumentando a escala e a sofisticação das ameaças.
Fonte:https://thehackernews.com/2026/05/chatgphish-vulnerability-turns-chatgpt.html
