Pesquisadores de segurança cibernética revelaram uma vulnerabilidade no ChatGPT da OpenAI, que pode ser explorada para ataques de phishing. Batizada de ChatGPhish pela Permiso Security, a falha permite que links e imagens em Markdown, originados de páginas resumidas pelo assistente, sejam utilizados para injeções de prompt e ataques de phishing.
O problema reside na confiança do ChatGPT em links e imagens de Markdown de páginas de terceiros que ele resume. Essas imagens são automaticamente buscadas e os links são apresentados como elementos clicáveis na interface do assistente. Em um cenário de ataque, um invasor pode adicionar um pequeno código malicioso a uma página web que, quando resumida pelo ChatGPT, pode expor informações como IP e detalhes do navegador do usuário.
Essa vulnerabilidade transforma o ChatGPT em uma superfície de ataque, permitindo que páginas maliciosas, quando resumidas, incluam links de phishing, alertas de segurança falsos e até códigos QR maliciosos. Isso pode enganar usuários a escaneá-los, burlando filtros de segurança em desktops e controles empresariais.
Com o uso crescente do ChatGPT para pesquisa e resumo em ambientes corporativos, qualquer página maliciosa processada pelo chatbot pode conter um payload que o transforma em uma ferramenta de phishing. A Permiso Security destacou que a mudança do email para o navegador amplia significativamente a superfície de ataque potencial, pois basta resumir uma página durante a navegação normal para introduzir instruções controladas pelo invasor no contexto do modelo e, por fim, na resposta renderizada.
Além do ChatGPhish, outras técnicas de ataque contra modelos de IA foram documentadas recentemente. Entre elas, estão o SymJack e o TrustFall, que visam agentes de codificação de IA para execução remota de código e comprometimento total da máquina. Essas descobertas ressaltam a crescente experimentação de atores maliciosos com tecnologias de IA para criar malwares adaptáveis e difíceis de detectar.
Fonte:https://thehackernews.com/2026/05/chatgphish-vulnerability-turns-chatgpt.html
