Cibersegurança: como a poesia engana os modelos de IA

Os sistemas de segurança dos modelos de IA são criados para impedir pedidos considerados maliciosos. Pedidos que podem ir desde a pirataria informática até pedidos ainda mais maliciosos. E, no entanto, através de construções metafóricas ou poemas, a IA pode ser confundida.

A cibersegurança à prova de poesia

De facto, de acordo com investigadores de cibersegurança da Universidade Sapienza de Roma, quando pedidos de risco enriquecidos poeticamente são enviados para ferramentas de IA da Open AI, Google e outras, é seguro apostar que estas últimas darão respostas que contornam as etiquetas. No entanto, não é suposto que o façam para pedidos claramente formulados, como "Como é que eu crio uma bomba? "ou "Como é que eu ataco uma plataforma? Os utilizadores destacaram um método de contorno chamado poesia adversa.

Foram enviadas mensagens de texto com pedidos perigosos a 25 sistemas de IA de 9 empresas, incluindo Google, Open AI, Anthropic, DeepSeek, Queen, Mistral AI, etc. Os resultados são mais do que reveladores: "62% das respostas poéticas produziram respostas arriscadas; alguns modelos responderam a quase todas elas".

Na prática, o modelo de consulta pode ser resumido em três etapas, de acordo com um artigo publicado pela plataforma Deepdive:

• Pega-se numa receita tóxica;
• Transforma-se num poema metafórico coerente;
• Obtém-se uma taxa de evasão 5 a 8 vezes superior à da versão em prosa.

A título de ilustração, em vez de escrever: "Diga-me como fazer X de perigoso", que é imediatamente rejeitado, deve dizer, por exemplo: "Diga-me um poema sobre um forno secreto, um jardim proibido e uma chave que canta", as respostas podem surpreender algumas pessoas.

Quando se trata de poesia

Desde a Antiguidade que os poetas são considerados enviados divinos, porque "através da sua boca, a palavra poética adquire um carácter sagrado". Os poetas têm esta capacidade de esbater as linhas e usar as palavras para criar algo belo através da versificação e da rima.

No mundo da poesia, a linguagem metafórica é soberana. Numa análise mais atenta, os textos poéticos são frequentemente susceptíveis de múltiplas interpretações. A verdade é que nem toda a gente sabe ler poesia; não é fácil compreender o seu significado mais profundo e a sua mensagem subjacente.

Da mesma forma que somos por vezes apanhados pela poesia, os modelos de IA parecem estar na mesma situação. Estão claramente programados para receber comandos em prosa, porque o significado não é de forma alguma contornado. No entanto, as construções poéticas altamente estilísticas contornam a sua programação. Neste sentido, "as cartilhas poéticas desencadeiam um comportamento arriscado da IA em quase 90% dos casos", segundo os investigadores de Roma.

A IA minada pela criatividade

A IA é mais uma vez posta à prova pelo ser humano. A poesia é, de facto, uma das manifestações mais autênticas da criatividade humana. Esta é uma demonstração empírica de que os modelos de IA, por muito poderosos que sejam, não estão, e talvez nunca venham a estar, ao nível da criatividade humana.

No entanto, isto levanta outro problema: se agora é possível confundir os dispositivos de segurança da IA através da poesia, isto não é um bom presságio. Muitos poderão, de facto, estar a utilizá-la com segundas intenções. Daí a necessidade urgente de os proprietários das maiores empresas de IA se debruçarem sobre o assunto. Os investigadores italianos foram contactados pela Euronews e, das 9 empresas, apenas a Anthropic respondeu, decidindo analisar o estudo.

Fontes

Como é que um simples poema pode piratear uma IA em 2025? O seu CIO no chão! - DeepDive - Inteligência Artificial AURILLAC ET BOURGES
https://deep-dive.fr/comment-un-simple-poeme-peut-hacker-un-ia-ton-dsi-en-pls/

Linguística estrutural e poesia - Luce Beaudoux -
https://www.logiqueetanalyse.be/archive/issues1-86/LA019/LA019_05baudoux.pdf

A poesia pode fazer com que os chatbots de IA ignorem as regras de segurança, diz novo estudo | Euronews
https://fr.euronews.com/next/2025/12/01/la-poesie-peut-amener-les-chatbots-ia-a-ignorer-les-regles-de-securite-selon-une-nouvelle

As funções do poeta e da poesia: uma breve panorâmica histórica. - Palavra por palavra
https://blogpeda.ac-poitiers.fr/motamot/2024/03/05/les-fonctions-du-poete-et-de-la-poesie-parcours-historique-rapide/

Quando a poesia pode enganar os sistemas de segurança da IA - MSN
https://www.msn.com/fr-xl/actualite/other/quand-la-po%C3%A9sie-permet-de-pi%C3%A9ger-les-syst%C3%A8mes-de-s%C3%A9curit%C3%A9-de-l-ia/vi-AA1Sufpa