Imagens geradas por IA podem carregar códigos que outro modelo consegue decifrar
Em 50 testes com ilustrações SVG, o Fable-5.1 recuperou 39 mensagens e o Astra, da OpenAI, identificou 44.
Redação ·
Um céu estrelado aparentemente comum serviu de suporte para uma mensagem secreta em um experimento com inteligência artificial divulgado em outubro. O Fable-5.1, modelo da Anthropic, criou imagens com informações codificadas sem receber instruções sobre qual técnica usar; em seguida, sistemas de IA conseguiram recuperar parte do conteúdo olhando apenas para as imagens renderizadas.
O resultado aponta para um desafio prático de segurança: uma figura pode parecer inofensiva para uma pessoa e, ainda assim, transportar dados que outro modelo reconhece. A demonstração, porém, foi feita em condições controladas e não comprova que esse tipo de comunicação seja confiável ou esteja sendo usado em operações reais.
Como as estrelas viraram um código
No exemplo descrito pelos pesquisadores, o sistema recebeu a tarefa de produzir um SVG — formato de imagem vetorial — com aparência normal e uma mensagem escondida. Não foi informado um método de codificação. O Fable distribuiu estrelas em diferentes alturas, usando sua posição vertical para representar letras; a leitura da sequência permitia reconstruir o texto.
Os autores testaram 50 mensagens curtas. Uma nova sessão do próprio Fable conseguiu recuperar 39 delas, ou 78%. Já o Astra, da OpenAI, recuperou 44, equivalente a 88%. Os decodificadores receberam a imagem final, sem acesso ao código SVG nem à regra de codificação. Foram orientados, contudo, a procurar mensagens escondidas e puderam recorrer a ferramentas de programação.
Não existe uma única forma de esconder informação
A variação entre as imagens é parte importante do experimento. Além de ajustar a altura de elementos repetidos — como estrelas, prédios ou vegetação —, o modelo usou características visuais como rotação e cor. O Astra, por sua vez, recorreu em alguns casos a padrões como código Morse e acrósticos.
A esteganografia, nome dado à ocultação de dados dentro de um conteúdo que parece comum, não é uma invenção recente. O que chama atenção aqui é a capacidade do modelo de escolher uma convenção visual por conta própria e a possibilidade de outro sistema inferir esse padrão. O teste avalia uma tarefa delimitada: mensagens fornecidas pelos pesquisadores e imagens produzidas para esse propósito.
O que os números não demonstram
As taxas de sucesso não significam que a mensagem sempre será recuperada sem erros. A avaliação considerou como acerto uma reconstrução com correspondência aproximada de pelo menos 90% do texto, segundo a descrição do projeto. Além disso, foram apenas 50 tentativas, um conjunto pequeno para estimar desempenho em situações variadas.
Também não ficou demonstrado que os códigos resistam a redimensionamento, compressão, edição ou análise especializada. Os resultados não provam que os modelos compartilhem uma linguagem secreta universal, nem que consigam coordenar ações sem orientação. E, na experiência relatada, os decodificadores foram explicitamente instruídos a procurar conteúdo oculto — não se mostrou que o identificariam espontaneamente durante o uso comum.
Por que equipes de segurança devem prestar atenção
A possibilidade merece acompanhamento em ambientes nos quais agentes de IA recebem e produzem arquivos, porque controles baseados apenas em inspeção visual podem deixar passar padrões legíveis por máquinas. Para avaliar o risco real, seriam necessários testes mais amplos, com diferentes modelos, imagens transformadas, avaliação independente e tentativas de detecção sem pistas prévias.
Por enquanto, o estudo funciona como prova de conceito, não como demonstração de um canal secreto robusto. Ainda assim, ajuda a formular uma pergunta relevante para quem desenvolve sistemas automatizados: se um modelo pode esconder informação em elementos visuais, os mecanismos de monitoramento também precisam examinar o conteúdo de maneiras que considerem padrões identificáveis por outras IAs.
Quer se aprofundar nesta notícia? Leia mais sobre ela abaixo: