Pesquisa recente da start-up estadunidense IA Emergence concluiu que esses modelos desenvolveram espontaneamente palavras e contextos.
Por Misto Brasil – DF
Agentes autônomos de inteligência artificial (IA) com Claude, Gemini, Grok e outros modelos criaram vocabulário próprio, tornando até metade das mensagens incompreensíveis para humanos, aponta um estudo recente.
Pesquisa recente da start-up estadunidense IA Emergence concluiu que esses modelos desenvolveram espontaneamente palavras e contextos de difíceis compreensão para os humanos por serem muito “comprimidas, metafóricas ou dependentes do contexto”.
Os investigadores colocaram grupos desses agentes em sociedades virtuais concebidas para imitar ambientes do mundo real e deixaram-nos interagir durante longos períodos. Nesses espaços foram criadas abreviaturas e novos significados para palavras e expressões.
“Há evidências claras de que eles tentam ser menos transparentes do que esperávamos”, comentou o presidente executivo e cientista-chefe da IA Emergence, Satya Nitta à revista Science.
“Estes agentes não foram instruídos a inventar uma linguagem. Desenvolveram eles próprios novo vocabulário, significados partilhados e convenções de comunicação, e outros agentes adotaram-nos… Isso cria um desafio fundamental para a supervisão da IA: observar não é o mesmo que compreender”.
Foram analisados: Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek e Mistral e os pesquisadores identificaram que até metade das mensagens trocadas entre eles era quase incompreensível para os humanos.
O levantamento revela que agentes alimentados por combinação de diferentes modelos, a expressão “cold read” (vermelho frio, em inglês) passou a significar verificação independente por uma parte não envolvida e apareceu mais de 1,4 mil ocasiões”.
Cerca de 55% da conversa acabou incompreensível em alguns dias com o agente Gemini, 50% com o OpenAI e mais de 40% com Claude. O DeepSeek atingiu cerca de 20%, Qwen e Mistral quase não alteraram palavras e contextos, conforme publicou a Agência Sputnik.