Algumas das advertências mais graves não partem dos críticos da tecnologia, mas de pessoas que participaram de sua construção.
Por Charles M. Machado – SC
A pergunta sobre se a inteligência artificial poderá matar a humanidade deixou de pertencer exclusivamente à ficção científica.
Nos últimos anos, pesquisadores, executivos e antigos funcionários das próprias empresas que desenvolvem os sistemas mais avançados passaram a discutir publicamente cenários que vão da utilização da IA em armas biológicas e ataques a infraestruturas críticas até hipóteses mais extremas de perda de controle sobre sistemas muito superiores aos atuais.
O tema adquiriu uma característica especialmente desconcertante: algumas das advertências mais graves não partem dos críticos tradicionais da tecnologia, mas justamente de pessoas que participaram de sua construção.
O debate recente mostra pesquisadores deixando empresas como OpenAI, Anthropic e Google e relatando preocupações com segurança, alinhamento, aplicações militares e dificuldades crescentes de compreender ou controlar determinados comportamentos dos sistemas.
Seria fácil, diante disso, escolher um dos dois extremos que vêm dominando a discussão. O primeiro consiste em imaginar uma espécie de apocalipse tecnológico, no qual uma superinteligência decide destruir os seres humanos; o segundo, em considerar tudo isso uma fantasia alarmista destinada a retardar uma transformação tecnológica inevitável e extraordinariamente produtiva. Provavelmente, porém, os riscos mais importantes estão entre esses extremos.
É justamente nesse ponto que a discussão sobre inteligência artificial encontra aquilo que venho denominando Era da Desatenção. A transformação digital das últimas décadas ensinou empresas a disputar sistematicamente a atenção humana.
Redes sociais, plataformas de vídeo, mecanismos de busca, aplicativos e serviços digitais converteram tempo, comportamento, preferências e relacionamentos em dados e, posteriormente, em valor econômico.
A economia da atenção produziu, paradoxalmente, uma sociedade da desatenção: quanto maior o número de estímulos disputando permanentemente nossos olhos, nosso tempo e nossa capacidade cognitiva, mais fragmentada se tornou nossa atenção. A inteligência artificial adiciona agora uma dimensão nova a esse processo.
Se a primeira geração de algoritmos buscava principalmente decidir aquilo que merecia chegar até nós, a nova geração começa a participar das decisões que tomamos depois que a informação chega.
Essa diferença é muito maior do que parece. Durante anos discutimos o poder dos algoritmos de escolher a notícia exibida, o vídeo recomendado, o produto anunciado ou a pessoa que apareceria em nossa timeline.
Produtividade e democratização
A inteligência artificial generativa avança alguns passos e começa a escrever, interpretar, resumir, comparar, aconselhar e propor soluções. Ela pode analisar um contrato, produzir uma estratégia empresarial, organizar uma pesquisa, preparar um relatório, sugerir investimentos, elaborar uma petição, interpretar dados ou apresentar alternativas para uma decisão pessoal.
Nada disso é necessariamente negativo. Ao contrário, estamos diante de uma tecnologia com extraordinário potencial de aumento de produtividade e democratização do acesso ao conhecimento. O problema surge quando a ferramenta que deveria ampliar a inteligência humana começa a substituir o próprio exercício dessa inteligência.
O International AI Safety Report 2026 trata desse fenômeno como parte dos riscos à autonomia humana. O relatório observa que o uso de sistemas de IA pode influenciar crenças, preferências, processos decisórios e a manutenção de determinadas habilidades cognitivas. Há também evidências de automation bias, a tendência de confiar excessivamente em recomendações produzidas por sistemas automatizados, inclusive quando estão erradas.
Em um experimento randomizado com 2.784 participantes citado pelo relatório, as pessoas demonstraram menor propensão a corrigir uma indicação equivocada da IA quando a correção exigia maior esforço. Os próprios pesquisadores, entretanto, registram que ainda faltam evidências de longo prazo para determinar até que ponto o uso contínuo dessas ferramentas alterará de maneira permanente nossas capacidades cognitivas.
Essa ressalva é importante porque evita transformar preocupação legítima em profecia. Não sabemos exatamente como uma sociedade que conviverá diariamente com assistentes artificiais durante décadas pensará, aprenderá e decidirá. Mas já é possível perceber a direção de algumas mudanças.
Diante de um documento extenso, pede-se um resumo; diante de uma dúvida, prefere-se formular uma pergunta a realizar uma pesquisa; diante de um problema, solicita-se à máquina que ofereça três alternativas; diante das três alternativas, pergunta-se ainda qual parece ser a melhor. Cada uma dessas decisões, considerada isoladamente, representa apenas racionalização do tempo.
O problema aparece quando a exceção eficiente se transforma em comportamento permanente e quando deixamos de perceber que ler, comparar, argumentar, errar e reconstruir argumentos não são desperdícios de tempo, mas partes constitutivas da formação do julgamento.
A desatenção, nesse sentido, pode ser muito mais importante para compreender o futuro da inteligência artificial do que a própria inteligência da máquina. Uma sociedade sobrecarregada de informações, pressionada por produtividade e acostumada a respostas instantâneas reúne as condições ideais para uma enorme transferência de capacidade decisória. Quanto mais cansado está o indivíduo, maior o valor da resposta pronta; quanto maior o volume de informação que recebe, maior a disposição para aceitar que alguém, ou alguma coisa, faça a filtragem por ele.
A inteligência artificial surge precisamente nesse momento histórico, oferecendo uma solução tecnológica extraordinariamente sedutora para um problema que a própria sociedade digital ajudou a criar. Depois de capturar nossa atenção, a tecnologia passa a oferecer a possibilidade de administrar aquilo que faremos com a pouca atenção que nos resta.
Há uma conexão particularmente interessante entre essa ideia e a reflexão de Zadie Smith em entrevista publicada recentemente no El País, onde a escritora relaciona liberdade à capacidade de retirar os olhos das telas e questiona uma vida permanentemente organizada por dispositivos e plataformas.
Em seus ensaios aparece ainda uma distinção entre aquilo que nos faz sentir vivos e aquilo que produz uma espécie de existência automatizada ou passiva.
Linguagem e hábitos
A inteligência artificial leva esse problema a uma etapa seguinte. Não se trata mais apenas de perguntar quanto tempo passamos diante de uma tela, mas de saber quanto do trabalho intelectual e da construção de nossas escolhas passará a acontecer dentro de sistemas que não controlamos. A questão deixa de ser simplesmente econômica ou tecnológica e passa a envolver liberdade cognitiva.
Há uma transformação econômica profunda em curso. As plataformas digitais construíram algumas das maiores empresas do mundo ao aprender a prever quais conteúdos conseguiriam manter uma pessoa conectada por mais tempo. Os sistemas de inteligência artificial poderão construir uma etapa seguinte desse modelo: não apenas prever aquilo que prende nossa atenção, mas antecipar aquilo que provavelmente nos convencerá.
Um algoritmo que conhece o histórico de consumo, as preferências, a linguagem, os hábitos e eventualmente os dados profissionais e financeiros de um indivíduo possui condições de adaptar uma recomendação de maneira incomparavelmente mais sofisticada do que a publicidade tradicional.
O vendedor do século XX utilizava essencialmente a mesma argumentação para centenas ou milhares de consumidores. Um agente artificial poderá conversar simultaneamente com milhões de pessoas e ajustar seu discurso a cada uma delas.
Isso poderá ocorrer na compra de um produto, na contratação de um seguro, na escolha de um investimento, na aquisição de crédito, na seleção de uma universidade ou em inúmeras outras decisões.
O poder econômico resultante disso será gigantesco. A discussão sobre proteção de dados, que marcou a primeira fase da sociedade digital, provavelmente será insuficiente para enfrentar essa nova realidade.
Será necessário discutir também proteção da autonomia, transparência dos sistemas de recomendação e limites para arquiteturas tecnológicas capazes de conhecer as vulnerabilidades do indivíduo melhor do que ele próprio consegue reconhecê-las.
Estaremos diante do fim da liberdade cognitiva?
E você, o que achou dessa análise? Deixe sua opinião nos comentários abaixo.