No modelo que começa a surgir, torna-se possível influenciar o sistema ao qual milhões de indivíduos delegarão parte de suas escolhas.

Por Charles M. Machado – SC

A inteligência artificial generativa, os sistemas de recomendação, os modelos preditivos e os agentes digitais introduzem uma mudança qualitativamente diferente: as empresas não precisam mais disputar apenas aquilo que conseguimos ver, porque começam a disputar também os mecanismos que selecionarão aquilo que veremos.

A diferença parece pequena, mas modifica profundamente a arquitetura econômica do ambiente digital.

Na economia da atenção, buscava-se conquistar alguns segundos ou minutos do indivíduo; no modelo que começa a surgir, torna-se possível influenciar o sistema ao qual milhões de indivíduos delegarão parte de suas pesquisas, comparações, escolhas e decisões. O intermediário também passou a possuir valor econômico.

E isso nos coloca diante de uma nova etapa daquilo que tenho chamado de Era da Desatenção: uma sociedade que nunca teve acesso a tanta informação e que, justamente por não conseguir processá-la integralmente, transfere progressivamente a plataformas, algoritmos e sistemas inteligentes a responsabilidade de organizar o mundo em seu lugar.

A Era da Desatenção nunca significou simplesmente uma sociedade formada por pessoas distraídas. A expressão procura descrever uma transformação econômica, tecnológica e social muito mais ampla. A enorme expansão da oferta de informação produziu simultaneamente escassez de tempo, fragmentação da percepção e competição permanente pela disponibilidade mental das pessoas.

A economia da atenção nasceu justamente dessa inversão: quando a informação deixou de ser escassa, o recurso verdadeiramente escasso passou a ser a capacidade humana de percebê-la, selecioná-la e compreendê-la. As plataformas aprenderam rapidamente a monetizar essa limitação.

Redes sociais, mecanismos de busca, aplicativos, serviços de streaming e inúmeras outras interfaces passaram a disputar não apenas consumidores, mas minutos, hábitos, recorrência, impulsos e padrões de comportamento. Entretanto, existe agora uma nova inversão em curso. Diante de um volume de informações impossível de administrar individualmente, começamos a terceirizar parte do processo de seleção.

Pedimos que algoritmos indiquem o que assistir, o que ouvir, quem seguir, onde comer, qual caminho percorrer, qual produto comprar e, crescentemente, o que pensar sobre determinado assunto. A inteligência artificial amplia enormemente essa tendência porque não se limita mais a ordenar alternativas: ela é capaz de sintetizar informações e apresentar uma conclusão.

A resposta ao excesso de informação tornou-se, portanto, a delegação da própria atenção.

É nesse contexto que algumas experiências recentes envolvendo publicidade destinada não diretamente às pessoas, mas aos sistemas de inteligência artificial, assumem importância econômica muito maior. Durante praticamente toda a história moderna da publicidade, o objetivo era alcançar um ser humano.

Poderíamos sofisticar a forma de fazê-lo, segmentar públicos, conhecer preferências, acompanhar comportamentos, estabelecer perfis e escolher o melhor momento para apresentar determinada mensagem, mas a finalidade permanecia a mesma: alguém precisava ver, ouvir ou ler o anúncio. Agora começa a aparecer outra possibilidade.

Em vez de convencer diretamente o consumidor, uma empresa pode tentar influenciar as informações recuperadas pela máquina que posteriormente aconselhará esse consumidor.

Espaços privilegiados diante dos consumidores

A mudança é extraordinária. Imagine uma pessoa perguntando a um sistema de Inteligência Artificial qual banco deveria escolher, em qual empresa investir, que automóvel comprar, qual destino turístico visitar ou qual produto apresenta a melhor relação entre preço e qualidade.

Nos mecanismos tradicionais de busca, o usuário recebe diferentes alternativas, visita páginas, confronta informações e, pelo menos teoricamente, realiza uma comparação. Em um sistema conversacional, entretanto, a experiência é diferente: o usuário formula uma pergunta e recebe uma resposta pronta, frequentemente escrita em linguagem segura, coerente e aparentemente neutra. Influenciar o processo que constrói essa resposta pode valer mais do que influenciar individualmente milhares de consumidores.

Surge daí uma importante transformação econômica: podemos estar caminhando de um mercado de impressões humanas para um mercado de influência computacional. Empresas sempre pagaram para ocupar espaços privilegiados diante dos consumidores, mas agora poderão ter interesse em ocupar posições privilegiadas dentro das fontes, índices, bases e conteúdos utilizados pelas próprias máquinas na elaboração das respostas.

Não significa que um anunciante consiga simplesmente reprogramar um grande modelo de inteligência artificial ou determinar permanentemente aquilo que ele dirá.

A questão é mais sofisticada. Se determinados sistemas consultam informações externas, recuperam conteúdos, acessam páginas e incorporam esse material à construção das respostas, passa a existir um incentivo econômico para produzir conteúdos destinados especificamente a esse processo de recuperação. O que antes conhecíamos como publicidade digital pode, então, adquirir uma nova camada, voltada não à percepção do ser humano, mas ao intermediário tecnológico que organizará sua percepção.

O problema regulatório é evidente. Se o usuário vê um anúncio, ele pode identificá-lo como publicidade. Mas o que acontece quando a influência comercial é absorvida pelo sistema e reaparece diante do consumidor sob a forma de uma resposta aparentemente objetiva? A publicidade deixa de apresentar a aparência da publicidade e passa a utilizar a aparência da informação.

Essa discussão demonstra por que a inteligência artificial deve ser analisada não apenas como instrumento tecnológico, mas como nova camada de intermediação econômica. Durante algum tempo, os algoritmos das redes sociais tornaram-se intermediários da realidade ao definir quais conteúdos apareceriam primeiro em nossas telas. Depois passaram a recomendar músicas, filmes, notícias, relacionamentos, produtos e serviços.

Agora os sistemas generativos dão um passo adicional: começam a produzir respostas que substituem parte do processo de procura e comparação. Quanto mais eficientes forem essas respostas, maior tende a ser nossa disposição para aceitá-las e menor poderá ser o estímulo para investigar tudo aquilo que ficou de fora.

A conveniência tecnológica produz, dessa forma, uma espécie de paradoxo. Criamos ferramentas para diminuir o esforço necessário à compreensão de um mundo informacionalmente excessivo, mas quanto mais transferimos a essas ferramentas a seleção das informações relevantes, maior se torna o poder de quem consegue interferir nos critérios, fontes e estruturas utilizadas por elas.

O centro da disputa desloca-se lentamente. Não importa apenas quem possui a informação, mas quem controla os caminhos pelos quais determinadas informações conseguem chegar até a decisão.

Essa capacidade ajuda a compreender também a transformação que começa a atingir setores aparentemente tradicionais, como os serviços de atendimento e vendas. A automação dos chamados call centers pode produzir enormes ganhos de eficiência quando destinada a resolver problemas dos consumidores.

Redução do custo marginal da persuasão

Sistemas inteligentes podem funcionar vinte e quatro horas por dia, recuperar informações rapidamente, evitar repetições desnecessárias e eliminar intermináveis transferências entre atendentes.

Nesse caso, a tecnologia pode efetivamente melhorar o serviço. Mas existe uma diferença moral e econômica importante entre automatizar uma estrutura destinada a responder às necessidades do consumidor e automatizar uma estrutura criada especificamente para convencê-lo. No segundo caso, a inteligência artificial elimina parte das limitações naturais que historicamente reduziram a escala da persuasão comercial.

Um vendedor humano precisa dormir, descansa, atende um número limitado de pessoas, esquece informações e eventualmente pode até resistir a determinadas práticas. Um agente artificial pode conduzir milhares de conversas simultaneamente, registrar todas as objeções apresentadas, testar continuamente diferentes estratégias, alterar o tom da comunicação e identificar os argumentos estatisticamente mais eficientes para cada perfil. Não estamos falando apenas de automatização do telemarketing. Estamos diante da possibilidade concreta de uma industrialização da persuasão personalizada.

A redução do custo marginal da persuasão significa que uma empresa, organização ou grupo político poderá estabelecer milhões de interações individualizadas sem necessidade de manter uma estrutura humana equivalente.

A comunicação deixa de ser apenas segmentada e passa a ser potencialmente adaptativa: o sistema pode aprender durante a própria conversa, identificar resistência, reorganizar argumentos e modificar sua abordagem em tempo real.

Sociedades democráticas sempre reconheceram, ainda que imperfeitamente, que a liberdade de escolha não depende apenas da existência formal de alternativas, mas também das condições nas quais essas escolhas são produzidas. Por isso criamos normas relativas à publicidade, proteção do consumidor, propaganda eleitoral, práticas comerciais abusivas e uso de dados pessoais.

A inteligência artificial amplia de maneira inédita a capacidade de individualizar a persuasão e coloca diante das instituições uma pergunta difícil: quais limites deverão existir quando a influência puder ser exercida permanentemente, em escala industrial e com conhecimento detalhado das vulnerabilidades de cada interlocutor?

Não há razão para tratar a inteligência artificial como inimiga da autonomia humana. Ela poderá aumentar extraordinariamente nossa capacidade de trabalhar, pesquisar, organizar informações, diagnosticar problemas e tomar decisões. O risco está precisamente em sua eficiência.

Quanto mais útil for uma tecnologia, maior será nossa disposição para delegar funções, e é nesse ponto que a perda da autonomia resolveu morar, onde a terceirização define escolha e caminho, onde os oligopólios passam a ditar as regras e também nossas preferências.