A segurança pode fortalecer a inovação, desde que as regras alcancem os danos, os incentivos e a perda de atenção que compromete o controle.
Por Charles Machado – SC
A corrida pela inteligência artificial costuma ser apresentada como uma escolha entre avançar depressa e aceitar limitações que entregariam a liderança ao concorrente. Esse enquadramento transforma qualquer cautela em sinal de fraqueza e comprime o tempo necessário à reflexão.
Na Era da Desatenção, a velocidade passa a valer como prova de progresso, enquanto as consequências recebem menos exame. Mas quanto custa desenvolver uma tecnologia cujos benefícios são apropriados por empresas e investidores, enquanto parte dos riscos é transferida para cidadãos, governos e infraestruturas essenciais? A capacidade de controlar consequências interessa à sociedade que utilizará e eventualmente suportará os efeitos dessa competição
Em artigo publicado em O Estado de São Paulo, Fareed Zakaria sustenta que os Estados Unidos podem regular a IA e preservar sua liderança. Sua contribuição é deslocar a segurança do campo do obstáculo para o da confiança econômica. Sistemas confiáveis podem encontrar maior aceitação em mercados que envolvem dados sensíveis, serviços públicos e decisões empresariais.
A tese merece desenvolvimento, mas também uma ressalva: a existência de regras não garante bons resultados. A qualidade da supervisão, a distribuição dos custos e os incentivos criados pela norma são tão relevantes quanto a decisão de regular.
A regulação precisa responder a duas perguntas essenciais: o que deve ser supervisionado e como reconstruir a responsabilidade quando agentes autônomos atuam através de empresas e fronteiras?
Na Era da Desatenção, o fascínio por capacidades extraordinárias pode obscurecer essas questões. Resolver certas tarefas melhor que uma pessoa não demonstra, por si só, a existência de uma superinteligência geral.
Tampouco estimativas pessoais de catástrofe equivalem a probabilidades cientificamente estabelecidas. Hipóteses extremas devem ser investigadas, mas precisam conviver com a análise dos mecanismos pelos quais um sistema pode causar danos verificáveis.
O risco efetivo depende da combinação entre capacidade técnica, contexto de uso, permissões concedidas, pessoas expostas e possibilidade de intervenção. Um assistente que sugere uma frase tem consequências diferentes das de um agente autorizado a movimentar dinheiro ou alterar sistemas hospitalares.
Mesmo um modelo com desempenho limitado pode produzir prejuízos graves quando opera em escala, recebe informações inadequadas ou atua sem revisão. A fronteira relevante aparece quando uma resposta deixa de ser mera sugestão e passa a desencadear decisões com consequências para terceiros.
Isso não exige esperar pelo primeiro grande desastre. Prevenção é agir antes da materialização do dano, com base em indícios consistentes, testes e cenários plausíveis. A prudência precisa identificar o que pode falhar, quem será atingido e quais controles reduzem a exposição.
A Era da Desatenção aparece também na dificuldade de sustentar esse exame: anúncios de inovação e alertas catastróficos disputam visibilidade, enquanto decisões sobre permissões, monitoramento e reparação recebem menos atenção.
A regulação deve criar condições para que a avaliação permaneça ativa depois que o assunto desapareça das manchetes.
O preço da corrida e a dificuldade de medir o dano
A autorregulação enfrenta um problema de incentivos. Uma empresa pode desejar ampliar os testes, mas recear perder clientes e financiamento se concorrentes lançarem antes. A segurança beneficia todo o mercado; seu custo imediato recai sobre quem a financia. Nesse ambiente, o tempo dedicado a observar e corrigir pode ser tratado como desvantagem.
A desatenção ganha, assim, uma dimensão econômica: estruturas de recompensa podem favorecer o lançamento e adiar o exame de suas consequências. Obrigações comuns e proporcionais devem impedir que a redução de controles se transforme em vantagem comercial, com fiscalização de práticas e resultados.
O mesmo raciocínio exige examinar criticamente os pedidos de regulação feitos pelas grandes empresas. Eles podem refletir preocupação legítima e, simultaneamente, favorecer barreiras que os próprios proponentes conseguem cumprir com mais facilidade. Se cada novo participante tiver de sustentar a estrutura de auditoria de um conglomerado global, a regra ajudará a consolidar o mercado.
A política pública precisa proteger usuários e preservar contestabilidade: exigências devem crescer com a exposição ao dano, acompanhadas de padrões acessíveis, instrumentos compartilhados de avaliação e condições reais de entrada para empresas menores.
A experiência bancária ajuda a compreender testes de resistência, controles internos e falhas que se propagam. Seu limite também deve ser reconhecido. O crescimento de bancos após mudanças regulatórias não prova que essas mudanças, isoladamente, causaram o crescimento. Política monetária, estrutura de mercado, recuperação econômica e tributação interferem no resultado.
Segurança e competitividade podem coexistir, mas a definição das regras para a IA exige evidências próprias. A pressa em extrair conclusões de uma analogia reproduz a lógica da Era da Desatenção: uma explicação convincente pode ocupar o lugar da investigação necessária.
Uma forma elementar de organizar o problema é considerar a perda esperada como a soma da probabilidade de cada cenário multiplicada por seu impacto. A expressão é útil quando existem dados suficientes, mas pode criar falsa precisão diante de eventos raros e tecnologias em transformação.
Além da estimativa central, importa examinar cenários severos, correlação entre falhas, tempo de recuperação e distribuição dos prejuízos. Duas organizações podem suportar a mesma perda financeira e produzir consequências sociais distintas se uma delas presta um serviço do qual depende uma população inteira.
A concentração tecnológica amplia essa dificuldade. Se bancos, hospitais e administrações públicas utilizarem o mesmo fornecedor, falhas semelhantes poderão afetá-los simultaneamente. A diversificação aparente de aplicações não significa diversificação da infraestrutura subjacente. Um erro de atualização, uma interrupção de nuvem ou uma vulnerabilidade compartilhada pode atravessar setores.
O risco sistêmico nasce dessa dependência e da dificuldade de substituir componentes em tempo útil. Nesse contexto, contratos de continuidade, alternativas operacionais e capacidade de migração tornam-se questões de interesse público.
Também existem efeitos distributivos que não cabem no conceito estrito de acidente. Ganhos de produtividade podem coexistir com perda de renda e maior poder de mercado. A difusão das ferramentas não assegura a difusão dos lucros.
Na Era da Desatenção, delegar buscas, escolhas e decisões pode ampliar a dependência de quem organiza os caminhos da informação.
Quando modelos, infraestrutura e distribuição ficam sob controle de poucos grupos, outras economias podem intensificar o uso da IA enquanto transferem receitas a fornecedores externos. A concentração alcança tanto o valor econômico quanto a capacidade de influenciar o que será percebido e escolhido.
Regular o modelo, a empresa e o sistema
As comparações com medicamentos, bancos e aviação ajudam a organizar alternativas, desde que sejam tratadas como referências parciais. A avaliação do produto pode revelar capacidades perigosas; a supervisão da empresa permite examinar governança e incentivos; a análise do sistema alcança a interação entre modelos, ferramentas, usuários e infraestrutura.
Nenhuma dessas camadas elimina as demais. Um modelo de uso geral poderá ser integrado a aplicações muito diferentes, e o mesmo conjunto de capacidades produzirá exposições distintas conforme os acessos e a autonomia concedidos.
Na União Europeia, o AI Act distingue obrigações para fornecedores de modelos de propósito geral e exigências adicionais para aqueles que apresentam risco sistêmico. Essa diferenciação oferece uma referência de proporcionalidade, sem dispensar a avaliação de sua execução.
Nos Estados Unidos, o AI Risk Management Framework do NIST propõe uma estrutura voluntária para incorporar a gestão de riscos ao desenvolvimento e ao uso da tecnologia. São instrumentos de natureza diferente.
A existência de um referencial técnico útil não equivale a obrigação legal, assim como uma obrigação legal não demonstra, sozinha, capacidade de fiscalização.
Uma supervisão consistente deve exigir controles verificáveis nos usos de maior exposição. Isso inclui limitar permissões, separar ambientes de teste e produção, validar alterações relevantes e definir quem autoriza ações sensíveis. Um agente encarregado de identificar falhas não deveria receber automaticamente poderes para explorá-las em sistemas externos.
Uma ferramenta que recomenda pagamentos não precisa ter liberdade irrestrita para executá-los. A arquitetura das autorizações deve corresponder à finalidade da aplicação, com barreiras adicionais quando houver dinheiro, saúde, dados pessoais ou infraestrutura crítica envolvidos.
O controle humano precisa ser funcional. Colocar uma pessoa diante de milhares de decisões por minuto não assegura supervisão. Ela deve dispor de informações compreensíveis, tempo de reação e autoridade para interromper o processo.
Na Era da Desatenção, a familiaridade com respostas rápidas pode transformar a revisão em confirmação automática: a presença humana permanece, mas o julgamento se enfraquece.
Desligar um agente não reverte pagamentos, vazamentos ou alterações já realizados. Limites de velocidade, pausas para decisões críticas, contenção e recuperação devem integrar a implantação conforme o risco de cada uso.
A notificação de incidentes é outra peça central. A OCDE publicou em 2025 uma proposta de estrutura comum para seu relato, voltada a permitir compreensão comparável entre setores e jurisdições. Transformar esse princípio em supervisão exige definir o que deve ser comunicado, em qual prazo e com quais evidências.
Falhas sem dano consumado também podem revelar vulnerabilidades relevantes. O regime deve proteger adequadamente quem informa de boa-fé e resguardar dados sensíveis, sem converter confidencialidade em autorização para ocultar condutas ou impedir a reparação.
Esses registros permitem aprender com erros que poderiam permanecer dispersos em comunicados corporativos. Mas recolher informações não basta: autoridades precisam de pessoal qualificado, acesso técnico e recursos para analisá-las.
A Era da Desatenção também pode assumir forma burocrática, quando o acúmulo de relatórios encobre a falta de acompanhamento. Auditorias independentes devem examinar o necessário e apresentar conclusões desfavoráveis.
A transparência precisa tornar falhas e decisões compreensíveis, com proteção de dados sensíveis e vulnerabilidades. Sua utilidade depende da capacidade de converter informação em intervenção.
Quem responde e qual é o lugar do Brasil
A autonomia de um agente não apaga as escolhas humanas e empresariais que tornaram sua atuação possível. É necessário reconstruir quem definiu o objetivo, forneceu credenciais, concedeu permissões, recebeu alertas e podia interromper o processo.
A desatenção organizacional aparece quando cada participante acompanha sua tarefa e ninguém observa o efeito conjunto. Isso não autoriza responsabilizar indistintamente todos: desenvolvedor, integrador, contratante e operador exercem funções diferentes.
A atribuição de consequências deve observar o regime jurídico aplicável, o nexo com o dano e os deveres de cada agente, preservando as garantias próprias de cada esfera.
No campo penal, especialmente, o resultado lesivo não pode substituir a demonstração dos requisitos do delito e da participação de quem é acusado. Tampouco faz sentido usar uma suposta vontade da máquina para preencher lacunas de prova.
Na reparação civil e na supervisão administrativa, a análise seguirá seus critérios específicos, inclusive hipóteses legais de responsabilidade objetiva quando aplicáveis. O ponto comum é a necessidade de evidência: versões, instruções, acessos, alertas e intervenções devem ser preservados de maneira íntegra e proporcional, com possibilidade de contestação e exame independente.
A dimensão internacional torna essa tarefa mais difícil. O usuário pode estar em um país, o fornecedor em outro e os registros distribuídos por várias jurisdições. Contratos não deveriam permitir que essa fragmentação tornasse impraticável investigar incidentes e reparar vítimas.
Cooperação entre autoridades, preservação tempestiva de evidências e identificação dos responsáveis por cada etapa são condições para uma economia digital confiável. A capacidade de produzir a tecnologia e a capacidade de investigar seus efeitos precisam ser tratadas como componentes da mesma infraestrutura institucional.
Para o Brasil, proteção e capacidade produtiva precisam avançar juntas. Copiar exigências estrangeiras sem construir competência para executá-las pode elevar custos e aprofundar a dependência. A agenda deve incluir pesquisa, formação profissional e avaliação de aplicações em português e em contextos locais.
Na Era da Desatenção, essa formação também precisa preservar a capacidade de perguntar, verificar fontes e reconhecer limites, para que a facilidade de obter respostas não substitua o aprendizado. Nas compras públicas, continuidade, acesso aos registros e substituição do fornecedor devem integrar a análise econômica. O preço inicial pode ser baixo e o custo de dependência, elevado.
A rivalidade entre Estados Unidos e China não torna dispensáveis padrões mínimos de segurança. Países podem competir por mercados e, ainda assim, compartilhar protocolos de incidentes e contenção em áreas críticas. Também não basta identificar confiança com a origem nacional de uma tecnologia.
Ela deve ser demonstrada por controles, desempenho, auditabilidade e respostas a falhas. Para economias que utilizam modelos estrangeiros, soberania significa conservar capacidade de escolha, fiscalização e reação, além de desenvolver competências que permitam participar da criação de valor.
A regulação adequada deve acompanhar mudanças técnicas e concentrar supervisão onde os danos podem ser mais graves. Seu sucesso será medido pela redução de falhas e pela capacidade de contê-las e repará-las, preservando a inovação e a concorrência.
Na Era da Desatenção, a questão política alcança a capacidade de conservar julgamento diante de sistemas que antecipam respostas e executam escolhas. Atenção exige tempo, competência e condições institucionais para compreender e intervir. A IA poderá ampliar a produtividade e melhorar serviços; a confiança dependerá de manter visíveis as decisões e identificáveis as responsabilidades de quem a conduz.