O Pontífice enfatizou que a inteligência artificial, por causa de sua capacidade de fazer escolhas autônomas, apresenta desafios éticos únicos
Por Charles Machado – SC
No primeiro semestre de 2024, na cúpula do G7 em Puglia, Itália, o papa Francisco, defendeu a necessidade urgente de regular a inteligência artificial (IA) com uma perspectiva ética.
Da sua fala, veio o destaque para o conceito de “Algorética” como uma estrutura essencial para orientar o desenvolvimento e o uso da IA, destacando que sem a regulamentação adequada, a tecnologia pode colocar em risco a dignidade humana e aprofundar as desigualdades.
O Papa descreveu a IA como uma ferramenta poderosa que pode influenciar todas as áreas da vida humana, desde a medicina e a educação até a comunicação e a política. No entanto, ele ressaltou que a dualidade da IA, suas enormes potencialidades e seus possíveis riscos, exigem uma reflexão ética e uma regulamentação responsável.
O Pontífice enfatizou que a inteligência artificial, por causa de sua capacidade de fazer escolhas autônomas, apresenta desafios éticos únicos que não podem ser ignorados. Ele afirmou que é imperativo garantir que o uso da IA seja sempre voltado para o bem da humanidade.
“Condicionaríamos a humanidade a um futuro sem esperança se tirássemos das pessoas a capacidade de decidir por si mesmas, dependendo das decisões das máquinas”, alertou.
O ponto central de seu discurso foi a introdução e defesa do conceito de “Algorética”, um termo que funde algoritmos com ética. Essa estrutura busca moderar os desenvolvimentos e aplicativos de IA para garantir que permaneçam dentro dos limites éticos. O papa insistiu que, à medida que a IA se torna parte integrante de nossas vidas, é crucial que essas tecnologias não reforcem o preconceito ou perpetuem as desigualdades.
Na lógica do uso de algoritmos para reter a atenção, no que eu chamo da economia da desatenção, onde a disputa pela sua atenção vira desatenção, na medida em que todos utilizam os seus dados para reter a sua atenção, produzindo como resultado, mais dados que por sua vez são utilizados para consumir ainda mais o seu tempo, e dessa forma monetizar.
O emprego desses algoritmos, está muito longe dos valores éticos visto que seu emprego quase sempre é guardado a sete chaves, e é justamente o uso dos algoritmos que alimentam as IA(s), que performam conteúdos, de imagem e som que por eles são customizados para reter seus dados e a sua atenção, e que vivem camuflados sem que possamos saber quando algo tem ou não IA.
Porém dentro da lógica defendida pelo finado Papa Francisco, a obrigatoriedade de se sinalizar de forma expressa o uso de IA, vai lentamente tornando regra, como na União Europeia, onde a partir de 2 de agosto de 2026, de acordo com o Regulamento Europeu de Inteligência Artificial (RIA), se exige que todo o conteúdo gerado por IA seja explicitamente sinalizado. Textos, áudios, imagens e vídeos devem conter um aviso claro e visível, um aviso na tela, uma marca d’água ou uma nota no início, bem como uma marcação técnica que permita às máquinas detectar sua origem artificial.
Para cumprir esta obrigação, o RIA estabelece uma dupla rotulagem: uma legível por máquina para conteúdo sintético de áudio, imagem, vídeo ou texto e outra visível para humanos no caso de sistemas que interagem diretamente com pessoas físicas, como imagens que incluem deepfakes ou textos publicados para fins informativos de interesse público.
Porém destacamos que o regulamento europeu prevê que, se a intervenção da IA se limitar a corrigir ou expandir sem alterar o significado, não será necessário rotular esse conteúdo híbrido.
O conteúdo híbrido só deve ser rotulado, quando a contribuição da IA for substancial e puder induzir em erro quanto à sua origem ou autenticidade. Não há uma porcentagem específica que delimite quando o conteúdo deve ser marcado ou não, mas um critério qualitativo.
No caso de textos informativos divulgados para fins de interesse público, a advertência pode não ser necessária se eles tiverem passado por “revisão humana sob responsabilidade editorial”. No entanto, alerta que a publicação direta sem controle “pode levar à disseminação de informações errôneas, tendenciosas ou mesmo ilícitas”.
Porém, na prática, as falhas mais comuns em relação ao conteúdo em que a IA é usada são a ausência de supervisão, o uso de avisos superficiais que podem ser facilmente eliminados e a falta de uma estratégia prévia sobre o uso da IA. Além disso, há riscos legais, como violação de direitos autorais, violações de privacidade ou práticas comerciais enganosas.
É comum que as empresas não avaliem os riscos associados aos sistemas de IA de alto risco e mantenham uma rotulagem deficiente ou documentação insuficiente, o que dificulta a demonstração de que foi cumprida em caso de processo sancionatório.
Logo o que entendemos, é que seria recomendável, que as empresas implementem um programa de conformidade e governança de IA que combine supervisão, controle e rastreabilidade.
Filtros e a comunicação humana
Evidente que a legislação brasileira, que vai regular a Ia, deve seguir o mesmo caminho, por isso, antes mesmo da sua vigência, as empresas devem preparar-se agora e começar a etiquetar o seu conteúdo, lembrando que já existe soluções tecnológicas para etiquetagem manuais, semiautomatizadas e automatizadas.
O fato é que os algoritmos, criam filtros que dividem as pessoas em grupos, ou seria bolhas?
Como destaca Eli Pariser, “Naturalmente, existe uma boa razão, para que os filtros personalizados sejam tão fascinantes. Na atualidade, somos sobrecarregados por uma torrente boa informações(lógica da atenção/desatenção): 900 mil postagens em blogs, 50 milhões de tweets, mais de 60 milhões de atualizações de status no Facebook e 210 bilhões de e-mails são enviados para o éter eletrônico todos os dias.
Eric Schmidt costuma ressaltar que, se gravássemos toda a comunicação humana desde o início dos tempos até 2003, precisaríamos de aproximadamente 5 bilhões de gigabytes para armazená-la. Agora, estamos criando essa mesma quantidade de dados a cada dois dias. Até os profissionais estão tendo dificuldade em acompanhar esse ritmo.
A Agência Nacional de Segurança (NSA) dos Estados Unidos, que copia boa parte do tráfego online que flui pela principal central da AT&T em São Francisco, está construindo dois novos complexos do tamanho de estádios para processar todos esses dados.
Tudo isso levará inevitavelmente ao que Steve Rubel, blogueiro e analista de mídia, chama de colapso da atenção. Como o custo da comunicação a longas distâncias e para grandes grupos de pessoas tem caído vertiginosamente, somos cada vez mais incapazes de dar conta de tanta informação.
Nossa concentração se desvia da mensagem de texto para as principais notícias e daí para o e-mail. A tarefa de examinar essa torrente cada vez mais ampla em busca das partes realmente importantes, ou apenas relevantes, já exige dedicação em tempo integral.
Assim, quando os filtros personalizados nos oferecem uma ajuda, temos a tendência de aceitá-la. Em teoria, os filtros podem nos facilitar a encontrar as informações que precisamos conhecer, ver e ouvir, as partes que realmente importam, o problema ético é quando eles definem as nossas escolhas.
