CompartilharComentarSiga-nos no
A A
A inteligência artificial tem evoluído com algoritmos cada vez mais capazes, prometendo uma era de mais eficiência e previsibilidade. No entanto, essa capacidade de “aprender” e tomar decisões levanta uma importante questão: até que ponto podemos confiar que essas escolhas são justas, imparciais e livres de manipulações?
Por trás da aparente objetividade da IA, escondem-se riscos que têm potencial de impactar indivíduos e sociedades, desde a automação de processos até a influência silenciosa sobre comportamentos e escolhas.
Por exemplo, algoritmos são capazes de segmentar eleitores, personalizando campanhas e manipulando informações de modo sutil, direcionando o voto ou o engajamento de acordo com perfis psicológicos, ou preferências individuais.
Dessa forma, pode distorcer o debate público e ainda comprometer a integridade das eleições, gerando desconfiança nos processos democráticos.
Algoritmos e os riscos de manipulação
Um estudo recente realizado por duas pesquisadoras da Universidad de Deusto, na Espanha, revelou de maneira contundente como a inteligência artificial pode persuadir decisões no mundo digital, guiando tanto escolhas governamentais quanto preferências de relacionamento. Ujué Agudo e Helena Matute, acadêmicas de psicologia, conduziram uma série de quatro testes que mostraram o funcionamento de algoritmos na influência.
De acordo com suas conclusões, “determinados modelos de persuasão (explícita ou indireta) são mais eficientes dependendo do contexto, seja ele institucional ou pessoal.” Este estudo trouxe à tona a facilidade com que seres humanos podem ser convencidos por sistemas.
Na política, isso significa que votantes podem ser induzidos a apoiar um candidato ou uma ideologia de forma inconsciente, sendo alvos de campanhas adaptadas que exploram suas vulnerabilidades psicológicas. Nas eleições dos Estados Unidos, esse tem sido um dos temas centrais em debates.
Em uma audiência do Senado dos EUA sobre IA, realizada em 16/5/23, o senador Josh Hawley levantou um tópico importante ao CEO da OpenAI, Sam Altman: “Modelos de linguagem como o ChatGPT podem ser usados para induzir os eleitores a se comportarem de maneiras específicas?”. Altman, preocupado, confirmou que essa possibilidade é real e alarmante.
Plataformas como Facebook, X (antigo Twitter) e YouTube já utilizam computação cognitiva para otimizar o tempo que os usuários passam em seus sites, utilizando algoritmos para sugerir conteúdos que alinham com as predileções pessoais dos usuários. Contudo, a situação se torna ainda mais crítica quando códigos são empregados visando manipular o voto dos cidadãos.
Inteligência artificial nas eleições brasileiras
Essa preocupação não se restringe apenas aos Estados Unidos. No Brasil, onde as eleições são um evento importante da democracia, a questão do uso de IA em campanhas eleitorais também tem ganhado destaque.
Instituições como o TSE – Tribunal Superior Eleitoral estão cada vez mais atentas a possíveis efeitos sobre o sistema de votação. Isso porque, com o avanço da inteligência artificial, surgem novas formas de direcionar a percepção pública, seja por meio de algoritmos que personalizam ações políticas altamente segmentadas ou pelo uso de deepfakes e desinformação automatizada.
Nas disputas de 2024, o receio se evidenciou pela possibilidade de estratégias eleitorais utilizarem a IA para analisar a conduta dos votantes, ajustando suas estratégias e mensagens de forma precisa para atingir diferentes públicos. Essa situação envolve desde a adaptação de anúncios em redes sociais até o direcionamento de conteúdos baseados em interesses ou vulnerabilidades emocionais. Embora isso possa ser eficaz para engajar a população, também levanta controvérsias sobre manipulação e transparência.
O TSE, ciente desses riscos, vem adotando medidas para mitigar as consequências negativas dessas tecnologias, como o monitoramento de campanhas digitais e o combate à disseminação de fake news.
No início do ano, o Tribunal aprovou 12 resoluções com o objetivo de reduzir a desinformação e o discurso de ódio propagados pelo sistema inteligente. Uma das maiores dificuldades era que ela fosse utilizada para criar interações falsas entre eleitores e simulacros de candidatos, fazendo com que as pessoas acreditem estar interagindo com o próprio candidato, o que gera um forte apelo emocional.
Manipulação silenciosa e persuasão eleitoral
Em uma entrevista, a professora Dora Kaufman, especialista em inteligência artificial da PUC-SP, disse que a ferramenta consegue “aperfeiçoar significativamente a eficácia da persuasão”, tornando o processo de intervenção mais sofisticado. Isso leva a questionamentos éticos, uma vez que os cidadãos podem ser enganados por simulações criadas, afetando a integridade do sistema eleitoral.
Nesse sentido, a IA é uma tecnologia de propósito geral, semelhante à descoberta do carvão, da eletricidade e da computação. Isso significa que ela muda radicalmente a lógica de funcionamento tanto da economia quanto da sociedade, sendo essencial que seu uso seja regulamentado. Além disso, essas preocupações vão além do impacto imediato nas eleições, abrangendo problemas estruturais sobre como o sistema inteligente têm o poder de moldar como tomamos decisões coletivas.
Assim, uma das maiores ameaças potenciais dessa tecnologia no sistema de votação é a manipulação sutil e individualizada, feita por meio de interações aparentemente inofensivas, mas que moldam opiniões políticas e comportamentos de forma quase imperceptível. Esse nível de sofisticação torna a ferramenta capaz de influenciar milhões de eleitores, muitas vezes sem que eles percebam o quão direcionadas são as mensagens que estão recebendo.
Regulamentações buscam mais transparência no uso da IA
Nesse contexto, a necessidade de legislações sobre a inteligência artificial se torna ainda mais urgente. Em muitos países, incluindo o Brasil e os Estados Unidos, a discussão sobre essa regulamentação já está em curso, abordando tanto questões éticas quanto legais.
Entre as áreas que mais preocupam estão as aplicações de IA que podem afetar diretamente direitos fundamentais, como privacidade, proteção e liberdade de expressão. O seu emprego em setores como segurança pública, sentenças judiciais e propaganda política, por exemplo, está sujeito a diretrizes mais rigorosas, dada a sua potencial capacidade de controle e repercussão direta na vida das pessoas.
No Brasil, o debate sobre a legislação da computação cognitiva está avançando, com projetos de lei em tramitação para normatizar o uso dessa tecnologia. A proposta principal é criar diretrizes que garantam a integridade no seu desenvolvimento, a proteção de dados individuais e a responsabilização das empresas que utilizam algoritmos para fazer escolhas de grande impacto social.
Esse cuidado com a transparência deve estar presente em todas as áreas, incluindo a advocacia.
Como equilibrar inovação e ética nas democracias
A inteligência artificial tem o potencial de transformar positivamente a sociedade, mas traz consigo desafios complexos, especialmente quando se trata de manipulação e transparência.
Sua crescente capacidade de algoritmos para induzir comportamentos e moldar percepções políticas demonstra que a tecnologia, quando usada de maneira inadequada, compromete pilares fundamentais das democracias modernas, como eleições livres e justas.
Além disso, a viabilidade de personalizar campanhas, distorcer informações e influenciar os eleitores, muitas vezes de modo imperceptível, exige uma reflexão e ações concretas. Não se trata apenas de mitigar os riscos, mas de encontrar um equilíbrio entre inovação e responsabilidade.
As legislações em andamento são um passo importante, mas a comunidade como um todo precisa estar atenta e engajada na construção de um futuro onde a computação cognitiva seja uma ferramenta a serviço do bem comum, e não um mecanismo de persuasão.
Com o avanço contínuo do sistema inteligente, é indispensável que todos os setores – desde o jurídico até o político – integrem a honestidade e a ética em suas práticas. Somente assim será possível garantir que a IA seja empregada para promover justiça, desenvolvimento e a proteção dos direitos básicos, sem arriscar os valores essenciais que sustentam nossas democracias.
Eduardo Koetz
Eduardo Koetz é advogado, sócio-fundador da Koetz Advocacia e CEO do software jurídico ADVBOX . Especialista em tecnologia e gestão, ele também se destaca como palestrante em eventos jurídicos.