Políticos poderão pedir a restrição de uso de suas vozes para criação de áudios com IA nas eleições

Candidatos às eleições de outubro poderão pedir que suas vozes sejam banidas para criação de áudios com inteligência artificial. A restrição foi fixada por meio de um acordo assinado entre o presidente do TSE (Tribunal Superior Eleitoral), Kassio Nunes Marques, e a empresa de inteligência artificial ElevenLabs.

O documento, chamado de memorando de entendimentos, foi assinado na última segunda-feira (3) e tem validade até 31 de dezembro deste ano. O texto detalha as obrigações técnicas, fixa o compromisso com a proteção de dados e a vigência da cooperação.

Ele também estabelece que a ElevenLabs auxilie na investigação de conteúdos fraudulentos. A plataforma é especializada em áudio e síntese de fala. Este é o primeiro acordo com uma plataforma originalmente de IA firmado pelo TSE. A corte tem ainda termos assinados com a Meta ou o Gemini, por exemplo.

À frente das primeiras eleições presidenciais com uso massivo de inteligência artificial, Kassio vinha afirmando a interlocutores que priorizaria ações educativas, reduzindo as punições e a remoção de conteúdo. Ele já propôs a criação de uma comissão de IA para elaborar soluções.

De acordo com o texto, a empresa vai manter uma lista de vozes protegidas (No-go Voices) para restringir a reprodução sintética das vozes de figuras públicas, incluindo candidatos e servidores eleitorais considerados relevantes.

Por meio do compromisso, a empresa se compromete a bloquear a criação de conteúdos que usem vozes de candidatos e servidores eleitorais relevantes mediante uma solicitação escrita e fundamentada do TSE.

No entanto, o memorando ressalta que essa proteção tem limites técnicos. Os compromissos de investigação e de remoção de conteúdo limitam-se ao material gerado em sua própria plataforma, não abrangendo áudios ou vídeos criados por ferramentas de IA de terceiros.

O acordo faz parte do Programa Permanente de Enfrentamento à Desinformação da Justiça Eleitoral, criado para combater os efeitos negativos do uso malicioso de tecnologias digitais.

Além da restrição preventiva, a ElevenLabs atuará na investigação de conteúdos suspeitos. Caso haja indícios de que um áudio fraudulento tenha sido gerado em sua plataforma, a empresa deverá colaborar com o TSE para verificar a origem e adotar as medidas cabíveis, conforme seus termos de serviço e a legislação brasileira.

A expectativa é a de que a ElevenLabs forneça, ainda, tecnologias de inteligência artificial de áudio sem custos para tornar os serviços digitais da Justiça Eleitoral mais acessíveis a cidadãos com deficiências ou baixa alfabetização digital.

A parceria prevê uma modernização dos serviços ao cidadão. O TSE terá acesso gratuito às APIs de conversão de texto em fala (TTS) e fala em texto (STT) da empresa. O objetivo inicial é integrar esses recursos de áudio ao Assistente Eleitoral, permitindo que eleitores interajam com o serviço por meio da voz.

Segundo o documento, a iniciativa pretende reduzir barreiras para cidadãos com deficiência visual ou baixo letramento digital, além de facilitar o alcance de populações em regiões remotas do país.

Segundo João Paulo Rio Branco, Head de Parcerias com Setor Público para América Latina da ElevenLabs, a inteligência artificial traz oportunidades para ampliar o acesso à informação, mas também exige a criação de mecanismos para prevenir seu uso indevido.

"Nossa responsabilidade é desenvolver tecnologias que ajudem a reduzir o risco de fraudes antes mesmo que aconteçam. Com essa parceria, queremos contribuir para um ambiente digital mais íntegro durante as eleições, oferecendo uma camada adicional de proteção contra o uso não autorizado de vozes de figuras públicas", afirma.