Candidatos às eleições de outubro poderão pedir que suas vozes sejam banidas para criação de áudios com inteligência artificial. A restrição foi fixada por meio de um acordo assinado entre o presidente do TSE (Tribunal Superior Eleitoral), Kassio Nunes Marques, e a empresa de inteligência artificial ElevenLabs.

O documento, chamado de memorando de entendimentos, foi assinado na última segunda-feira (3) e tem validade até 31 de dezembro deste ano. O texto detalha as obrigações técnicas, fixa o compromisso com a proteção de dados e a vigência da cooperação.

Ele também estabelece que a ElevenLabs auxilie na investigação de conteúdos fraudulentos. A plataforma é especializada em áudio e síntese de fala. Este é o primeiro acordo com uma plataforma originalmente de IA firmado pelo TSE. A corte tem ainda termos assinados com a Meta ou o Gemini, por exemplo.

À frente das primeiras eleições presidenciais com uso massivo de inteligência artificial, Kassio vinha afirmando a interlocutores que priorizaria ações educativas, reduzindo as punições e a remoção de conteúdo. Ele já propôs a criação de uma comissão de IA para elaborar soluções.

De acordo com o texto, a empresa vai manter uma lista de vozes protegidas (No-go Voices) para restringir a reprodução sintética das vozes de figuras públicas, incluindo candidatos e servidores eleitorais considerados relevantes.

Por meio do compromisso, a empresa se compromete a bloquear a criação de conteúdos que usem vozes de candidatos e servidores eleitorais relevantes mediante uma solicitação escrita e fundamentada do TSE.

No entanto, o memorando ressalta que essa proteção tem limites técnicos. Os compromissos de investigação e de remoção de conteúdo limitam-se ao material gerado em sua própria plataforma, não abrangendo áudios ou vídeos criados por ferramentas de IA de terceiros.

O acordo faz parte do Programa Permanente de Enfrentamento à Desinformação da Justiça Eleitoral, criado para combater os efeitos negativos do uso malicioso de tecnologias digitais.

Além da restrição preventiva, a ElevenLabs atuará na investigação de conteúdos suspeitos. Caso haja indícios de que um áudio fraudulento tenha sido gerado em sua plataforma, a empresa deverá colaborar com o TSE para verificar a origem e adotar as medidas cabíveis, conforme seus termos de serviço e a legislação brasileira.

A expectativa é a de que a ElevenLabs forneça, ainda, tecnologias de inteligência artificial de áudio sem custos para tornar os serviços digitais da Justiça Eleitoral mais acessíveis a cidadãos com deficiências ou baixa alfabetização digital.

A parceria prevê uma modernização dos serviços ao cidadão. O TSE terá acesso gratuito às APIs de conversão de texto em fala (TTS) e fala em texto (STT) da empresa. O objetivo inicial é integrar esses recursos de áudio ao Assistente Eleitoral, permitindo que eleitores interajam com o serviço por meio da voz.

Segundo o documento, a iniciativa pretende reduzir barreiras para cidadãos com deficiência visual ou baixo letramento digital, além de facilitar o alcance de populações em regiões remotas do país.

Segundo João Paulo Rio Branco, Head de Parcerias com Setor Público para América Latina da ElevenLabs, a inteligência artificial traz oportunidades para ampliar o acesso à informação, mas também exige a criação de mecanismos para prevenir seu uso indevido.

"Nossa responsabilidade é desenvolver tecnologias que ajudem a reduzir o risco de fraudes antes mesmo que aconteçam. Com essa parceria, queremos contribuir para um ambiente digital mais íntegro durante as eleições, oferecendo uma camada adicional de proteção contra o uso não autorizado de vozes de figuras públicas", afirma.