La inteligencia de voz se encuentra con la democracia: ElevenLabs firma el primer pacto con una autoridad electoral

2026 se perfila como el año en que la IA de voz llega a las urnas, y lo que está en juego es mayor que el lanzamiento de un producto estándar. ElevenLabs, la empresa de síntesis de voz, ha firmado un memorando de entendimiento con el Tribunal Superior Electoral (TSE) de Brasil, su primer acuerdo formal con una autoridad electoral nacional. El acuerdo dota al 'Asistente Electoral' del TSE con capacidades de texto a voz y voz a texto, permitiendo a los ciudadanos brasileños hacer preguntas por voz a través del sitio web, la aplicación y los canales de WhatsApp del tribunal.

La medida es una respuesta directa a un problema anterior a la IA: información electoral inaccesible para ciudadanos con discapacidad visual, votantes con baja alfabetización y hablantes no nativos. Los folletos impresos y los densos correos electrónicos oficiales no llegan a todos. La IA de voz, según ElevenLabs, puede convertir un documento estático en una conversación. El TSE de Brasil apuesta a que esta capa de acceso también puede contrarrestar la desinformación electoral, dirigiendo a las personas hacia respuestas oficiales verificadas en lugar de clips de audio virales.

Pero la misma tecnología que lee en voz alta las instrucciones de votación puede simular la voz de un candidato o fabricar una declaración. ElevenLabs reconoce explícitamente la tensión en su anuncio: 'estas mismas capacidades podrían ser utilizadas indebidamente por actores malintencionados para engañar o desinformar a los votantes'. La empresa ha estado construyendo contramedidas desde antes del ciclo electoral estadounidense de 2024.

Tres capas de defensa

El conjunto de seguridad de ElevenLabs es un conjunto de protecciones superpuestas en lugar de una única puerta. En el frente, el sistema 'No Go Voices' (NGV) verifica las muestras de audio subidas contra una lista propietaria de funcionarios públicos, candidatos, celebridades y otras personas de alto riesgo. La lista se actualiza en función del monitoreo interno, eventos actuales e informes de usuarios, un proceso que se acelera en las temporadas electorales.

La segunda capa es Voice CAPTCHA, que compara la voz en una muestra enviada con una grabación en tiempo real del usuario leyendo un script generado dinámicamente. Esto está diseñado para detener la clonación masiva de voces no autorizadas. Detrás de eso, los sistemas de moderación automatizados marcan contenido que viola las políticas sobre discurso de odio, estafas o explotación infantil, bloqueando parte del contenido antes de que se genere y clasificando el contenido generado para revisión humana.

La trazabilidad es la tercera pata. Desde 2023, ElevenLabs ha ofrecido un Clasificador de Voz de IA gratuito que permite a cualquiera verificar si una muestra de audio fue generada en su plataforma. Más recientemente, la empresa comenzó a marcar el audio con SynthID de Google DeepMind, para que el contenido generado lleve una señal detectable que el Detector de Audio de la empresa pueda leer.

De Brasil al Reino Unido y Grecia

El acuerdo con Brasil es parte de un impulso más amplio hacia los servicios gubernamentales. Como ha cubierto Seventnews, ElevenLabs también ha firmado asociaciones formales con Grecia y el Reino Unido. En Grecia, la empresa trabaja con el gobierno en IA de voz para servicios públicos, turismo y preservación del patrimonio lingüístico del país. En el Reino Unido, un memorando de entendimiento con el Departamento de Ciencia, Innovación y Tecnología cubre la accesibilidad de los servicios públicos, la investigación en seguridad de la IA y el desarrollo de talento. En Ucrania, ElevenLabs proporciona la capa de voz para la aplicación Diia, un portal de servicios gubernamentales.

Sin embargo, la asociación con Brasil es la primera que apunta explícitamente a la información electoral. La empresa se ha comprometido a capacitar a Comprova, una coalición de 42 organizaciones de medios brasileñas, para usar su Clasificador de Voz de IA y otras herramientas de detección como parte de sus flujos de trabajo de verificación. En los Estados Unidos, ElevenLabs colabora con el Grupo de Trabajo Contra el Fraude Habilitado por la Tecnología de California y con la empresa de detección de deepfakes Reality Defender para fortalecer las herramientas de detección en tiempo real utilizadas por grandes empresas y gobiernos.

Ninguna de estas medidas es infalible, y la empresa no afirma que lo sean. La verdadera prueba llegará durante las elecciones de octubre en Brasil, cuando los votantes reales interactúen con una interfaz de voz por primera vez a escala nacional, y cuando la lista No Go Voices enfrente su temporada más ocupada hasta ahora. Si la IA de voz logra expandir el acceso sin amplificar el ruido que pretendía contrarrestar, habrá superado una prueba que pocas otras tecnologías han enfrentado públicamente.