Reforzando y protegiendo las elecciones

El proceso democrático funciona mejor cuando cualquier votante puede participar. Pero muchas veces, la gente no puede acceder a información sobre cómo registrarse, dónde votar o qué defienden los candidatos en un idioma o formato que entiendan. Para quienes tienen discapacidad visual, bajo nivel de alfabetización o no son hablantes nativos, los emails y folletos tradicionales de las elecciones simplemente no son accesibles.

Ante estas barreras de comunicación, la voz IA puede ser una herramienta muy potente para la democracia. Puede leer información en voz alta para personas con discapacidad visual, responder preguntas en el idioma o dialecto preferido de cada ciudadano y convertir documentos oficiales complejos en una conversación hablada. Pero, como cualquier tecnología nueva, estas mismas capacidades pueden ser mal utilizadas por personas con malas intenciones para engañar o desinformar a los votantes.

2026 será un año clave de elecciones, con comicios nacionales, regionales y locales en todo el mundo, incluyendo elecciones importantes en Estados Unidos y Brasil. También será uno de los primeros años electorales en los que la voz IA expresiva y natural estará disponible para todos. A continuación, compartimos cómo estamos usando la voz IA para reforzar el proceso democrático, mientras prevenimos y detectamos usos indebidos de esta tecnología.

Reforzando el proceso democrático

La voz IA ya está jugando un papel clave en las elecciones al ampliar el acceso a información oficial de instituciones de confianza, y Brasil está liderando el camino a nivel mundial.

De cara a las elecciones de octubre, el Tribunal Superior Electoral (TSE) de Brasil está añadiendo una capa de voz a su ‘Asistente Electoral’, para que los ciudadanos puedan usar su voz y acceder a información desde la web, la app y los canales de WhatsApp del TSE. Impulsada por nuestra tecnología de texto a voz y voz a texto, esta nueva interfaz de voz está pensada para combatir la desinformación electoral y facilitar el acceso a información fiable para todos los ciudadanos brasileños. Formalizamos la colaboración con el TSE a través de un acuerdo (MoU), el primero con una autoridad electoral nacional, y nos unimos al Programa Permanente de Combate a la Desinformación Electoral del TSE.

También colaboramos con organizaciones brasileñas que usan voz IA para apoyar la verificación de información. Desde hace casi una década, Comprova —una coalición de 42 medios brasileños liderada por la Asociación Brasileña de Periodismo de Investigación (Abraji)— trabaja sin descanso para identificar contenido manipulado. Formaremos a los socios de Comprova en el uso de nuestro AI Speech Classifier y otras herramientas de detección como parte de sus workflows de verificación.

En Estados Unidos, colaboramos con responsables políticos, asociaciones del sector y empresas tecnológicas para proteger las elecciones de mitad de mandato. Trabajamos junto a otros miembros del Countering Tech-Enabled Fraud Task Force de California para combatir estafas con voz IA. Nos asociamos con Google DeepMind para marcar nuestro audio y que pueda identificarse como generado por IA, y con la empresa de detección de deepfakes Reality Defender para reforzar sus herramientas de detección en tiempo real, utilizadas por grandes empresas y gobiernos. A través de ElevenLabs for Government, ayudamos a gobiernos y organizaciones civiles a ofrecer servicios ciudadanos en varios idiomas, y estamos trabajando para llevar esta capacidad a instituciones cívicas en Estados Unidos de cara a las elecciones de 2026.

Prevención y detección de usos indebidos de la voz IA

Además de usar nuestra tecnología para ampliar el acceso democrático, invertimos en medidas de seguridad para combatir el mal uso por parte de personas con malas intenciones. Apostamos por un enfoque integral y por capas en la seguridad, con protecciones superpuestas en nuestros modelos y productos, de modo que si una capa se esquiva, las demás siguen activas. Algunas de estas medidas incluyen:

• No Go Voices. Las muestras de audio subidas para crear clones se comparan con nuestra protección exclusiva "No Go Voices" (NGV), diseñada para bloquear la creación de voces de personas de alto riesgo como cargos públicos, candidatos políticos, celebridades y otras figuras reconocidas. Mejoramos y ampliamos continuamente NGV según nuestro monitoreo interno, la actualidad, los avisos de usuarios y fuentes externas, especialmente cuando empiezan nuevos ciclos electorales.
• Voice CAPTCHA. Voice CAPTCHA compara la voz de una muestra subida con una grabación en tiempo real del usuario leyendo un texto generado al momento.
• Moderación en tiempo real y asíncrona. Usamos sistemas automáticos para ayudar a detectar contenido que pueda infringir nuestras políticas, incluyendo explotación y abuso sexual infantil, discursos de odio, estafas y fraudes. Estos sistemas pueden bloquear cierto contenido antes de que se genere. El contenido generado también puede clasificarse automáticamente para facilitar la revisión, investigación y actuación humana.
• Aplicación de medidas. Tomamos medidas adecuadas contra usuarios que infringen nuestras políticas, intentan saltarse nuestras protecciones o realizan actividades que puedan causar daños graves.
• Trazabilidad y transparencia. Nuestros sistemas están diseñados para rastrear el contenido generado hasta la cuenta que lo creó. Desde 2023, también ofrecemos gratis el AI Speech Classifier, que permite a cualquiera comprobar si una muestra de audio contiene contenido generado con IA en ElevenLabs. Recientemente, hemos empezado a colaborar con Google DeepMind para incorporar su tecnología de marca de agua SynthID al contenido generado en ElevenLabs, de modo que pueda identificarse como generado por IA usando nuestro Audio Detector gratuito.

Nuestro compromiso sigue firme

Creemos firmemente en los grandes beneficios de la voz IA en la vida pública y estamos decididos a que nuestra tecnología se use para el bien. Seguiremos reforzando nuestras medidas de seguridad, aprendiendo de las colaboraciones que tenemos en todo el mundo y adaptando nuestro enfoque según surjan nuevos riesgos y oportunidades. Nos alegra trabajar de cerca con gobiernos y organizaciones civiles a nivel global, y esperamos seguir profundizando estas colaboraciones durante este ciclo electoral y en el futuro.