Stärkung und Schutz von Wahlen

Der demokratische Prozess funktioniert am besten, wenn alle Wahlberechtigten teilnehmen können. Doch oft fehlt der Zugang zu Informationen darüber, wie man sich registriert, wo man wählen kann und wofür Kandidaten stehen – in einer Sprache und einem Format, das verstanden wird. Für viele Bürgerinnen und Bürger mit Sehbehinderung, geringem Lesevermögen oder ohne Deutsch als Muttersprache sind klassische Wahl-E-Mails und gedruckte Flyer nicht zugänglich.

Angesichts dieser Kommunikationsbarrieren kann KI-Stimmen-Technologie die Demokratie deutlich stärken. Sie kann Informationen für Sehbehinderte vorlesen, Fragen in der bevorzugten Sprache oder im Dialekt beantworten und komplexe offizielle Dokumente in gesprochene Sprache umwandeln. Wie jede neue Technologie können diese Möglichkeiten aber auch missbraucht werden, um Wähler zu täuschen oder zu desinformieren.

2026 ist ein bedeutendes Wahljahr mit nationalen, regionalen und lokalen Wahlen weltweit, darunter wichtige Wahlen in den USA und Brasilien. Es ist auch eines der ersten Wahljahre, in denen ausdrucksstarke, natürlich klingende KI-Stimmen breit verfügbar sind. Im Folgenden zeigen wir, wie wir KI-Stimmen einsetzen, um demokratische Prozesse zu stärken und gleichzeitig Missbrauch dieser Technologie zu verhindern und zu erkennen.

Demokratische Prozesse stärken

KI-Stimmen spielen bereits eine wichtige Rolle bei Wahlen, indem sie den Zugang zu offiziellen Informationen von vertrauenswürdigen Institutionen erweitern – Brasilien nimmt hier weltweit eine Vorreiterrolle ein.

Vor den Wahlen im Oktober ergänzt das Oberste Wahlgericht Brasiliens (TSE) seinen ‚Wahlassistenten‘ um eine Sprachfunktion. Bürgerinnen und Bürger können so per Sprache Informationen über die Website, App und WhatsApp-Kanäle des TSE abrufen. Diese neue Sprachschnittstelle basiert auf unserer Text-to-Speech- und Speech-to-Text-Technologie und soll helfen, Wahl-Desinformation entgegenzuwirken und den Zugang zu verlässlichen Informationen für alle Brasilianer zu verbessern. Die Partnerschaft wurde durch ein Memorandum of Understanding mit dem TSE – unserem ersten mit einer nationalen Wahlbehörde – formalisiert. Zudem sind wir Teil des ständigen Programms des TSE zur Bekämpfung von Wahl-Desinformation.

Wir arbeiten auch mit brasilianischen Organisationen zusammen, die KI-Stimmen zur Verifizierung von Informationen einsetzen. Seit fast zehn Jahren identifiziert Comprova – ein Zusammenschluss von 42 brasilianischen Medienunternehmen unter Leitung der Brasilianischen Vereinigung für Investigativjournalismus (Abraji) – manipulierte Inhalte. Wir schulen Comprova-Partner im Einsatz unseres AI Speech Classifier und weiterer Erkennungstools als Teil ihrer Prüfprozesse.

In den USA arbeiten wir mit politischen Entscheidungsträgern, Branchenverbänden und führenden Technologieunternehmen zusammen, um die Zwischenwahlen zu schützen. Wir sind Mitglied der kalifornischen Taskforce gegen technologiegestützten Betrug und bekämpfen gemeinsam sprachbasierte Betrugsversuche. Mit Google DeepMind arbeiten wir daran, unsere Audiodateien zu kennzeichnen, damit sie als KI-generiert erkennbar sind. Mit Reality Defender, einem Unternehmen für Deepfake-Erkennung, stärken wir deren Echtzeit-Erkennungstools, die von großen Unternehmen und Behörden genutzt werden. Über ElevenLabs for Government unterstützen wir Regierungen und zivilgesellschaftliche Organisationen dabei, Bürgerdienste in mehreren Sprachen bereitzustellen. Diese Fähigkeit wollen wir auch für Institutionen in den USA ausbauen, wenn die Wahlen 2026 näher rücken.

Missbrauch von KI-Stimmen verhindern und erkennen

Neben dem Einsatz unserer Technologie für mehr demokratische Teilhabe investieren wir in Schutzmechanismen gegen Missbrauch. Wir verfolgen einen umfassenden, mehrschichtigen Ansatz für Sicherheit, mit sich ergänzenden Schutzmaßnahmen in unseren Modellen und Produkten. So bleibt auch bei Umgehung einer Ebene der Schutz erhalten. Zu unseren Maßnahmen gehören unter anderem:

• No Go Voices. Hochgeladene Audiodateien zur Stimmklonung werden mit unserem eigenen "No Go Voices" (NGV) Schutz abgeglichen. Dieser verhindert die Erstellung von Stimmen besonders gefährdeter Personen wie Amtsträgern, politischen Kandidaten, Prominenten und anderen bekannten Persönlichkeiten. NGV wird laufend anhand interner Überwachung, aktueller Ereignisse, Nutzerhinweisen und externer Informationen weiterentwickelt – auch mit Blick auf neue Wahlzyklen.
• Voice CAPTCHA. Voice CAPTCHA vergleicht die Stimme einer hochgeladenen Probe mit einer Echtzeit-Aufnahme des Nutzers, der ein dynamisch generiertes Skript vorliest.
• Echtzeit- und asynchrone Moderation. Wir setzen automatisierte Systeme ein, um Inhalte zu erkennen, die gegen unsere Richtlinien verstoßen könnten – darunter sexueller Missbrauch von Kindern, Hassrede sowie Betrug. Diese Systeme können bestimmte Inhalte bereits vor ihrer Erstellung blockieren. Generierte Inhalte können zudem automatisch klassifiziert werden, um menschliche Überprüfung, Untersuchung und Durchsetzung zu unterstützen.
• Durchsetzung. Wir ergreifen geeignete Maßnahmen gegen Nutzer, die unsere Richtlinien verletzen, Schutzmechanismen umgehen oder Aktivitäten ausüben, die ein ernsthaftes Schadensrisiko darstellen.
• Nachvollziehbarkeit und Transparenz. Unsere Systeme ermöglichen es, generierte Inhalte dem jeweiligen Nutzerkonto zuzuordnen. Seit 2023 bieten wir zudem einen kostenlosen AI Speech Classifier an, mit dem jeder prüfen kann, ob eine Audiodatei KI-generierte Inhalte von ElevenLabs enthält. Kürzlich haben wir eine Partnerschaft mit Google DeepMind begonnen, um deren SynthID-Wasserzeichen-Technologie für auf ElevenLabs generierte Inhalte einzusetzen. So können diese mit unserem kostenlosen Audio Detector als KI-generiert erkannt werden.

Unser fortlaufendes Engagement

Wir sind überzeugt vom großen Nutzen von KI-Stimmen im öffentlichen Leben und setzen alles daran, dass unsere Technologie verantwortungsvoll eingesetzt wird. Wir werden unsere Schutzmaßnahmen weiter verstärken, aus weltweiten Partnerschaften lernen und unseren Ansatz an neue Risiken und Chancen anpassen. Wir freuen uns über die enge Zusammenarbeit mit Regierungen und zivilgesellschaftlichen Organisationen weltweit und wollen diese Partnerschaften im aktuellen Wahlzyklus und darüber hinaus weiter vertiefen.