Gå till innehåll
Logga inRegistrera dig
Kontakta ossLogga in

I fokus: ElevenLabs på MIT EmTech Digital

Publicerad

LyssnaLyssna på den här artikeln

Kontakta säljteamet
Läs mer
Förra veckan deltog jag på MIT EmTech Digital-konferensen i London, där jag var med i en panel om hur företag, myndigheter och akademi kan samarbeta för att ta vara på möjligheter och hantera utmaningar med avancerade AI-produkter.

Förutom ElevenLabs deltog ledare från Alan Turing Institute, Ada Lovelace Institute och BT, med Melissa Heikkilä från MIT Technology Review som moderator.

Tre delar för AI-säkerhet

På ElevenLabs utvecklar vi ljud-AI medvetet om dess påverkan. I min roll med ansvar för AI Safety fokuserar jag på att ge kreatörer, företag och användare verktyg, samtidigt som vi motverkar missbruk och stoppar oseriösa aktörer. Under panelen berättade jag om våra åtgärder för att göra ElevenLabs till en säkrare och mer innovativ plats, och jag lyfte fram vikten av strategier som sätter AI-säkerhet i första rummet. Dessa strategier är bland annat:

Ursprung: handlar om att skilja AI-genererat innehåll från verkligt innehåll genom att förstå dess källa. Upstream AI-detekteringsverktyg, som klassificerare, är sannolikhetsmodeller som tränats för att känna igen AI-genererade resultat. På ElevenLabs har vi utvecklat AI Speech Classifier där vem som helst kan ladda upp ljudprover för att se om de kommer från vår plattform. Vi samarbetar också med Loccus för att förbättra klassificeringen av AI-innehåll. Klassificerare är dock ingen universallösning för ursprung; de har sina begränsningar. För att möta dessa har downstream-metoder utvecklats, till exempel metadata, vattenstämplar och fingeravtryckslösningar. Vi stödjer branschgemensamma initiativ som den kryptografiskt signerade metadata-standarden C2PA, som är öppen och interoperabel och kan möjliggöra märkning av AI-genererat innehåll på stora plattformar som Instagram eller Facebook.

Spårbarhet: säkerställer att AI-genererat innehåll kan spåras tillbaka till en enskild användare. På ElevenLabs kan vi koppla innehåll som skapats på vår plattform till det konto det kommer ifrån, och våra verktyg för Voice Cloning är bara tillgängliga för användare som har verifierat sina konton med bankuppgifter. Fokus på spårbarhet gör att alla som använder AI-plattformar kan hållas ansvariga för sina handlingar och identifieras av myndigheter vid behov.

Moderering: innebär att ha tydliga regler för vad som är tillåtet och att förhindra att användare skapar innehåll som bryter mot dessa regler. På ElevenLabs använder vi automatiska system för att skanna, flagga och blockera olämpligt innehåll. Mänskliga moderatorer granskar flaggat innehåll för att säkerställa att reglerna följs. Vi utvecklar ständigt vår modereringsteknik för att förhindra innehåll som kan skada allmänhetens förtroende eller säkerhet. Öppna modererings-API:er, som det från OpenAI, gör det enkelt att integrera moderering i AI-applikationer.

Tillsammans mot ett gemensamt mål

Vi prioriterar säker AI-utveckling, men inget företag kan hantera AI-missbruk på egen hand. Under panelen betonade vi behovet av samarbete mellan teknikföretag, myndigheter, civilsamhälle och allmänheten för att möta samhällsförändringar och skapa en trygg digital framtid. På ElevenLabs vill vi ha en öppen dialog i vårt community och stödjer initiativ som Content Authenticity Initiative och Elections Safety Accord för att motverka desinformation.

Framtidssäkra AI-säkerhet

På panelen var vi alla överens om att AI-produkter måste utvecklas och användas på ett säkert sätt. Samtidigt måste vi också ge utrymme för kreativa och oväntade användningsområden. På ElevenLabs ser vi ofta att vår plattform används för att göra digitalt innehåll mer tillgängligt för personer som behöver ljudtranskribering, och för att ge rösten tillbaka till dem som förlorat den på grund av ALS eller andra sjukdomar. För att AI ska kunna utvecklas behövs ökad medvetenhet om AI-media, kritisk interaktion med digitalt innehåll, verktyg för att verifiera äkthet och utbildning av både allmänhet och institutioner om etisk AI-användning.

Liknande artiklar

Skapa med AI-ljud av högsta kvalitet

Kontakta försäljningRegistrera dig
🔍 Ferramentas de Espionagem
Servidor: srv1638767 · BR-SP