IA Conversacional Lista para Producción a Escala Empresarial: Con Felix Su de Scale AI

Éxito

El Poder de la Separación: Por Qué la Arquitectura Importa

Al construir IA de Voz Conversacional, los desarrolladores pueden trabajar con modelos multimodales de voz a voz, o pueden unir las partes componentes de ASR (transcripción), LLMs y TTS. Para empresas con casos de uso específicos, esto último puede ser más práctico.

"En un entorno empresarial, la IA a menudo no basta solo con LLMs", explica Felix Su, jefe de ingeniería de la plataforma GenAI de Scale. "Hay que diseñar un sistema complejo que siga la lógica del negocio, mantenga la imagen de marca y funcione dentro de límites muy claros. Estos comportamientos se adaptan a cada empresa, así que es más práctico implementar estos sistemas sobre los LLMs en vez de depender solo de su comportamiento latente. Aunque últimamente los modelos ya incluyen capacidades multimodales, su adopción en casos críticos de producción ha sido más lenta de lo esperado. Esto se debe a la falta de control entre la generación y las entradas y salidas de cada modalidad. En el caso de TIME AI, usar STT y TTS nos permitió controlar las entradas a los LLMs basados en texto y proteger las salidas del sistema con límites personalizados. Esta técnica suele ser más práctica que usar directamente LLMs multimodales."

Al construir la experiencia TIME AI, Scale indexó el corpus de artículos de TIME en bases de conocimiento para recuperación bajo demanda, codificó la lógica empresarial en una serie de prompts del sistema y protegió las salidas de GenAI contra alucinaciones e infracciones tanto en seguridad como en directrices de marca. Sobre este sistema, dieron vida a la experiencia con una voz de la plataforma de orquestación de IA Conversacional de ElevenLabs.

Experiencia Persona del Año de TIME: Donde la Voz Marca la Diferencia

El reciente lanzamiento de TIME AI permite a los lectores participar en conversaciones naturales sobre el periodismo de TIME, incluida su icónica cobertura de Persona del Año. Lo que distingue a esta implementación de otros innumerables chatbots no es solo su conocimiento, sino la voz.

"Usar la voz realmente le dio un toque especial", reflexiona Su. "Sin ella, se pierde en el montón como otro chatbot más. Queríamos que el agente se sintiera como un compañero de lectura en vivo, disponible para profundizar en conversaciones fuera de guion." La implementación combina la experiencia de Scale AI en desarrollo de IA con la plataforma de IA Conversacional de ElevenLabs, creando una experiencia que se siente notablemente humana mientras mantiene un estricto control sobre el contenido y la voz de la marca.

Construyendo Sistemas Listos para Empresas

Para las empresas que buscan implementar IA conversacional a gran escala, colaborar con Scale AI y ElevenLabs ofrece un camino probado. Scale AI aporta una profunda experiencia en la construcción de sistemas de IA multimodales controlados y seguros con medidas de seguridad robustas, mientras que ElevenLabs proporciona tecnología de voz de primera clase que se puede integrar sin problemas en estos sistemas.

Aunque la implementación de TIME se centra en el periodismo, la misma arquitectura se puede aplicar a diversos casos de uso empresarial, particularmente en servicio y soporte al cliente. Los clientes están cansados de chatbots básicos y demandan interacciones más atractivas y humanas.

Gracias a Felix por contribuir a este post. Puedes encontrar a Felix Su en LinkedIn & X, y puedes probar la su Persona del Año 2024su Persona del Año 2024, además de Persona del Año en 2021, 2022 y

Los desarrolladores pueden comenzar con IA Conversacional usando nuestra documentación, y empresas que buscan implementar soluciones de Conversational Voice Agent en producción pueden ponerse en contacto con el equipo de soluciones Enterprise en ElevenLabs y