Xavi Varona: "La IA de WhatsApp todavía no contesta en catalán porque tiene miedo de equivocarse"

"La IA de WhatsApp todavía no contesta en catalán porque le da miedo equivocarse", así se pronuncia el director del Instituto de Investigación en Inteligencia Artificial de la Universitat de les Illes Balears (UIB), Xavi Varona, sobre el hecho de que la red social propiedad de Mark Zuckerberg se resista a utilizar el catalán en sus asistentes de inteligencia artificial, a pesar de que lo comprende

Según Varona, la prudencia de estas tecnologías impide que se comunique en catalán mientras no se tenga la seguridad de hacerlo correctamente: “Las IAs responden con las palabras más probables, pueden decir cosas que no son correctas. Si le preguntas una burrada, contestará una burrada”.

Varona recuerda que la inteligencia artificial no tiene consciencia ni comprensión humana: “Coge patrones de respuesta y usa un método probabilístico para ver qué palabra es la más probable”.

Para minimizar fallos, los desarrolladores aplican un sistema de refuerzo humano. “Antes de sacar la IA al mercado, el fabricante decide qué es correcto y qué no, y lo filtra. Lo hacen así porque, si no, no tienen la seguridad de que responderá bien”, explica Varona.

Varona recuerda que la inteligencia artificial no tiene consciencia ni comprensión humana: “Coge patrones de respuesta y usa un método probabilístico para ver qué palabra es la más probable”

En el caso concreto de WhatsApp, Varona considera que la decisión de no permitir todavía respuestas en catalán responde precisamente a esa falta de garantía. “Son muy prudentes. WhatsApp es de Meta, y ya tuvieron un error: un asistente para redactar artículos científicos fracasó por tener muchos errores. Hace unos meses añadieron un asistente en WhatsApp, pero no está tan probado ni estudiado. No ha pasado el filtro humano para hablar en catalán. Como no están del todo seguros, no lo habla”, resume.

Asimismo, asegura que el asistente de inteligencia artificial de WhatsApp no se utiliza tanto por ser demasiado joven: “Todo el mundo la tiene, es gratis, pero casi nadie la usa. ChatGPT está más preparado. Aprende tanto del usuario como de sus millones de usuarios y cada vez funciona mejor”.

Pensamiento en inglés

Uno de los principales obstáculos para una comunicación fluida en catalán es el sesgo lingüístico de origen. “Estas IAs son americanas. Muchas han aprendido con una gran cantidad de texto en inglés. Piensan en inglés”, afirma Varona. Aunque destaca la capacidad de traducción de estos modelos, señala que, en realidad, lo que hacen es traducir el mensaje al inglés, pensar la respuesta en inglés y luego traducirla al catalán. “Por eso, por ejemplo, ChatGPT redacta correos con un tono siempre anglosajón”, apunta.

Varona también destaca los esfuerzos institucionales para impulsar el uso de las lenguas cooficiales en la inteligencia artificial. “El Gobierno ha desarrollado una IA específica en todas las lenguas oficiales”, explica.

Suscríbete para seguir leyendo