Soluciones de Inteligencia Artificial y chatbots asociados
Puede que las soluciones de Inteligencia Artificial y los chatbots asociados que están cobrando fuerza carezcan de la diversidad global necesaria para atender a bases de usuarios internacionales. Según un estudio reciente realizado por investigadores de la Universidad de Stanford, muchos de los modelos de lenguaje actuales tienden a favorecer “gustos y valores centrados en Occidente”. Los intentos de lograr lo que se conoce como “alineación” con los usuarios previstos de los sistemas o chatbots a menudo fallan, afirmaron.
No es por falta de intentos, ya que los investigadores, liderados por Diyi Yang, profesor asistente en la Universidad de Stanford y parte de la Inteligencia Artificial Centrada en Humanos de Stanford (HAI), relatan en el estudio. “Antes de que los creadores de un nuevo chatbot basado en IA puedan lanzar sus últimas aplicaciones al público en general, a menudo concilian sus modelos con las diversas intenciones y valores personales de los usuarios previstos.” Sin embargo, los esfuerzos para lograr esta alineación “pueden introducir sus propios sesgos, que comprometen la calidad de las respuestas del chatbot”.
En teoría, “la alineación debería ser universal y hacer que los grandes modelos de lenguaje sean más agradables y útiles para una variedad de usuarios en todo el mundo y, idealmente, para el mayor número posible de usuarios”, afirman. Sin embargo, los anotadores que buscan adaptar conjuntos de datos y LLM dentro de diferentes regiones pueden interpretar erróneamente esos instrumentos.
Los chatbots de IA para diversos fines, desde interacciones con clientes hasta asistentes inteligentes, siguen proliferando a un ritmo significativo, por lo que hay mucho en juego. Se espera que el tamaño del mercado global de chatbots de IA alcance casi los 67 mil millones de dólares para 2033, creciendo a una tasa del 26% anual desde su tamaño actual de más de 6 mil millones de dólares, según estimaciones de MarketsUS. “El mercado de chatbots de IA está experimentando un crecimiento rápido debido a la creciente demanda de servicios automatizados de atención al cliente y a los avances en la tecnología de IA”, detallan los autores del informe. “Curiosamente, se espera que más del 50% de las empresas inviertan más anualmente en el desarrollo de bots y chatbots que en el desarrollo tradicional de aplicaciones móviles.”
En resumen, una gran variedad de idiomas y comunidades en todo el mundo actualmente están siendo poco atendidos por la IA y los chatbots. Las instrucciones o interacciones en inglés pueden incluir frases o giros idiomáticos que pueden ser malinterpretados. El estudio de Stanford afirma que los LLM probablemente se basen en las preferencias de sus creadores, que, en este momento, probablemente estén ubicados en países de habla inglesa. Las preferencias humanas no son universales, y los LLM deben reflejar “el contexto social de las personas que representa, lo que lleva a variaciones en la gramática, los temas e incluso en los sistemas de valores éticos y morales”.
Los investigadores de Stanford ofrecen las siguientes recomendaciones para aumentar la conciencia de la diversidad global:
– Reconocer que la alineación de los modelos de lenguaje no es una solución única para todos. “Varios grupos se ven afectados de manera diferente por los procedimientos de alineación.”
– Aspirar a la transparencia. “Esto es de suma importancia para divulgar las decisiones de diseño que se toman para alinear un LLM. Cada paso de alineación añade complejidades adicionales e impacta a los usuarios finales.”
– La mayoría de los conjuntos de datos de preferencias escritos por humanos no incluyen las características demográficas de sus anotadores de preferencias regionales. “Informar esta información, junto con decisiones sobre qué estímulos o tareas están en el dominio, es esencial para la difusión responsable de LLM alineados a una audiencia diversa de usuarios.”
– Buscar conjuntos de datos multilingües. Los investigadores examinaron el conjunto de datos Tülu utilizado en modelos de l