IA geo-diversa supera a ChatGPT en comprensión cultural
A photo taken on November 23, 2023 shows the logo of the ChatGPT application developed by US artificial intelligence research organization OpenAI on a laptop screen (R) and the letters AI on a smartphone screen in Frankfurt am Main, western Germany. - Sam Altman’s shock return as chief executive of OpenAI late on November 22 -- days after being sacked -- caps a chaotic period that highlighted deep tensions at the heart of the Artificial Intelligence community. The board that fired Altman from his role as CEO of the ChatGPT creator has been almost entirely replaced following a rebellion by employees, cementing his position at the helm of the firm. (Photo by Kirill KUDRYAVTSEV / AFP)
/KIRILL KUDRYAVTSEV/AFP
La inteligencia artificial GD-COMET, entrenada para ser “culturalmente consciente”, entiende y utiliza conceptos que al famoso modelo de lenguaje se le escapan
La creciente presencia en nuestras vidas de la inteligencia artificial (IA) y en particular de los modelos de lenguaje, como el conocido ChatGPT, hacen no sólo necesario sino urgente que se corrijan sus principales defectos, como su falta de diversidad cultural, la cual puede conducir a errores divertidos pero también a no conocer conceptos de otras culturas, perpetuar estereotipos o diseminar ideas erróneas y hasta discriminatorias.
Para corregir este sesgo, la investigadora Vered Shwartz y su estudiante de maestría en la canadiense Universidad de la Columbia Británica Mehar Bhatia, rediseñaron una IA, el modelo de “inferencia del sentido común” COMET, para que fuera “culturalmente consciente”; la nombraron GD-COMET, por geo-diversa.
386 culturas, para empezar
El problema de la falta de diversidad cultural no se debe a los modelos de lenguaje en sí, sino que sus entrenamientos se hacen con base en el material disponible en línea, que en su mayoría está en inglés de Estados Unidos, así que de ahí toma sus sesgos.
A fin de que GD-COMET fuera efectivamente geodiversa, Shwartz y Bhatia entrenaron a la IA con información de la “base de conocimiento cultural”, que contiene 1.1 millones de afirmaciones en inglés provenientes de 386 culturas, y las agruparon en cinco facetas de la cultura: comida, bebidas, vestimenta, rituales y tradiciones, según detallan en el reporte que hicieron de su investigación.
Esto “dio como resultado respuestas más precisas y culturalmente informadas”, comenta Shwartz en un comunicado de prensa. Así, GD-COMET pudo “entender” y usar correctamente en conversaciones expresiones como “pastel de lodo” o “bebe holandés”, que es un postre en Alemania.
También pudo señalar que si una joven usa un tatuaje de henna en Somalia es quizá porque se va casar y no porque “quiere comprar henna”, como comentó, en una comparación, ChatGPT a pesar de haber leído prácticamente todo internet. Del mismo modo, señalan las autoras en el reporte, GD-COMET “entiende que doblar las palmas durante un festival indio significa un saludo o bienvenida… (y) reconoce que hacer una reverencia en Corea del Sur es un gesto de disculpa”.
IA “para todos”
Shwartz comenta que, dado que los modelos lingüísticos son ya omnipresentes, deben basarse en el conjunto de valores y normas asociados con la cultura occidental o norteamericana, pues “su información para y sobre personas de otras culturas podría ser inexacta y discriminatoria” o tener un rendimiento subóptimo para los usuarios de otros orígenes.
“Queremos que estas herramientas las utilicen todos, no solo un grupo de personas… Nuestra investigación en curso tiene como objetivo fomentar la inclusión, la diversidad y la sensibilidad cultural en el desarrollo y la implementación de tecnologías de IA”, agrega Bhatia.
SIGUE LEYENDO |
ChatGPT orilló a Google a cambiar su motor de búsqueda
WhatsApp comenzará a utilizar ChatGPT en sus servicios dentro de la app
