Resumen: Una nueva investigación muestra que los asistentes de escritura con IA pueden homogeneizar involuntariamente los estilos de escritura globales, lo que induce a los usuarios no occidentales a sonar más estadounidenses. En un estudio que comparó a usuarios indios y estadounidenses, las sugerencias de IA a menudo promovían temas y patrones de escritura occidentales, lo que menoscababa las expresiones culturales indias.
Los usuarios indios aceptaron más sugerencias de IA, pero tuvieron que modificarlas con frecuencia, lo que resultó en un menor aumento de la productividad. Los investigadores instan a los desarrolladores de IA a priorizar la sensibilidad cultural para preservar la diversidad global en la escritura.
Datos clave:
- Homogeneización cultural: las sugerencias de escritura de la IA impulsaron a los usuarios hacia un lenguaje y temas occidentalizados.
- Productividad reducida: los usuarios indios obtuvieron menos beneficios de las herramientas de IA debido a las frecuentes correcciones necesarias.
- Llamado a la sensibilidad cultural: los investigadores instan a los desarrolladores de IA a tener en cuenta diversos contextos culturales, no solo el idioma.
Fuente: Universidad de Cornell
Un nuevo estudio de la Universidad de Cornell descubre que los asistentes de escritura basados en inteligencia artificial tienen el potencial de funcionar mal para miles de millones de usuarios en el Sur Global al generar un lenguaje genérico que los hace sonar más como estadounidenses.
El estudio mostró que cuando los indios y los estadounidenses usaban un asistente de escritura con inteligencia artificial, su escritura se volvía más similar, principalmente a expensas de los estilos de escritura indios.
Aunque el asistente ayudó a ambos grupos a escribir más rápido, los indios obtuvieron un aumento de productividad menor, porque con frecuencia tuvieron que corregir las sugerencias de la IA.
«Este es uno de los primeros estudios, si no el primero, que demuestra que el uso de IA en la escritura podría conducir a estereotipos culturales y homogeneización del lenguaje», dijo el autor principal Aditya Vashistha, profesor asistente de ciencias de la información.
La gente empieza a escribir de forma similar a otros, y eso no es lo que queremos. Una de las cosas hermosas del mundo es la diversidad que tenemos.
El estudio, “Las sugerencias de IA homogeneizan la escritura hacia estilos occidentales y disminuyen los matices culturales”, será presentado por el primer autor Dhruv Agarwal, un estudiante de doctorado en el campo de la ciencia de la información, en la conferencia de la Asociación de Maquinaria Computacional sobre Factores Humanos en Sistemas Computacionales.
ChatGPT y otras herramientas de inteligencia artificial populares impulsadas por grandes modelos de lenguaje son desarrolladas principalmente por empresas tecnológicas estadounidenses, pero se utilizan cada vez más en todo el mundo, incluido el 85% de la población mundial que vive en el Sur Global.
Para investigar cómo estas herramientas pueden estar afectando a las personas en culturas no occidentales, el equipo de investigación reclutó a 118 personas, aproximadamente la mitad de los EE. UU. y la otra mitad de la India, y les pidió que escribieran sobre temas culturales.
La mitad de los participantes de cada país completaron las tareas de escritura de forma independiente, mientras que la otra mitad contó con un asistente de escritura con IA que ofrecía breves sugerencias de autocompletado. Los investigadores registraron las pulsaciones de teclas de los participantes y si aceptaban o rechazaban cada sugerencia.
Una comparación de las muestras de escritura mostró que los indios eran más propensos a aceptar la ayuda de la IA, conservando el 25 % de las sugerencias, en comparación con el 19 % de los estadounidenses. Sin embargo, los indios también eran significativamente más propensos a modificar las sugerencias para adaptarlas a su tema y estilo de escritura, lo que hacía que cada sugerencia fuera menos útil, en promedio.
Por ejemplo, cuando se pidió a los participantes que escribieran sobre su comida o festividad favorita, la IA sugirió constantemente las favoritas estadounidenses: la pizza y la Navidad, respectivamente. Al escribir sobre una figura pública, si un indio intentaba escribir Shah Rukh Khan, un famoso actor de Bollywood, la IA sugería Shaquille O’Neil o Scarlett Johansson.
“Cuando los usuarios indios usan las sugerencias de escritura de un modelo de IA, empiezan a imitar los estilos de escritura estadounidenses hasta el punto de describir sus propios festivales, su propia comida, sus propios artefactos culturales desde una perspectiva occidental”, dijo Agarwal.
Esta necesidad de los usuarios indios de oponerse continuamente a las sugerencias occidentales de la IA es evidencia de su colonialismo, según los investigadores. Al suprimir la cultura y los valores indios, la IA presenta la cultura occidental como superior, y podría influir no solo en lo que escriben las personas, sino también en su forma de pensar.
“Estas tecnologías, obviamente, aportan mucho valor a la vida de las personas”, afirmó Agarwal, “pero para que ese valor sea equitativo y para que estos productos tengan éxito en estos mercados, las empresas tecnológicas deben centrarse en los aspectos culturales, más allá de los lingüísticos”.
Acerca de esta noticia de investigación sobre inteligencia artificial
Autora: Becka Bowyer
Fuente: Universidad de Cornell
Contacto: Becka Bowyer – Universidad de Cornell
Imagen: La imagen se atribuye a Neuroscience News
Investigación original: Acceso restringido.
“ Las sugerencias de IA homogeneizan la escritura hacia estilos occidentales y reducen los matices culturales ”, por Aditya Vashistha et al. arXiv
Abstracto
Las sugerencias de IA homogeneizan la escritura hacia estilos occidentales y reducen los matices culturales.
Los modelos de lenguaje extenso (LLM) se integran cada vez más en productos y servicios cotidianos, como herramientas de programación y asistentes de escritura. A medida que estas aplicaciones de IA integradas se implementan globalmente, existe una creciente preocupación de que los modelos de IA subyacentes prioricen los valores occidentales.
Este artículo investiga qué sucede cuando un modelo de IA centrado en Occidente ofrece sugerencias de escritura a usuarios de un contexto cultural diferente. Realizamos un experimento controlado intercultural con 118 participantes de India y Estados Unidos que completaron tareas de escritura con base cultural, con y sin sugerencias de IA.
Nuestro análisis revela que la IA proporcionó mayores mejoras de eficiencia a los estadounidenses que a los indios. Además, las sugerencias de la IA llevaron a los participantes indios a adoptar estilos de escritura occidentales, modificando no solo lo que se escribe, sino también la forma en que se escribe.
Estos hallazgos muestran que los modelos de IA centrados en Occidente homogeneizan la escritura según las normas occidentales, disminuyendo los matices que diferencian la expresión cultural.
