Resumen: Un nuevo estudio presenta el “Sistema 0”, un marco cognitivo en el que la inteligencia artificial (IA) mejora el pensamiento humano al procesar una gran cantidad de datos, complementando nuestra intuición natural (Sistema 1) y el pensamiento analítico (Sistema 2). Sin embargo, este sistema de pensamiento externo plantea riesgos, como la excesiva dependencia de la IA y una posible pérdida de autonomía cognitiva.
El estudio destaca que, si bien la IA puede ayudar en la toma de decisiones, los seres humanos deben seguir siendo críticos y responsables a la hora de interpretar sus resultados. Los investigadores piden que se establezcan directrices éticas para garantizar que la IA mejore la cognición humana sin disminuir nuestra capacidad de pensar de forma independiente.
Datos clave :
- “Sistema 0” se refiere a la IA como una herramienta de pensamiento externa que complementa la cognición humana.
- La dependencia excesiva de la IA corre el riesgo de reducir la autonomía humana y el pensamiento crítico.
- Las directrices éticas y la educación pública son cruciales para el uso responsable de la IA en la toma de decisiones.
Fuente: Universita Cattolica del Sacro Cuore
La interacción entre los humanos y la inteligencia artificial está configurando un nuevo sistema de pensamiento, un nuevo esquema cognitivo, externo a la mente humana, pero capaz de potenciar sus capacidades cognitivas.
Este es el llamado Sistema 0, que opera junto a los dos modelos de pensamiento humano: el Sistema 1, caracterizado por un pensamiento intuitivo, rápido y automático, y el Sistema 2, un tipo de pensamiento más analítico y reflexivo.
Sin embargo, el Sistema 0 introduce un nivel adicional de complejidad, alterando radicalmente el paisaje cognitivo en el que operamos y podría así marcar un avance monumental en la evolución de nuestra capacidad de pensar y tomar decisiones.
Será nuestra responsabilidad garantizar que este progreso se utilice para mejorar nuestra autonomía cognitiva sin comprometerla.
Así lo informa la prestigiosa revista científica Nature Human Behaviour en un artículo titulado “The case for human-AI interaction as System 0 thinking” (El caso de la interacción humano-IA como pensamiento del Sistema 0) elaborado por un equipo de investigadores dirigido por el profesor Giuseppe Riva, director del Humane Technology Lab del campus de Milán de la Università Cattolica y del Applied Technology for Neuropsychology Lab del Istituto Auxologico Italiano IRCCS de Milán, y por el profesor Mario Ubiali (I NEED THE COMPLETE AFFILIATION) del campus de Brescia de la Università Cattolica.
El estudio fue dirigido por Massimo Chiriatti del Grupo de Soluciones de Infraestructura de Lenovo en Milán, la profesora Marianna Ganapini del Departamento de Filosofía del Union College, Schenectady, Nueva York, y el profesor Enrico Panai de la Facultad de Lenguas Extranjeras y Lenguaje de las Ciencias del campus de la Università Cattolica de Milán.
Una nueva forma de pensamiento externo
Así como un disco externo nos permite almacenar datos que no están presentes en el ordenador, podemos trabajar conectando nuestro disco a un PC dondequiera que estemos, la inteligencia artificial, con sus capacidades galácticas de procesamiento y manejo de datos, puede representar un circuito externo al cerebro humano capaz de potenciarlo. De ahí la idea del Sistema 0, que es esencialmente una forma de pensamiento “externo” que se apoya en las capacidades de la IA.
Al gestionar enormes cantidades de datos, la IA puede procesar información y ofrecer sugerencias o decisiones basadas en algoritmos complejos. Sin embargo, a diferencia del pensamiento intuitivo o analítico, el Sistema 0 no asigna un significado intrínseco a la información que procesa.
En otras palabras, la IA puede realizar cálculos, hacer predicciones y generar respuestas sin “comprender” realmente el contenido de los datos con los que trabaja.
Los humanos, por tanto, tienen que interpretar por sí mismos y dar sentido a los resultados producidos por la IA. Es como tener un asistente que recopila, filtra y organiza eficientemente la información, pero que aun así requiere nuestra intervención para tomar decisiones informadas. Este apoyo cognitivo proporciona información valiosa, pero el control final siempre debe permanecer en manos humanas.
Los riesgos del Sistema 0: pérdida de autonomía y confianza ciega
“El riesgo”, subrayan los profesores Riva y Ubiali, “es confiar demasiado en el Sistema 0 sin ejercitar el pensamiento crítico. Si aceptamos pasivamente las soluciones que ofrece la IA, podríamos perder nuestra capacidad de pensar de forma autónoma y desarrollar ideas innovadoras. En un mundo cada vez más automatizado, es crucial que los humanos sigamos cuestionando y cuestionando los resultados generados por la IA”.
Además, la transparencia y la confianza en los sistemas de IA representan otro gran dilema: ¿cómo podemos estar seguros de que estos sistemas están libres de sesgos o distorsiones y de que brindan información precisa y confiable?
“La creciente tendencia a utilizar datos sintéticos o generados artificialmente podría comprometer nuestra percepción de la realidad e influir negativamente en nuestros procesos de toma de decisiones”, advierten los profesores.
La IA podría incluso secuestrar nuestras capacidades introspectivas, señalan, es decir, el acto de reflexionar sobre los propios pensamientos y sentimientos, un proceso exclusivamente humano.
Sin embargo, con el avance de la IA, puede ser posible confiar en sistemas inteligentes para analizar nuestros comportamientos y estados mentales.
Esto plantea la pregunta: ¿hasta qué punto podemos comprendernos verdaderamente a nosotros mismos mediante el análisis de la IA? ¿Puede la IA replicar la complejidad de la experiencia subjetiva?
A pesar de estas preguntas, el Sistema 0 también ofrece enormes oportunidades, señalan los profesores. Gracias a su capacidad para procesar datos complejos de forma rápida y eficiente, la IA puede ayudar a la humanidad a afrontar problemas que superan nuestras capacidades cognitivas naturales.
Ya sea para resolver problemas científicos complejos, analizar conjuntos de datos masivos o gestionar sistemas sociales complejos, la IA podría convertirse en un aliado indispensable.
Para aprovechar el potencial del Sistema 0, los autores del estudio sugieren que es urgente desarrollar directrices éticas y responsables para su uso.
“La transparencia, la rendición de cuentas y la alfabetización digital son elementos clave para permitir que las personas interactúen críticamente con la IA”, advierten.
“Educar al público sobre cómo navegar en este nuevo entorno cognitivo será crucial para evitar los riesgos de una dependencia excesiva de estos sistemas”.
El futuro del pensamiento humano
Concluyen: si no se controla, el Sistema 0 podría interferir con el pensamiento humano en el futuro.
“Es esencial que sigamos siendo conscientes y críticos en la forma en que lo utilizamos; el verdadero potencial del Sistema 0 dependerá de nuestra capacidad para guiarlo en la dirección correcta”.
Acerca de esta noticia sobre investigación de inteligencia artificial y cognición humana
Autor: Nicola Cerbino
Fuente: Universita Cattolica del Sacro Cuore
Contacto: Nicola Cerbino – Universita Cattolica del Sacro Cuore
Imagen: La imagen está acreditada a Neuroscience News
Investigación original: acceso cerrado.
“ El caso de la interacción humano-IA como pensamiento del Sistema 0 ” por Giuseppe Riva et al. Nature Human Behavior
Abstracto
El argumento a favor de la interacción humano-IA como pensamiento del Sistema 0
La rápida integración de estas herramientas de inteligencia artificial (IA) en nuestra vida diaria está cambiando cómo pensamos y tomamos decisiones.
Proponemos que los sistemas de IA basados en datos, al trascender los artefactos individuales e interactuar con un ecosistema dinámico de múltiples artefactos, constituyen un sistema psicológico distinto.
Lo llamamos “sistema 0” y lo posicionamos junto al sistema 1 de Kahneman (pensamiento rápido e intuitivo) y el sistema 2 (pensamiento lento y analítico).
El Sistema 0 representa la externalización de ciertas tareas cognitivas a la IA, que puede procesar grandes cantidades de datos y realizar cálculos complejos que superan las capacidades humanas.
Surge de la interacción entre los usuarios y los sistemas de IA, lo que crea una interfaz dinámica y personalizada entre los humanos y la información.
