Resumen: Un nuevo estudio examina la posibilidad de la conciencia en sistemas artificiales, centrándose en descartar escenarios en los que la IA parece consciente sin serlo realmente. Utilizando el principio de energía libre, el estudio destaca que, si bien algunos procesos de información de los organismos vivos pueden ser simulados por computadoras, las diferencias de estructura causal entre cerebros y computadoras pueden ser cruciales para la conciencia. Este enfoque tiene como objetivo prevenir la creación involuntaria de conciencia artificial y mitigar el engaño por parte de una IA aparentemente consciente.
Hechos clave:
- La investigación de Wanja Wiese utiliza el principio de energía libre para explorar la conciencia en la IA.
- Sugiere que las diferencias en la estructura causal entre el cerebro y las computadoras podrían ser cruciales para la conciencia.
- El objetivo es evitar la conciencia artificial y mitigar el engaño de una IA aparentemente consciente.
Fuente: RUB
Al considerar la posibilidad de conciencia en sistemas artificiales, hay al menos dos enfoques diferentes.
Un enfoque plantea la siguiente pregunta: ¿Qué probabilidad hay de que los sistemas de IA actuales sean conscientes y qué se debe agregar a los sistemas existentes para que sea más probable que sean capaces de tener conciencia?
Otro enfoque pregunta: ¿Qué tipos de sistemas de IA es poco probable que sean conscientes y cómo podemos descartar la posibilidad de que ciertos tipos de sistemas se vuelvan conscientes?
En su investigación, Wanja Wiese sigue el segundo camino: «Mi objetivo es contribuir a dos objetivos: en primer lugar, reducir el riesgo de crear conciencia artificial de forma involuntaria, lo cual es deseable, ya que actualmente no está claro en qué condiciones es moralmente permisible la creación de conciencia artificial.
“En segundo lugar, este enfoque debería ayudar a descartar el engaño por parte de sistemas de IA aparentemente conscientes que solo parecen ser conscientes”, explica.
Esto es particularmente importante porque ya hay indicios de que muchas personas que interactúan a menudo con chatbots atribuyen conciencia a estos sistemas. Al mismo tiempo, el consenso entre los expertos es que los sistemas de IA actuales no son conscientes.
El principio de la energía libre
Wiese se pregunta en su ensayo: ¿Cómo podemos averiguar si existen condiciones esenciales para la conciencia que no se cumplen, por ejemplo, en los ordenadores convencionales? Una característica común que comparten todos los animales conscientes es que están vivos.
Sin embargo, estar vivo es un requisito tan estricto que muchos no lo consideran un candidato plausible para ser una condición necesaria para la conciencia. Pero ¿quizás algunas condiciones que son necesarias para estar vivo también lo sean para la conciencia?
En su artículo, Wanja Wiese hace referencia al principio de energía libre del neurocientífico británico Karl Friston. El principio indica: Los procesos que aseguran la existencia continua de un sistema autoorganizado como un organismo vivo pueden describirse como un tipo de procesamiento de información.
En el caso de los seres humanos, se trata de procesos que regulan parámetros vitales como la temperatura corporal, el contenido de oxígeno en la sangre y el nivel de azúcar en sangre. El mismo tipo de procesamiento de información también podría llevarse a cabo en un ordenador, pero éste no regularía su temperatura ni sus niveles de azúcar en sangre, sino que simplemente simularía estos procesos.
La mayoría de las diferencias no son relevantes para la conciencia.
El investigador sugiere que lo mismo podría ser cierto en el caso de la conciencia. Suponiendo que la conciencia contribuye a la supervivencia de un organismo consciente, entonces, según el principio de la energía libre, los procesos fisiológicos que contribuyen al mantenimiento del organismo deben conservar un rastro que deja la experiencia consciente y que puede describirse como un proceso de procesamiento de información. Esto puede llamarse el “correlato computacional de la conciencia”.
Esto también se puede hacer en un ordenador, pero es posible que se deban cumplir condiciones adicionales para que el ordenador no solo simule, sino que también replique la experiencia consciente.
En su artículo, Wanja Wiese analiza las diferencias entre el modo en que los seres conscientes realizan el correlato computacional de la conciencia y el modo en que un ordenador lo realizaría en una simulación.
Sostiene que la mayoría de estas diferencias no son relevantes para la conciencia. Por ejemplo, a diferencia de un ordenador electrónico, nuestro cerebro es muy eficiente energéticamente, pero es inverosímil que esto sea un requisito para la conciencia.
Sin embargo, otra diferencia reside en la estructura causal de los ordenadores y del cerebro: en un ordenador convencional, los datos siempre deben cargarse primero desde la memoria, luego procesarse en la unidad central de procesamiento y, por último, almacenarse nuevamente en la memoria.
En el cerebro no existe tal separación, lo que significa que la conectividad causal de las distintas áreas del cerebro adopta una forma diferente. Wanja Wiese sostiene que esta podría ser una diferencia entre el cerebro y los ordenadores convencionales que es relevante para la conciencia.
«En mi opinión, la perspectiva que ofrece el principio de energía libre es particularmente interesante, porque nos permite describir características de seres vivos conscientes de tal manera que, en principio, pueden realizarse en sistemas artificiales, pero no están presentes en grandes clases de sistemas artificiales (como las simulaciones por computadora)», explica Wanja Wiese.
“Esto significa que los requisitos previos para la conciencia en sistemas artificiales se pueden capturar de una manera más detallada y precisa”.
Sobre esta conciencia y las novedades en investigación de IA
Autor: Meike Driessen
Fuente: RUB
Contacto: Meike Driessen – RUB
Imagen: La imagen se atribuye a Neuroscience News
Investigación original: Acceso abierto.
“ Conciencia artificial: una perspectiva desde el principio de la energía libre ” de Wanja Wiese. Estudios filosóficos
Abstracto
Conciencia artificial: una perspectiva desde el principio de la energía libre
¿La hipótesis de una forma débil de funcionalismo computacional, según la cual la forma correcta de computación neuronal es suficiente para la conciencia, implica que una simulación computacional digital de tales cálculos neuronales es consciente? ¿O esta simulación computacional debe implementarse de la manera correcta para poder replicar la conciencia?
Desde la perspectiva del principio de energía libre de Karl Friston, los sistemas autoorganizados (como los organismos vivos) comparten un conjunto de propiedades que podrían realizarse en sistemas artificiales, pero que no son instanciadas por computadoras con una arquitectura clásica (von Neumann).
Sostengo que al menos una de estas propiedades, a saber, un cierto tipo de flujo causal, puede utilizarse para establecer una distinción entre los sistemas que simplemente simulan y aquellos que realmente replican la conciencia.
