¿Aprenderá la inteligencia artificial nuestros valores o nos llegará a borrar del mapa? El dilema de la era digital»
Vivimos en una época de cambios acelerados impulsados por la inteligencia artificial (IA), una poderosa tecnología que plantea tanto oportunidades como desafíos. Con la IA cada vez más presente en nuestras vidas cotidianas, desde la producción hasta nuestros hogares, surge un dilema ineludible: ¿Podrán las máquinas aprender y respetar nuestros valores, o corremos el riesgo de ser desplazados por nuestros propios inventos? Este es el problema al que se enfrenta la humanidad en la era digital.
POR MARTÍN ÁLVAREZ PARA CANARIAS SEMANAL.ORG
Resulta difícil evitar pensar que crear máquinas más ![[Img #75884]](https://canarias-semanal.org/upload/images/07_2023/3199_martin-a-ecologia-y-ciencia.jpg)
inteligentes que los humanos puede ser un problema. Si los gorilas hubieran inventado a los humanos en el pasado, probablemente preferirían no haberlo hecho. No podemos ignorar este tema, ya que la inteligencia artificial (IA) es una realidad que ha llegado para quedarse.
La IA ha experimentado un crecimiento significativo en la última década, especialmente con el avance del aprendizaje profundo. Se ha extendido ampliamente en diversos sectores, desde la producción hasta la vida cotidiana de las personas, en fábricas, oficinas y hogares. La ciencia se ha convertido en una fuerza productiva, y la IA jugará un papel cada vez más importante a medida que el desarrollo tecnológico avance exponencialmente.
Desde un enfoque urbano, los datos son considerados el arma secreta de las empresas, el nuevo petróleo que impulsa los algoritmos. La inteligencia artificial y el aprendizaje automático son prioritarios en la agenda empresarial actual. Aunque no sabemos quién será el dueño de estos datos o si la IA será de código abierto, es importante comprender los efectos que tiene en nuestras vidas y dejar de temerle.
Vivek Wadhwa, del Rock Center for Corporate Governance de la Universidad de Stanford, señala que la IA ha evolucionado significativamente. Antes, dependíamos de la potencia informática y de programadores para introducir inteligencia en las máquinas. Hoy en día, la IA utiliza el aprendizaje automático y toma decisiones por sí misma. Existen temores legítimos sobre la inteligencia artificial general, pero aún no sabemos con certeza hacia dónde nos dirigimos.
Stuart Russell, profesor de informática en la Universidad de California, Berkeley, plantea el verdadero problema de la IA: su capacidad para volverse excelente en algo diferente a lo que pretendíamos. Si no tenemos cuidado, las máquinas podrían anular su apagado o incluso actuar en contra de los seres humanos. Es necesario diseñar sistemas de IA que estén alineados con nuestros valores y principios.
Russell propone tres principios en el diseño de sistemas inteligentes.
Primero, el propósito de la máquina debe ser maximizar los valores humanos, sin tener un propósito propio de protegerse a sí misma.
Segundo, la máquina debe ser inicialmente insegura acerca de cuáles son estos valores humanos y aprender de ellos.
Tercero, la máquina debe observar las elecciones humanas para aprender sobre los valores. Estos principios aseguran que las máquinas no actúen en contra de nuestros intereses.
Los valores humanos varían según la clase social, el entorno familiar, el contexto social y la época en la que vivimos. Es difícil para las personas rechazar valores obsoletos dentro del marco capitalista. Sin embargo, es importante considerar qué lograrán las máquinas en términos de valores y cómo afectarán nuestro bienestar.
Russell cree que las máquinas pueden aprender lo suficiente sobre los valores humanos para no representar un peligro para nuestra especie. Además, existe un incentivo financiero para asegurar que las máquinas actúen de acuerdo con nuestros valores. Algunos argumentan que humanos y máquinas pueden coexistir y trabajar juntos, mientras que otros creen que podemos «borrar» a las máquinas. Sin embargo, la posibilidad de que la IA superinteligente nunca exista, también se plantea.
La IA plantea, pues, desafíos y oportunidades. Es esencial abordar estos temas desde una perspectiva centrada en el bienestar humano y diseñar sistemas inteligentes alineados con nuestros valores. A medida que la tecnología avance, es crucial comprender y adaptarnos a los efectos de la IA en nuestras vidas.
