Bloghemia
«Chomsky sostiene que la moral se manifiesta en el cerebro y es, por tanto, por definición, un sistema biológico.»
Entrevista con Chomsky sobre gramática universal, redes neuronales y sus implicaciones en la moral y cognición
Por: Andrew Kuo*
Durante las últimas semanas, he estado intercambiando correos electrónicos con mi anarcosindicalista favorito, Noam Chomsky. En un principio, me puse en contacto con él para preguntarle si los recientes avances en el campo de las redes neuronales artificiales (RNA) le habían hecho reconsiderar su famosa teoría lingüística, la gramática universal. Nuestra conversación abordó las posibles limitaciones del aprendizaje profundo, la eficacia con la que las RNA modelan los cerebros biológicos y también se adentró en un terreno más filosófico. No voy a citar directamente al profesor Chomsky en este artículo, ya que nuestra conversación fue informal, pero intentaré resumir las conclusiones principales.
¿Quién es Noam Chomsky?
Noam Chomsky es, ante todo, profesor de lingüística (considerado por muchos como «el padre de la lingüística moderna»), pero probablemente sea más conocido fuera de los círculos académicos como activista, filósofo e historiador. Es autor de más de 100 libros y fue elegido el intelectual público más importante del mundo en una encuesta realizada en 2005 por las revistas Foreign Policy y Prospect. Que conste que soy un admirador de la obra de Chomsky, en particular de sus críticas al imperialismo estadounidense, al neoliberalismo y a los medios de comunicación. En lo que hemos divergido ligeramente es en relación con su rechazo de los filósofos continentales (especialmente los postestructuralistas franceses). Tal vez me haya envenenado al beber demasiado de las fuentes de Foucault, Lacan y Derrida en mi juventud, pero siempre he encontrado el enfoque analítico de Chomsky sobre la filosofía moralmente atractivo, pero un poco demasiado «limpio» para explicar satisfactoriamente nuestro mundo. Si bien su desdén por estas luminarias postestructuralistas es evidente, las opiniones filosóficas de Chomsky son más matizadas de lo que sus detractores le atribuyen.
Gramática universal
Declararé desde el principio que no soy lingüista, pero en esta sección intentaré dar una visión general de la teoría de la gramática universal. Antes de Chomsky, la hipótesis predominante en lingüística era que los humanos nacen con mentes que son «tabula rasa» (como una pizarra en blanco) y adquieren el lenguaje mediante refuerzo. Es decir, los niños oyen hablar a sus padres, imitan los sonidos que escuchan y cuando usan correctamente una palabra o estructuran una oración son elogiados. Lo que Chomsky demostró fue que el refuerzo es solo una parte de la historia y que deben existir estructuras innatas dentro del cerebro humano que sean universales y que faciliten la adquisición del lenguaje.
Sus principales argumentos fueron:
1-Los niños adquieren el lenguaje demasiado rápido y a partir de datos demasiado escasos como para que esto pueda explicarse mediante el aprendizaje de refuerzo (también conocido como el argumento de la «pobreza del estímulo»).
2-Los animales no pueden aprender el lenguaje ni siquiera cuando se les presentan los mismos datos que a los humanos. En los años 60 se realizó un famoso experimento en el que los lingüistas intentaron enseñar a un chimpancé (llamado «Nim Chimpsky») a aprender el lenguaje de señas, pero después de 10 años todavía no podía comunicarse más allá de unas pocas tareas rudimentarias.
3-Existen elementos comunes entre todas las lenguas humanas. Esto demuestra que, incluso cuando las lenguas se han desarrollado de forma independiente, existen características universales que se manifiestan debido a estructuras comunes en todos los cerebros humanos.
4-Los niños no están programados para aprender un idioma específico. Si se cría a un niño nacido en Kenia en Alemania, aprenderá el idioma alemán con la misma facilidad que un niño alemán.
Esta teoría de una facultad lingüística genéticamente codificada fue ampliamente aceptada en la comunidad científica, pero la pregunta obvia que surgió a continuación fue «¿cómo es realmente esta Gramática Universal?». Los investigadores intrépidos pronto se propusieron descubrir propiedades compartidas por todos los idiomas humanos, pero aún no hay consenso sobre qué forma adoptan nuestras capacidades lingüísticas innatas. Es seguro asumir que la Gramática Universal no consiste en reglas sintácticas concretas, sino que es más probable que sea una función cognitiva fundamental. Chomsky ha postulado que en algún momento de nuestra historia, los humanos desarrollaron la capacidad de realizar un proceso recursivo simple llamado «Fusionar» y que esto es responsable de las propiedades y restricciones de las estructuras sintácticas que vemos en los idiomas humanos. Es un poco abstracto (y demasiado complejo para abordarlo adecuadamente aquí), pero esencialmente «Fusionar» es el proceso de tomar dos objetos y combinarlos para formar un nuevo objeto. Aunque aparentemente prosaica, la capacidad de combinar conceptos mentalmente y hacerlo de manera recursiva es engañosamente poderosa y nos permite construir una «variedad infinita de expresiones estructuradas jerárquicamente». Este pequeño pero crucial avance genético no sólo puede explicar nuestra aptitud para la comunicación verbal, sino que también podría ser responsable (al menos en parte) de nuestro talento matemático y de la creatividad humana en general. Esta mutación de «fusión» que se produjo en uno de nuestros antepasados hace unos 100.000 años podría ser uno de los factores clave que separan a los humanos de otros animales.
Redes neuronales artificiales
La razón principal por la que me puse en contacto con el profesor Chomsky fue porque quería escuchar sus opiniones sobre las redes neuronales artificiales (un tema del que sé mucho más que de lingüística). Las ANN son un subconjunto de los modelos de aprendizaje automático que se basan libremente en el cerebro humano y aprenden de forma similar (viendo muchos ejemplos). Estos modelos requieren muy poca codificación y pueden realizar una amplia gama de tareas complejas (por ejemplo, etiquetado de imágenes, reconocimiento de voz, generación de texto ) con arquitecturas relativamente simples. Un ejemplo instructivo de este enfoque es el modelo AlphaGo Zero desarrollado por Google, que aprendió a jugar al juego Go (un juego de mesa complejo y desafiante) y, en última instancia, se volvió imbatible para los campeones mundiales humanos. Lo más impresionante es que fue entrenado para hacer todo esto sin codificación ni intervención humana, es decir, «tabula rasa». Si bien las ANN ciertamente no son una analogía perfecta para el cerebro humano, le pregunté al profesor Chomsky si estos modelos sugieren que, de hecho, no necesitamos estructuras cognitivas codificadas para aprender de datos dispersos.
Chomsky señaló correctamente que las ANN son útiles para tareas altamente especializadas, pero que estas tareas deben estar muy limitadas (aunque su alcance puede parecer vasto dada la memoria y la velocidad de las computadoras modernas). Comparó las ANN con una grúa enorme que trabaja en un edificio alto; si bien son ciertamente impresionantes, ambas herramientas existen en sistemas con límites fijos. Esta línea de razonamiento es congruente con mi observación de que todos los avances en aprendizaje profundo que he presenciado se han producido en dominios muy específicos y no parecemos estar acercándonos a nada parecido a la inteligencia artificial general (lo que sea que eso signifique). Chomsky también señaló la creciente evidencia de que las ANN no modelan con precisión la cognición humana, que es tan comparativamente rica que los sistemas computacionales involucrados pueden incluso extenderse al nivel celular.
Si Chomsky tiene razón (y creo que la tiene), ¿cuáles son las implicaciones para la investigación en aprendizaje profundo en el futuro? En definitiva, no hay nada mágico en el cerebro humano. Es simplemente una estructura física compuesta de átomos y, por lo tanto, es completamente racional creer que en algún momento en el futuro podremos crear una versión artificial que sea capaz de desarrollar inteligencia general. Dicho esto, las ANN actuales ofrecen solo un simulacro de este tipo de cognición y, según la lógica de Chomsky, no alcanzaremos esta próxima frontera sin mejorar primero nuestra comprensión de cómo funcionan las redes neuronales orgánicas.
Para profundizar…
- Tecnología e inteligencia artificial: la advertencia del filósofo chino Yuk Hui
- Por qué compras lo que no necesitas | por Zygmunt Bauman
- La Inteligencia artificial y su incapacidad de pensar | por Byung-Chul Han
Relativismo moral.
El uso ético de la IA es una preocupación destacada para los científicos de datos modernos, pero a veces este dominio puede parecer vago y subjetivo en un campo por lo demás concreto. El trabajo de Chomsky no solo proporciona una perspectiva técnica única sobre el futuro del aprendizaje profundo, sino que la gramática universal también tiene profundas implicaciones morales, ya que el lenguaje es la forma en que discutimos e interpretamos el mundo. Por ejemplo, la opinión de Chomsky es que las estructuras neuronales innatas mencionadas anteriormente impiden el relativismo moral y que deben existir restricciones morales universales. Hay muchas variantes diferentes del relativismo moral, pero el principio central es que no puede haber una base objetiva para las determinaciones éticas. Los relativistas morales afirman que, si bien podemos creer profundamente en afirmaciones como «la esclavitud es inmoral», no tenemos una forma empírica de probar esto a alguien que no está de acuerdo, ya que cualquier prueba se basará necesariamente en juicios de valor y nuestros valores son, en última instancia, exógenos y están determinados por la cultura y la experiencia.
Chomsky sostiene que la moral se manifiesta en el cerebro y es, por tanto, por definición, un sistema biológico. Todos los sistemas biológicos tienen variación (natural y debida a estímulos divergentes), pero también tienen límites. Consideremos el sistema visual humano: los experimentos han demostrado que contiene cierta plasticidad y está moldeado por la experiencia (especialmente en la primera infancia). Al variar los datos proporcionados al sistema visual humano, se puede alterar literalmente la distribución de receptores y, por lo tanto, cambiar la forma en que un individuo percibe las líneas horizontales y verticales. Lo que no se puede hacer, sin embargo, es convertir un ojo humano en un ojo de insecto, o dar a alguien la capacidad de ver rayos X. Según Chomsky, los sistemas biológicos (incluida la moral) pueden variar bastante, pero no infinitamente. Continúa diciendo que incluso si creemos que nuestra moral se deriva completamente de la cultura, todavía es necesario obtener esa cultura de la misma manera que se adquiere cualquier sistema (como resultado de estructuras cognitivas innatas que son universales).
Mi reserva inicial con esta lectura es que si asumimos que la moralidad es simplemente una consecuencia de la «fusión» (o algo igualmente primitivo), entonces, si bien esto puede imponer restricciones teóricas, mi intuición es que nuestra moral puede variar tan enormemente que es prácticamente imposible hacer afirmaciones universales. En el pasado, Chomsky ha discutido cómo el progreso moral parece seguir ciertas tendencias (por ejemplo, la aceptación de la diferencia, el rechazo de la opresión, etc.), pero me cuesta ver cómo estas tendencias generales podrían surgir de manera consistente de estructuras cognitivas atómicas tan simples. Cuando le planteé esto al profesor Chomsky, argumentó que esta visión era ilusoria y que cuando no entendemos las cosas, parecen más diversas y complejas de lo que realmente son. Puso el ejemplo de la variación observada en los planes corporales de los animales desde la explosión cámbrica. Hace apenas 60 años, la visión dominante en biología era que los organismos varían tan drásticamente que cada uno debe ser estudiado de forma individual, pero ahora sabemos que esto es completamente erróneo y que la variación genética entre especies es bastante leve. La variación en los sistemas complejos adquiridos debe ser mínima, de lo contrario no podríamos adquirirlos.
*Pueden leer la entrevista completa en su idioma original (Ingles) aqui
