Noam Chomsky cumple 95 años: el defensor de la justicia social allanó el camino para la IA

Noam Chomsky, el genio venerado y vilipendiado que alguna vez fue descrito como «el intelectual vivo más importante», cumplió 95 años el 6 de diciembre. Es una figura monumental en la lingüística moderna y sólo una deidad ligeramente menor en psicología, filosofía y activismo político.

Su trabajo para establecer la ciencia cognitiva como disciplina es tan fundamental para el surgimiento de la IA que ya rara vez se reconoce.

En medio de la alarma constante de que las máquinas que simulan el lenguaje podrían convertirse en algo netamente negativo para la humanidad, ¿nos hemos alejado demasiado de la visión de Chomsky de una ciencia de la mente humana?

La raíz de la fama de Chomsky

Chomsky irrumpió en la escena académica en 1957 con Syntactic Structures, una monografía lingüística altamente técnica que revolucionó el estudio del lenguaje.

Su verdadero estrellato, sin embargo, llegó en 1959 con su legendaria reseña de Verbal Behaviour de B. F. Skinner. Skinner, psicólogo y conductista, gozaba del protagonismo en los círculos de la psicología con su teoría del «condicionamiento operante».

Explica cómo se pueden utilizar el refuerzo y el castigo para crear asociaciones en la mente de las personas, que luego fomentan ciertos comportamientos. Por ejemplo, una estrella de oro otorgada por un maestro por su buen comportamiento alentará a los estudiantes a hacerlo más.

En Verbal Behaviour, Skinner intentó expandir esta idea a la lingüística descomponiendo el lenguaje en componentes que supuestamente se adquieren mediante condicionamiento operante.

Chomsky no estuvo de acuerdo en absoluto. Desmenuzó las teorías de Skinner, mostrando que el lenguaje no podía entenderse de esta manera.

Por un lado, señaló, los niños no reciben suficiente exposición al lenguaje para aprender todas las oraciones posibles. Por otro lado, el lenguaje es creativo: frecuentemente pronunciamos oraciones que nunca antes hemos escuchado, lo que significa que no pueden haber sido adquiridas mediante un simple proceso de recompensa y castigo.

La revolución cognitiva y la IA

La mordaz revisión de Chomsky hizo más que excluir al conductismo de la lingüística.

Mostró lo útil que podría ser examinar la mente en lugar de sólo el comportamiento en áreas relacionadas con el lenguaje como la antropología, la psicología y la neurociencia. Esto ayudó a poner en marcha la revolución cognitiva, que finalmente dio origen al campo de la ciencia cognitiva.

Una idea central de la que Chomsky fue pionero, junto con otros científicos cognitivos, es que la cognición humana (pensamiento, memoria, aprendizaje, lenguaje, percepción y toma de decisiones) puede entenderse en términos de procesos computacionales. Si bien ya existían varias teorías para explicar diferentes aspectos de la cognición, ninguna ofrecía el marco seductor de la metáfora de la computadora: nuestro cerebro es el hardware, la cognición es el software y nuestros pensamientos y sentimientos son los resultados.

El enfoque de Chomsky es un hilo que ha conectado a generaciones de investigadores de IA, comenzando posiblemente con su colega del MIT y pionero de la IA, Marvin Minsky, uno de los organizadores del taller de investigación de Dartmouth de 1956 que inició la investigación de la IA.

En aquellos primeros días de la IA, las teorías de Chomsky sobre el lenguaje allanaron el camino para expandir las ideas de Alan Turing sobre la inteligencia artificial al procesamiento del lenguaje.

Generativo y profundo

En concreto, dos conceptos clave popularizados por Chomsky todavía están integrados en la IA en la actualidad.

La primera es la «gramática generativa». Ésta es la idea de que existe un conjunto específico de reglas que determina qué hace que una oración sea gramaticalmente correcta (o incorrecta) en un idioma determinado.

La segunda idea es la de «estructura profunda». Chomsky dijo que los lingüistas estaban prestando demasiada atención a la gramática tradicional, o «estructura superficial», de idiomas particulares. Esto se refiere a los diversos componentes (como palabras, sílabas y frases) que componen una oración hablada.

En lugar de ello, Chomsky quería descubrir la «estructura profunda» de todo lenguaje, de la que somos en gran medida inconscientes. Esta estructura profunda es lo que determina el componente semántico de una oración, es decir, su significado subyacente.

No es difícil ver cómo las ideas de Chomsky sobre gramática generativa y estructura profunda concuerdan con la IA generativa y el aprendizaje profundo de hoy.

Chomsky planteó el desafío básico de todo este esfuerzo: descubrir las reglas profundas que generan el lenguaje. Sin esto, los expertos no podrían haber profundizado tanto en las redes neuronales. No habrían entendido el lenguaje lo suficientemente bien ni siquiera para empezar.

Los pensamientos de Chomsky sobre la IA

Sesenta años después, modelos como ChatGPT han alcanzado a Chomsky.

Si bien algunos lingüistas creen que el éxito de los grandes modelos lingüísticos (LLM) invalida el enfoque de Chomsky sobre el lenguaje, él sostiene que los modelos simplemente imitan en lugar de «aprender» verdaderamente. Según Chomsky, el conocimiento de las profundas reglas del lenguaje que contienen es un desastre estadístico, no un análisis significativo.

En un ensayo invitado del New York Times con Ian Roberts y Jeffrey Watumull titulado La falsa promesa de ChatGPT, Chomsky dice que es «cómico y trágico» que «tanto dinero y atención se concentren en algo tan pequeño».

Su principal queja es que tales sistemas son un callejón sin salida en la búsqueda de una verdadera inteligencia artificial general (AGI). Más bien, los ve como un autocompletado mejorado: útil para crear código de computadora o hacer trampa en ensayos, pero no mucho más.

Le preocupa que su popularidad retrase la exploración de otras arquitecturas de IA que no dependan del procesamiento estadístico de datos por fuerza bruta. Sobre todo, no cree que las redes neuronales (la base de gran parte de la IA actual) sean la arquitectura correcta para replicar la inteligencia humana.

A pesar de no estar impresionado por ChatGPT, Chomsky ve potencial para que la IA se convierta en un monstruo en un futuro sombrío. En el ensayo, escribió que las respuestas de ChatGPT pueden exudar «la banalidad del mal: plagio, apatía y obviación».

Aún así, parece considerar la IA como una preocupación secundaria en comparación con el cambio climático.

IA comercial: ¿la venganza de los conductistas?

Existe una diferencia importante entre el trabajo ético y optimista de Chomsky en ciencia cognitiva y lo que está sucediendo actualmente en la industria de la IA.

Los avances en el modelado de la cognición ya no se producen principalmente en las universidades. En cambio, grandes empresas como Google, Microsoft y OpenAI están acaparando recursos.

Algunos investigadores ahora están recurriendo a modelos de IA en busca de pistas sobre el pensamiento humano. Si está de acuerdo con Chomsky y otros, es poco probable que esto le proporcione mucha información. Pero ese no es el objetivo de estos modelos, ¿verdad?

Su propósito es ganar dinero. Los usuarios les solicitan un estímulo y obtienen una respuesta. Si es útil, volverán a avisar. Con el tiempo, el modelo aprenderá qué patrones de estímulo y respuesta funcionan y utilizará este conocimiento para volverse más adictivo e influyente, reforzando nuestro uso de ellos y potencialmente incluso cambiando nuestros comportamientos.

Estímulo, respuesta, refuerzo y conducta. ¿Suena familiar?

Chomsky luchó duramente para mantener el conductismo fuera de la lingüística y contribuyó en gran medida a nuestra comprensión de cómo el lenguaje puede vincularse con los procesos mentales. Irónicamente, parece que estas contribuciones nos han llevado al terreno perfecto para la experimentación conductista facilitada por la IA.

Proporcionado por La Conversación