Con la llegada de ChatGPT se ha puesto de moda la idea de que el lenguaje es clave en el pensamiento: más aún, se ha propuesto que podría funcionar de forma análoga a GPT y otros LLM (grandes modelos de lenguaje). Se ha publicado en Nature un artículo de opinión razonada (Perspective) que afirma que no hay evidencia científica de que usemos el lenguaje para pensar. Se discute la evidencia neurocientífica reciente sobre la relación entre las áreas del cerebro asociadas al lenguaje y las funciones cognitivas superiores (razonamiento, resolución de problemas, etc.) y se concluye que la función primaria del lenguaje es la comunicación, no el pensamiento. Además, se muestras evidencias que apoyan que todas las lenguas están optimizadas para una transferencia eficiente de información y se concluye que surgieron de presiones evolutivas sobre la comunicación social. Hay muchos argumentos a favor de la relación entre el lenguaje y el pensamiento, que describen un gran abanico de posibles interacciones. El artículo trata de refutar dichas afirmaciones en base a que la mayoría no tiene un apoyo empírico. Por supuesto, no es un artículo libre de polémica, pues la opinión predominante es que usamos el lenguaje, o al menos construcciones de tipo lingüístico, para pensar.
En el artículo se ilustran varios ejemplos de pérdida del habla que no implican ninguna pérdida de la capacidad de pensamiento racional (en matemáticas, razonamiento abstracto, cadenas causales y conocimiento del mundo exterior); de hecho, los bebés preverbales (igual que muchos animales) exhiben habilidades inferenciales y de resolución de problemas que, en apariencia, no están sustentadas por sus habilidades lingüísticas. Como es obvio, la evidencia de ello es complicada de recabar; por ello se pone énfasis en destacar las evidencias neurocientíficas. En concreto, que el procesado del habla va más allá de las áreas que se destacan en los libros de texto, las de Broca (en la corteza frontal inferior) y de Wernicke (en la corteza temporal superior posterior); estas áreas del neocórtex están asociadas a la planificación motora del habla (articulación) y a la percepción (comprensión) del habla, respectivamente. Pero hay muchas otras áreas asociadas al lenguaje que intervienen a «nivel superior», que almacenan el conocimiento lingüístico abstracto, apoyando la comprensión y la producción; la gran diferencia con las otras es que un daño en estas áreas no produce un déficit grave o duradero en el procesado del habla que sea fácil de identificar.
Me ha parecido un artículo interesante para pensar. Sobre todo para reflexionar sobre si una inteligencia artificial general (AGI) puede lograrse usando grandes modelos de lenguaje multimodales (parece imprescindible la multimodalidad). Si el pensamiento va más allá del lenguaje, para lograr una futura AGI habrá que ir más allá de los LLM; la promesa desde OpenAI de que el soñado GPT-6 (aún no tenemos GPT-5) será una AGI podría ser una utopía. El camino hacia las AGI podría estar repleto de trampas y atajos sin salida. El artículo es Evelina Fedorenko, Steven T. Piantadosi, Edward A. F. Gibson, «Language is primarily a tool for communication rather than thought,» Nature 630: 575-586 (19 Jun 2024), doi: https://doi.org/10.1038/s41586-024-07522-w [PDF gratuito].
Siempre que se discute la posible relación entre lenguaje y pensamiento se debe tener en cuenta la anendofasia (una condición similar a la afantasia, la sinestesia o la variabilidad humana en la memoria autobiográfica). Se refiere a personas que no tienen voz interior (o que la tienen muy apagada). Un artículo reciente compara las habilidades en tareas cognitivas acústicas y visuales entre las personas con y sin voz interior; resulta que su rendimiento es muy similar. La única diferencia solo se observa en tareas de tipo lingüístico (como rimar palabras); dicha diferencia desaparece cuando se permite que los anendofásicos verbalicen en voz alta mientras realizan dichas tareas. Un buen ejemplo de la gran diversidad entre las habilidades cognitivas de las personas. El artículo es Johanne S. K. Nedergaard, Gary Lupyan, «Not Everybody Has an Inner Voice: Behavioral Consequences of Anendophasia,» Psychological Science, 10 May 2024, doi: https://doi.org/10.1177/09567976241243004.
En este artículo se han comparado las habilidades de N = 46 personas con anendofasia (en mayor o menor grado, pues es difícil medir dicho grado) y de N = 47 personas con niveles altos de habla interna (personas que afirman que no pueden acallar su voz interior). Las tareas experimentales realizadas son de cuatro tipos: (1) identificar si parejas de palabras riman («sock» y «clock») o no lo hacen («drawer» y «door»), (ii) recordar series de palabras ordenadas («bought», «sort», «taut», «caught», «wart», …) y escribirlas en su orden correcto, (iii) identificar siluetas negras de perros y gatos, tanto si son idénticas entre sí, como si corresponden al mismo animal, y (iv) realizar operaciones aritméticas elementales (sumas y restas) en función del color de los números (entre 13 y 96). Estas tareas pretenden chequear el papel de la memoria verbal, la capacidad de conmutar entre diferentes tareas y la capacidad de percepción de categorías.
El resultado que me parece más interesante es en la tarea de rima de palabras. Para los anendofásicos es una tarea más difícil, por eso su rendimiento es algo inferior; sin embargo, logran superar dicho problema cuando se les permite recitar las palabras en voz alta; en este último caso su rendimiento es similar a los participantes de control. También me resulta curioso que los resultados sean consistentes con una fuerte correlación entre las tareas verbales y visuales, algo que va en contra del mito de que hay personas que piensan de forma «verbal» o «visual». Por supuesto, hay mucha investigación futura que aún queda por realizar. Sobre todo en la relación entre la anendofasia y las áreas del neocórtex asociadas a la articulación motora del habla (algunos anendofásicos parecen mostrar movimientos de la lengua cuando piensan en palabras). Sin lugar a dudas, el estudio de los anendofásicos aportará información relevante sobre la relación entre el lenguaje y el pensamiento.
Esa «voz interior» como la llaman para mi es la clave: los que (padecemos) de un exceso de creatividad y razonamos «con el lapiz en la mano», sabemos lo violenta que puede resultar en ocasiones esa necesidad de expletar toda esa tarea. Literalmente, necesitamos visualizar y plasmar los conceptos. Para mi humilde experiencia es claramente falso que el lenguaje es la raiz del pensamiento: ojala sea tan facil. Hay cosas que son muy dificiles de expletar si no a traves de colores y de musica, de formas y de rimas. Desde luego que hay una voz interior, y nos habla y «nosotros» a ella. Pero no habla el lenguaje «formal» y logico. Es algo diferente. «Pon esta linea ahi», le diria a Mondrian, «cuela ese color alla», diria a Pollock. «Haz ese giro musical al revez», diria a Verdi. Pero no es «verbal», bajo mi experiencia 🙂
«Con el lápiz en las mano» Si te percatas el lenguaje es muy útil para dejarse chuletas mentales mientras estás razonando algo; a veces tenemos que dejar aparcado temporalmente una idea mientras buscamos otra y seguidamente retomamos.
Normalmente llevárse las cosas a todo o nada suele fallar, quiero decir, también podría ser que usemos y no usemos el lenguaje para pensar, que tengamos disponibles ambas opciones.
A veces parece que no hay lenguaje que soporte lo que pienso en un determinado momento, otras veces sobra con un lenguaje básico, por ello entendería que lenguaje y pensamiento no van (totalmente) de la mano.
Otro tema que sería interesante definir, ¿un sueño se construye mientras dormimos (principalmente durante la fase rem) y podemos consultarlo al despertar quedando en nuestra memoria?, o,
¿un sueño se termina de construir al despertar, tomar consciencia y pensar en dicho sueño?
Todos hemos tenido una mala noche con pesadillas, lo sabemos al despertarnos y haber pensado en ello. Sueños y pesadillas suelen ser experiencias cortas resumibles en poco tiempo, más o menos caóticas, independientemente de haber estado durmiendo 5, 6, 7, 8 …30 horas.
Pareciera que la duración de la pesadilla/sueño no está relacionada con la cantidad de horas que estuvimos dormidos en fase rem. (Si bien dormir y pasar cierta fase rem parece ser condición necesaria para soñar, no necesariamente es condición suficiente, debemos despertar para terminar de construir el sueño)
Por abundar en el off topic.
«¿un sueño se construye mientras dormimos (principalmente durante la fase rem) y podemos consultarlo al despertar quedando en nuestra memoria?, o, ¿un sueño se termina de construir al despertar, tomar consciencia y pensar en dicho sueño?»
Un sueño se vive, se experimenta, durante la fase REM y su recuerdo se construye al despertar, con suerte y esfuerzo*. Pero no tomamos consciencia al despertar. Soñar es un estado consciente. Y la memoria nunca es la consulta de un archivo. Siempre es reconstrucción.
Sobre la «velocidad» de la experiencia onírica, para no repetirme:
https://francis.naukas.com/2022/09/30/podcast-cb-syr-383-planeta-9-dart-suenos-rem-financiacion-de-la-investigacion-y-criticas-a-la-fisica-de-particulas/#comment-473106
* Si una alarma nos despierta durante una fase de sueño profundo, no recordaremos nada, pero despertamos de forma natural al finalizar cada fase REM. Abrir los ojos y retomar el control de los músculos casi siempre resetea la memoria de trabajo. No lo hagas. La mejor manera de recordar los sueños es al revés. ¿Qué es lo último que recuerdo?. ¿Qué pasó antes de eso?. ¿Y antes?. Así hasta donde alcance el hilo. Entonces te levantas a mear, te desabrochas las legañas, te sientas frente al diario de sueños y lo escribes.
Estoy más o menos deacuerdo Masguel, me gustaría preguntar por la primera parte «Un sueño se vive, se experimenta, durante la fase REM y su recuerdo se construye al despertar..»
¿Qué es lo que vives y experimentas durante la fase REM?, quiero decir, la única garantía de haber soñado algo que puedes incluso describir la tienes al despertar y pensar en ello, únicamente. La actividad en la fase REM es fundamental, claro, pero decir que el sueño «toma forma» durante esa fase es ir más lejos.
«Tomar forma» en el sentido de haber traducido toda esa actividad en una experiencia que podemos describir usando algún lenguaje formal.
«la única garantía de haber soñado algo que puedes incluso describir la tienes al despertar y pensar en ello»
Eso no es una garantía. Y vale para cualquier recuerdo. No tienes garantía de haber experimentado algo hace una hora. Solo lo recuerdas. Pero tenemos prueba experimental de la experiencia onírica (lee el comentario que enlazo a las 9:16).
««Tomar forma» en el sentido de haber traducido toda esa actividad en una experiencia que podemos describir usando algún lenguaje formal.»
No traducimos la actividad neuronal en experiencia. Es al revés. Es la experiencia la que organiza la actividad de las neuronas (causación descendente). Los sueños no son ruido electroquímico ni máscaras de significados ocultos (como pretende el psicoanálisis). Tienen sentido narrativo, pero no se pueden narrar con lenguajes formales. Cuando llevaba un diario de sueños, los escribía en español.
P.D. De este off topic, me bajo aquí.
P, supongo que cuando dices «construir el sueño» te refieres a «recordar el sueño». Recuerdas tus sueños cuando te despiertas en la fase REM (esto se puede forzar eligiendo bien la hora del despertador). Cuando te despiertas en otra fase, no podrás recordar lo que soñaste. Y, por cierto, solo recuerdas lo que soñaste en tu última fase REM; lo que soñaste en las anteriores siempre lo olvidarás.
Un libro muy completo para entender todo lo que actualmente sabe la ciencia sobre el sueño y los sueños «Understanding sleep and dreaming» de William H. Moorcroft. Edt. Springer.
Qué yo sepa, hay animales que piensan y no se les da bien eso de hablar.
Que no se anticipen como nosotros por vivir más el presente, no quiere decir que no sepan lo que ocurre después de ejecutar una acción.
Perfectamente piensan en que quieren ir a dar un paseo y te insisten hasta que los sacas, es más, algunos hasta te llevan la correa y si les dices en voz alta, ¡vamos a la calle!? Pegan un brinco y se ponen como locos y no por saber lo que significan las palabras, sino por la relación que tiene ese sonido, con lo que han estado deseando todo el rato y por ver cumplidos sus deseos.
Si desean algo, piensan en lograr cumplir sus objetivos, puede que no en como hacerlo, pero sí en satisfacer su deseo más inmediato.
Se puede pensar con todos los sentidos, el lenguaje no deja de ser de sonido o visual, depende de si te imaginas las letras o como si las escuchas, pero tambien puedes visualizar o que te venga en la cabeza una canción, tacto, olor… lo que te viene en la cabeza ya es pensamiento, después del estimulo actuas con lo que te ha venido, por ejemplo si un tiburon percibe sangre, irá a por su victima, esto ya es un pensamiento, puede decidir no ir si no tiene hambre.
En este tema, si no se definen los términos, no hay manera de aclararse.
– Si no somos platónicos, el lenguaje no es un sistema lógico, ni un espejo del mundo. Es comunicación social. No solo lo que decimos, también cómo, a quién, para qué, etc. El lenguaje no tiene sentido sin una comunidad de hablantes y contextos comunicativos concreto. Por es tan fructífiero entender el lenguaje desde su pragmática, como «juegos de lenguaje».
– Las habilidades cognitivas que muestran otros animales o las personas afásicas que nunca aprendieron un idioma, no son pensamiento. El pensamiento es la interiorización (planificación de conducta sin realizarla) del lenguaje simbólico, de los usos comunicativos de un grupo social. Evidentemente, los autores del artículo no aceptarían mi definición.
Así que el título del artículo «Language is primarily a tool for communication rather than thought», casi acierta. El lenguaje es una herramienta para la comunicación ANTES (no más) que para el pensamiento. La adquisición del lenguaje en los niños sigue esa pauta. Primero aprenden a hablar en voz alta con los demás. Después juegan a hablar solos en voz alta y solo al final aprenden a planificar conducta verbal sin realizarla, a pensar. Nunca del todo. Como señala Villatoro, al pensar subvocalizamos.
«se muestras evidencias que apoyan que todas las lenguas están optimizadas para una transferencia eficiente de información y se concluye que surgieron de presiones evolutivas sobre la comunicación social.»
Y en esto, concluye bien.
«Con la llegada de ChatGPT se ha puesto de moda la idea de que el lenguaje es clave en el pensamiento: más aún, se ha propuesto que podría funcionar de forma análoga a GPT y otros LLM (grandes modelos de lenguaje).»
Tiene guasa, porque el lenguaje es clave en el pensamiento, pero los LLM ni hablan, ni piensan.
«Me ha parecido un artículo interesante para pensar. Sobre todo para reflexionar sobre si una inteligencia artificial general (AGI) puede lograrse usando grandes modelos de lenguaje multimodales (parece imprescindible la multimodalidad).»
Ya veremos cómo se las apañan los robots en la calle. En cualquier caso una inteligencia artificial general no implica ni consciencia artificial, ni pensamiento artificial, ni comprensión artificial, ni experiencia artificial. Seguirá siendo un simulacro.
«El simulacro alzó los soñolientos
párpados y vio formas y colores
que no entendió, perdidos en rumores
y ensayó temerosos movimientos.
Gradualmente se vio (como nosotros)
aprisionado en esta red sonora
de Antes, Después, Ayer, Mientras, Ahora,
Derecha, Izquierda, Yo, Tú, Aquellos, Otros.
(…) El rabí le explicaba el universo
«esto es mi pie; esto el tuyo, esto la soga.»
y logró, al cabo de años, que el perverso
barriera bien o mal la sinagoga.»
Aunque concuerdo que los modelos del lenguaje son un simulacro y no creo que lleguen a dar mucho más si salieran a la calle, sí tengo muy claro que el día que la IA se comporte 100% como cualquiera , serán, a mi entender, inteligencia y conciencia artificial; ese rollo de que aunque se comporte igual «en realidad» no son conscientes o no tienen experiencias subjetivas me parece una estupidez como un capazo.
Nota: solemos utilizar mal el concepto de Inteligencia Artificial, ya que en informática no tiene que ver realmente con una definición de inteligencia ni nada parecido, se llaman asi a los sistemas que intentan solucionar problemas como lo haría una persona.
«el día que la IA se comporte 100% como cualquiera , serán, a mi entender, inteligencia y conciencia artificial.»
¿Y si ese día, como el robot de Frank, la IA insiste en que no lo es?.
https://www.youtube.com/watch?v=gufPysPF7Dc
https://www.youtube.com/watch?v=05hQ4vpF-7U
A veces tengo las mismas dudas que ese robot 😂
Seguimos en pañales, no solo sememas y semantemas, no existe aquello que no esté codificado y/o podamos decodificar y al ser código sea lenguaje, nuestro lenguaje natural es parte de ello para poder entonces pensar, pensar es un subconjunto de lo Real
Que alguien avise por favor a Denis Villeneuve, que va a tener que darle una vuelva a Arrival https://es.wikipedia.org/wiki/La_llegada
Lo que me hace gracia de la peli es que para entenderse con los extraterrestres mandan a una lingüista y a un físico ¿?¿?…Cuando lo que realmente necesitas son matemáticos expertos en encriptación (cifrado para los puristas) e informáticos. Por supuesto un lingüista sería un apoyo puntual, pero siquiera son de provecho en cifrado a base de lenguas terrestres como amargamente aprendieron los ingleses a principios de la segunda guerra mundial.
El equipo de Bletchley Park descifró alemán cifrado. Si ningún aliado hubiese hablado alemán, descifrar los mensajes no habría servido para nada. Nada puede hacer un matemático o un informático frente a un texto en alemán, sin una gramática y un diccionario. Tampoco un lingüista. Hace falta un hablante bilingüe.
«Arrival» es una peli estupenda, como todas las de Villeneuve, pero hace un uso chapucero de la hipótesis Sapir-Whorf, cae en las paradojas de la retrocausalidad y, si le das dos vueltas al argumento, es una condena del aborto.
P.D. Gracias por la recomendación del libro de Moorcroft. Ya lo estoy descargando de «aquella manera».
Hombre, obviamente un lenguaje es un sistema arbitrario, sin saber alemán no lo habrían conseguido. Pero si no lo sabes, matemáticas, informática y buscar puntos en común.
«si no lo sabes, matemáticas, informática y buscar puntos en común»
No creo que funcione. Ese es justo el punto más flojo de «Project Hail Mary» de A. Weir y de toda la ciencia ficción que mete ese deus ex machina en el argumento. La IA como traductor universal, a pelo. La versión biológica, el Pez de Babel de «La guía del autoestopista galáctico», tiene más gracia. «Arrival» lo resuelve con una comprensión súbita de la lingüista. Entiende la escritura circular de los extraterrestres como quien pilla la gracia de un chiste (y al pensar un tiempo cíclico, magia potagia, ve el futuro).
La piedra Rosetta de los LLM es todo el texto de internet y un montón de traducciones ya hechas. Un bonito homenaje a Searle habría sido llamarlos LCR (Large Chinese Rooms). Pero escocería a los singularistas.