He participado en el episodio 404 del podcast Coffee Break: Señal y Ruido [iVoox, iTunes], titulado “Ep404: ChatGPT y Teoría de la Mente; Agujeros Negros y Energía Oscura; Neandertales», 23 feb 2023. «La tertulia semanal en la que repasamos las últimas noticias de la actualidad científica. En el episodio de hoy: El gorro láser y el cambio climático (min 10:00); Agujeros negros y energía oscura (1:44:50); Hallazgo de restos neandertales muy recientes (2:27:00); Señales de los oyentes (2:41:40). Todos los comentarios vertidos durante la tertulia representan únicamente la opinión de quien los hace… y a veces ni eso.
Ir a descargar el episodio 404.
Como muestra el vídeo participamos por videoconferencia Héctor Socas Navarro @HSocasNavarro (@pCoffeeBreak), Sara Robisco Cavite @SaraRC83, Carlos Westendorp @cwestend, José Edelstein @JoseEdelstein, Gastón Giribet @GastonGiribet, y Francis Villatoro @emulenews.
Tras la presentación, Héctor realiza una fe de erratas: el otro día, hablando del criterio de ligadura gravitacional de la miniluna dijo «energía potencial negativa» cuando debería haber dicho «energía negativa», energía cinética más potencial. La razón es el convenio que se toma para describir los sistemas ligados: se toma como cero para la energía la que corresponde a las componentes del sistema infinitamente separadas; dicho valor es mayor que la energía del sistema ligado, luego para este último, por convenio, la energía de ligadura es negativa y la energía total también es negativa. Por supuesto, solo es un convenio.
Nos comenta Carlos dos artículos sobre la teoría de la mente (ToM) de los modelos de lenguaje (LLM). Se están repitiendo muchos experimentos psicológicos clásicos usando las inteligencias artificiales disponibles, como las basadas en modelos de lenguaje (tipo ChatGPT). En el caso de la ToM estos experimentos son historias con personajes diseñadas para evaluar las creencias falsas en dichos personajes evaluadas por niños o animales. En la figura, un niño esconde una chocolatina en el mueble verde; más tarde su madre la saca del mueble verde y la pone en el mueble azul; luego se pregunta al sujeto qué mueble cree abrirá el niño más tarde. Los niños más pequeños, sin teoría de la mente, afirman que será el azul; pero los niños más mayores, con teoría de la mente, afirman que será el verde.
Estos experimentos computacionales son muy fáciles de realizar, así que se están realizando muchos. Algunos están mostrando que algunas inteligencias artificiales parecen tener una teoría de la mente (son capaces de aparentar ponerse en el lugar de otro); se podría decir que la teoría de la mente ha emergido de forma espontánea en ellas. Sin embargo, no todos los resultados son positivos y muchos expertos tienen serias dudas sobre esta aparente emergencia. Y, por supuesto, todo se puede ver en el sentido contrario: que un modelo de lenguaje aparente tener una teoría de la mente en un experimento psicológico quizás es una señal de que dicho experimento no está bien diseñado. La polémica está servida.
Como curiosidad, Jose comenta que su exexposa hizo su tesis doctoral sobre la teoría de la mente y diseñó experimentos específicos para relacionar la habilidad lingüística y la teoría de la mente. Carlos nos comenta el artículo de Michal Kosinski, «Theory of Mind May Have Spontaneously Emerged in Large Language Models,» arXiv:2302.02083 [cs.CL] (04 Feb 2023), doi: https://doi.org/10.48550/arXiv.2302.02083, que concluye que GPT-3 (davinci-002, enero 2022) resuelve con éxito el 70 % de los experimentos ToM (como un niño de 7 años), pero que GPT-3.5 (davinci-003, noviembre 2022) logra resolver el 93 % de ellos (como un niño de 9 años). Así afirman que una ToM ha emergido en este modelo de lenguaje. También nos comenta el artículo de Tomer Ullman, «Large Language Models Fail on Trivial Alterations to Theory-of-Mind Tasks,» arXiv:2302.08399 [cs.AI] (16 Feb 2023), doi: https://doi.org/10.48550/arXiv.2302.08399, que ofrece la opinión contraria; se observa que pequeñas modificaciones en una tarea ToM penaliza mucho la respuesta de un modelo de lenguaje, cuando casi no afecta a los niños. Como resultado se concluye que no se observa la emergencia de una teoría de la mente en los LLM actuales.
Finalmente, Carlos nos comenta que la noticia «El Hospital Universitario de Canarias y el IAC avanzan en la detección precoz del cáncer de colon usando métodos de inteligencia artificial», IAC, 19 dic 2022. Su proyecto Patolog-IA, junto a Andrés Asensio y otros astrofísicos, desarrolla aplica métodos de inteligencia artificial usados en astronomía al procesado de imágenes médicas para el diagnóstico del cáncer colorrectal. Por ahora se limita a validar algoritmos ya conocidos con bases de datos de imágenes ya publicadas. En un futuro pretende aplicarlo a datos reales de pacientes y mejorar dichas técnicas para alcanzar alta fiabilidad y reducir los falsos positivos.
Me toca comentar, junto a Gastón, la supuesta relación entre agujeros negros y energía oscura. Ya lo comenté en «Se propone que impostores de agujeros negros con energía oscura en su interior explican la energía oscura cosmológica», LCMF, 16 feb 2023; la idea es proponer que los agujeros negros supermasivos son objetos sin singularidad que contienen en su interior un núcleo de energía oscura (una «materia exótica» con presión negativa de signo opuesto a la densidad, es decir, con ecuación de estado p = −ρ). La idea es explicar el (aparente) crecimiento de los agujeros negros supermasivos en un factor entre 8 y 20 desde desplazamientos al rojo z ∼ 2.7 hasta z = 0. Por desgracia es una idea que no se sostiene, pues explicaría la contribución de la energía a la densidad del universo mediante una contribución de materia (pues los agujeros negros fuera del horizonte se comportan como MACHOs), lo que contradice las observaciones cosmológicas. Además, los agujeros negros son muy pequeños, con lo que su crecimiento en masa y tamaño por la expansión acelerada de su núcleo interior no puede explicar la expansión acelerada observada en el universo.
Los artículos son Duncan Farrah, Kevin S. Croker, …, Chris Pearson, «Observational Evidence for Cosmological Coupling of Black Holes and its Implications for an Astrophysical Source of Dark Energy,» The Astrophysical Journal Letters 944: L31 (15 Feb 2023), doi: https://doi.org/10.3847/2041-8213/acb704, y Duncan Farrah, Sara Petty, …, Andreas Efstathiou, «A Preferential Growth Channel for Supermassive Black Holes in Elliptical Galaxies at z ≲ 2,» The Astrophysical Journal 943: 133 (02 Feb 2023), doi: https://doi.org/10.3847/1538-4357/acac2e.
Nos cuenta Sara que se ha publicado en American Journal of Biological Anthropology un estudio de dientes de neandertales que apunta a que estuvieron en el norte de España más tiempo del que se pensaba. En el yacimiento de Lezetxiki de Arrasate o Mondragón (Guipúzcoa) se han datado con radiocarbono los restos en diferentes niveles que van entre 32.600 y 39.500 años en la cultura auriñaciana y de al menos 46.500 años en la musteriense.
Sara nos cuenta muchos detalles sobre el análisis comparado de estos dientes neandertales. Gracias a la estratografía han sido datados mucho antes de lo esperado; así la hipótesis de que los neandertales durante la glaciación migraron hacia el sur, algo que descartan los nuevos resultados. Aún así, hay que ser cautos y esperar a que futuros estudios clarifiquen y contextualicen los nuevos resultados. El artículo es Diego López-Onaindia, Marina Lozano, …, M. Eulàlia Subirà, «Neanderthal teeth from Lezetxiki (Arrasate, Iberian Peninsula): New insights and reassessment,» American Journal of Biological Anthropology (31 Jan 2023), doi: https://doi.org/10.1002/ajpa.24694; un artículo relacionado es Igor Djakovic, Alastair Key, Marie Soressi, «Optimal linear estimation models predict 1400–2900 years of overlap between Homo sapiens and Neandertals prior to their disappearance from France and northern Spain,» Scientific Reports 12: 15000 (13 Oct 2022), doi: https://doi.org/10.1038/s41598-022-19162-z; más información en «Los neandertales habitaron en el norte de España más tiempo de lo que se pensaba», Agencia SINC, 03 feb 2023.
Y pasamos a Señales de los Oyentes.
pregunta¡Qué disfrutes del podcast!
Otra tarde para disfrutar.
Sobre la Teoría de la Mente, me gustaría hacer una puntualización. No se trata de descubrir la subjetividad ajena a partir de la propia. El orden causal es al revés. Mientras no se descubre la subjetividad ajena, tampoco se tiene consciencia de la propia. Los animales y los niños pequeños sin Teoría de la Mente tampoco tienen identidad personal. Por eso, lo que sienten, lo que quieren, lo que saben, para ellos, no es algo que les pase a ellos. No lo consideran suyo. Duele igual que llueve. No pueden comprender que su dolor sea una experiencia privada, como no pueden comprender que en otro lugar no esté lloviendo. Identifican el umwelt con la totalidad de lo real.
Por eso los animales que pasan por primera vez la prueba del espejo, en la imagen especular primero ven a un miembro de su especie. Al comprobar que imita sus movientos pillan el chiste, ven el truco del espejo y en su reflejo, un icono de su propio cuerpo. Solo al final convierten el icono en un símbolo de su propia identidad y entienden que se están viendo desde fuera, como los vería otro. El lenguaje verbal no es necesario para desarrollar una Teoría de la Mente (aunque su recursividad sí es necesaria para hacerla más sofisticada). Solo es necesaria la capacidad para convertir iconos en símbolos, algo que podemos hacer muy pocas especies y ninguna inteligencia artificial.
P.D. Giribet me arrancó una sonrisa maliciosa cuando dijo que en física de materia condensada «todavía quedan algunos» emergentistas, como si fuese una especie en vías de extinción. Pero hombre, los dinosaurios son los deterministas laplacianos.
Y con la adquisición del lenguaje pasa lo mismo. Nos lo mostró Vygotsky. El niño primero aprende a hablar con los demás. Después juega a hablar solo, imitando conversaciones, en voz alta. Y solo al final aprende a planificar conducta verbal sin realizarla, a pensar.
A mí también me sorprendió un montón esa visión de gastón sobre el emergentista como algo escaso o pasado…y me flipó aun más su visión laplaciana en el siglo XXI donde hasta la definición de determinismo ha cambiado.
Me gusta todo lo que dice, aunque no esté de acuerdo. Porque habla como quien escribe. A mí no me sale. Estos sudamericanos… «que unos días van en bici y otros huelen bien». 🙂
hola Francis
Queria saber que otro articulo o video me recomendas mas profundo sobre chatgpt o modelos del lenguaje que el de Stephen Wolfram?
Otra pregunta vas a escribir sobre el protocolo de Navascues? es cierto que permitira correcion activa de errores en computacion cuantica?
Me ha llamado la atención cuando dice Hector que el test de Turing ya se pasa…yo diría que no es así de momento, pues aunque puedas charlar, están fallando mucho a la hora de hacer razonamientos sencillos que un humano, aun sin educación, puede hacer, a no ser que estén solamente entrenado para ello, donde en tal caso hacen aguas en otros temas mundanos. Sea como fuere, el día que en podamos decir que es indistinguible habría que plantearse qué somos…
Injusto me ha parecido cuando Edelstein le dice a Hector que los ciervos también se espantan con el ruido de una rama…creo que la hipótesis de Hector es completamente razonable y perfectisimamente compatible con que ciervos, moscas y todo bicho viviente se espante como no podria ser de otra forma si uno quiere ser una especie hoy en día en este planeta.
Tanto como injusto… Creo que Edelstein y Giribet dan en el clavo. El ciervo y la mosca morirán para nosotros. Pero ellos son inmortales, porque no saben que van a morir. Su miedo no es miedo a la muerte. Es miedo al estruendo del trueno, al lobo que les acecha, a su propia sombra si hace un extraño (cagan cortisol), pero no conocen la muerte porque cuando mueren, ellos ya no están (Epicuro).
Tal como lo cuentas, no entiendo que diferencia hay entre ciervo, mosca y una persona
Para mi lo que más me llena de curiosidad es que nadie comenta acerca de lo que le ocurre a la materia-energía cuando cae al agujero negro en esa suerte de reciclaje en que todo se convierte en espacio curvado por lo cual el agujero simplemente es vacío . Es maravillosa esa imagen cuando las partículas entregan su energía al campo gravitatorio y desaparecen como tales . Después el agujero negro se evapora y devuelve al universo la energía traspasándola a otros campos .
Claro, pero nosotros sí. Nuestros antepasados tenían esa reacción, pero llega un momento en que la intentas racionalizar, y lo que racionalizas es que te has asustado porque podría ser un depredador o un enemigo, no porque es una reacción heredada de tu amigdala (eso lo sabemos ahora). Es innegable que nosotros descendemos de aquellos que le han dado un motivo teleológico a todo. Descendemos del que cuando ha visto moverse un arbusto de forma no orgánica, no se ha acercado a aplicar el método científico, ha salido cagando leches de primeras, esos son los que han sobrevivido. Descendemos del conspiranoico, no de Mr spock
Digo que es injusto porque el camino desarrollado por el ciervo en la evolución es otro.
Ok. Perdona. Pensaba que te referías a la mención de Edelstein al hombre como «ser para la muerte» porque la conoce y demás. Estoy de acuerdo contigo.
Ya puestos aprovecho para matizar el término «espontánea», en el artículo del profesor de Stanford al proponer la emergencia espontánea de la teoría de la mente en ChatGPT. En primer lugar, como insistió Westendorp, no se aplica al caso. ChatGPT no tiene ni rastro de teoría de la mente. En segundo, suponiendo la emergencia de una nueva propiedad en cualquier sistema, como mucho será espontánea en el sentido de no-intencionada. La emergencia nunca será espontánea en el sentido de no-causal. Conviene recordar que la emergencia no es magia.
El último episodio de Last Week Tonight, sobre IA y ChatGPT.
https://www.youtube.com/watch?v=Sqa8Zo2XWc4
John Oliver, tan gracioso como siempre. Pero parece no entender que el problema de las cajas negras, aunque tiene una faceta legal, no es un problema legal. Las IA no son cajas negras por secretismo de las empresas.
Francis, por que pensas que este metodo de TAE tech no lograra energia neta (al menos en los 30s)?
https://www.nature.com/articles/s41467-023-36655-1
Mariana, se ha logrado un primer paso similar a lo que se logró en fusión DT en 1952. Esta tecnología tiene un retraso de 70 años. ¿De verdad te crees que en 10 años se alcanzará un estado similar al que se alcanzará en fusión DT en 2040? Yo no lo creo.