He participado en el episodio 430 del podcast Coffee Break: Señal y Ruido [iVoox A, iVoox B; iTunes A y iTunes B], titulado “Ep430: Noctalgia; Consciencia Artificial», 14 sep 2023. «La tertulia semanal en la que repasamos las últimas noticias de la actualidad científica. En el episodio de hoy: Cara A: Noctalgia: La melancolía de perder el cielo nocturno (min 5:00); Consciencia en inteligencia artificial (45:00). Cara B: Consciencia en inteligencia artificial (min 1:00); Señales de los oyentes (02:10:00). Imagen de portada realizada por Héctor con Midjourney. Todos los comentarios vertidos durante la tertulia representan únicamente la opinión de quien los hace… y a veces ni eso».
¿Quieres patrocinar nuestro podcast como mecenas? «Coffee Break: Señal y Ruido es la tertulia semanal en la que nos leemos los papers para que usted no tenga que hacerlo. Sírvete un café y acompáñanos en nuestra tertulia». Si quieres ser mecenas de nuestro podcast, puedes invitarnos a un café al mes, un desayuno con café y tostada al mes, o a un almuerzo completo, con su primer plato, segundo plato, café y postre… todo sano, eso sí. Si quieres ser mecenas de nuestro podcast visita nuestro Patreon (https://www.patreon.com/user?u=93496937); ya sois 87, muchas gracias a todas las personas que nos apoyan. Recuerda, el mecenazgo nos permitirá hacer locuras cientófilas. Si disfrutas de nuestro podcast y te apetece contribuir… ¡Muchísimas gracias!
Descargar el episodio 430 A.
Descargar el episodio 430 B.
Como muestra el vídeo participamos por videoconferencia Héctor Socas Navarro @HSocasNavarro (@pCoffeeBreak), Sara Robisco Cavite @SaraRC83, Ángel López-Sánchez @El_Lobo_Rayado, Alberto Aparici @CienciaBrujula, y Francis Villatoro @eMuleNews. En la cara B, Gastón Giribet @GastonGiribet se incorpora a la tertulia para hablar de la consciencia.
Tras la presentación de Héctor, anunciamos charlas y actividades que vamos a dar, y anuncio que impartiré una charla en Sevilla el miércoles 27 de septiembre sobre las ideas visionarias de Nikola Tesla en la actualidad. «Presente: Tesla en la actualidad» se impartirá en el CaixaForum Sevilla a las 19:00 horas. Más información y entradas en la web. Ángel y yo realizamos una serie de comentarios breves sobre Naukas Bilbao 2023. Puedes disfrutar de todas las charlas en vídeo; el programa con los enlaces a los vídeos lo tienes en mi pieza en este blog. Además, si quieres disfrutar de mi charla sobre LK-99, he publicado una transcripción ampliada con comentarios.
Nos comenta Ángel que se ha acuñado el término noctalgia para describir la nostalgia por la pérdida progresiva del cielo nocturno. Noctalgia significa «dolor por el cielo». La contaminación lumínica está empeorando y borrando muchas estrellas del cielo en cada vez más lugares. Lo pero para los astrónomos es que la contaminación lumínica está afectando a la mayoría de los grandes observatorios; ya solo en los desiertos, zonas salvajes y océanos más remotos se puede encontrar un cielo tan oscuro como lo disfrutaron nuestros antepasados. Otro problema son las megaconstelaciones de satélites de comunicaciones, como el sistema Starlink de SpaceX. Más información en Aparna Venkatesan, John C. Barentine, «Noctalgia (sky grief): Our Brightening Night Skies and Loss of Environment for Astronomy and Sky Traditions,» arXiv:2308.14685 [physics.soc-ph] (28 Aug 2023), doi: https://doi.org/10.48550/arXiv.2308.14685; una noticia al respecto en Paul Sutter, «The loss of dark skies is so painful, astronomers coined a new term for it,» Space.com, 18 Sep 2023. Ángel menciona el especial de la revista Science sobre contaminación lumínica, «Light polution,» Special Issue, Science 6650 (16 Jun 2023), web: https://www.science.org/toc/science/380/6650.
Ángel nos comenta varias iniciativas para fomentar las medidas de mitigación de la contaminación lumínica; en concreto, una en el pueblo Añora del Valle de los Pedroches, de la Sierra Norte de Córdoba. Insiste en que la contaminación lumínica se puede reducir sin afectar a la visibilidad nocturna de las personas; con un diseño inteligente de las luminarias (que no es muy costoso) se logra minimizar mucho el efecto. En el pueblo Añora, se ha realizado un estudio de apagado selectivo de luz para observar su impacto sobre la astronomía y sobre la iluminación en el pueblo. Los resultados se han publicado en Jaime Zamorano, Salvador Bará, …, Antonio Luis Caballero, «Controlling the artificial radiance of the night sky: The Añora urban laboratory,» Journal of Quantitative Spectroscopy and Radiative Transfer 296: 108454 (12 Dec 2022), doi: https://doi.org/10.1016/j.jqsrt.2022.108454. Sara aprovecha para anunciar en Totanés una observación astronómica con maridaje gastronómico el próximo 27 de septiembre; Héctor comenta una inicitaiva similar. Sin lugar a dudas las actividades de GAstronomía, que combinan Gastronomía y Astronomía, son muy recomendables.
Ángel también nos cuenta que Starlink intenta hacer sus satélites más oscuros (Musk lo anunció en X, antes llamado Twitter). Se ha publicado un informe técnico de SpaceX con las medidas que van a tomar para mitigar el brillo de sus satélites de comunicaciones Starlink. La idea es que sus satélites sean invisibles a simple vista cuando están a su altitud operativa estándar. El brillo de un satélite depende de la dispersión de la luz solar en sus superficies del satélite y su reflejo de vuelta a la Tierra. La luz reflejada de forma especular tiene poco impacto, sin embargo, la luz reflejada de forma difusa es visible desde más direcciones. SpaceX ha invertido en medida para mitigar la dispersión del «chasis» del satélite y la de los paneles solares. La reflectividad se mide con la distribución bidireccional de reflectancia (BRDF).
Los satélites de primera generación tenían «viseras solares» que bloqueaban la luz solar; pero a altitudes bajas inducen una mayor resistencia aerodinámica y un mayor gasto de combustible. Luego se usó una película dieléctrica transparentes a las radiofrecuencias a modo de espejo. En los satélites de segunda generación, que son más grandes y tienen mayor capacidad de comunicación, se usó una película de segunda generación, que reduce el brillo diez veces más. La figura muestra la BRDF de estas películas. Para los paneles solares también hay que usar un pigmento opaco para la parte trasera de la células solares. Además, se usa una maniobra llamada «seguimiento del terminador» que minimiza el brillo cuando se ve desde el suelo, aunque reduce en un 25 % la potencia del satélite. También se usa una pintura «negra de baja reflectividad» basada en nanotubos de carbono. SpaceX parece haber dedicado un gran esfuerzo en mitigar el brillo de sus satélites vistos desde el suelo. Por supuesto, siguen trabajando en intentar hacerlo aún mejor. El informe técnico es «Brightness mitigation best practices for satellite operators,» SpaceX, 2023 [PDF].
Héctor destaca que el mayor problema es la interferencia de radio; estos satélites de comunicaciones tienen que emitir en radio, sí o sí, por su funcionamiento. Pero dicha emisión es una radiointerferencia que limita muchas observaciones en Astronomía; con estos satélites quedarán muy pocas regiones radiosilenciosas (cada vez es más difícil encontrarlas incluso en los grandes desiertos de Australia).
Nos comenta Alberto un informe de 19 informáticos, neurocientíficos y filósofos publicado en arXiv sobre la posible consciencia de las inteligencias artificiales (como ChatGPT). La novedad del informe es que se basa en las teorías actuales sobre la consciencia (la mayoría de carácter filosófico más que científico). El informe argumenta a favor de dicha posibilidad; aunque el rigor de sus argumentos es pobre. Se consideran las teorías del procesamiento recurrente, del espacio de trabajo global, de orden superior, del procesamiento predictivo y del esquema de atención; pero no se incluyen otras teorías, como la de la información integrada de Giulio Tononi (2004). El informe propone 14 criterios para que una IA sea consciente. Ninguna de las IA actuales es consciente (cumple los 14 criterios), pero no existen barreras técnicas obvias para que en un futuro cercano no logren satisfacer las propiedades que exigen estas teorías.
Los autores proponen 14 indicadores de posible consciencia basados en seis teorías de la consciencia compatibles con el paradigma del «funcionalismo computacional». Hay otras teorías de la consciencia que no cumplen con esta propiedad. La idea es que una inteligencia artificial que cumple con algunos de estos criterios, pero no con todos, debería tener cierto grado de consciencia. Héctor saca a colación la necesidad del neocortex para la consciencia, ya que muchos animales solo tienen mesocortex. Y la tertulia acaba desviándose del informe y nos lleva más allá.
Alberto retorna al hilo del informe, contándonos una de las teorías llamada del «espacio de trabajo global» (GWT). Toda la información sensorial se representa de forma sintética o resumida en un espacio de trabajo. Otros sistemas cognitivos, de evaluación y de atención, acceden a este espacio global. Este espacio sirve para generar las respuestas motoras a la información sensorial. Esta teoría GWT nos ofrece 4 criterios de consciencia: GWT-1, que se pueda procesar en paralelo; GWT-2, que tenga un espacio restringido, que requiera mecanismos de simplificación o abstracción de la información almacenada; GWT-3, se requiere un mecanismo de difusión (broadcast) de la información a todos los sistemas; y GWT-4, que el estado dependa de la atención (Alberto pone el ejemplo de si se produce un fuego, se dejará todo para salvaguardar la propia vida).
Otra teoría es la llamada del «procesamiento recurrente» (RPT), que está basada en la neurociencia de la visión. Nos la explica Alberto, destacando que la atención es clave para la experiencia consciente. El criterio RPT-1 exige que haya módulos con bucles realimentados o recurrentes; y el criterio RPT-2 es que estos bucles centran su atención en la información relevante o integradora. Finaliza Ángel su presencia en la tertulia de forma excelente, reclamando que las ciencias y las ingenierías tenemos que recurrir a las humanidades y a las ciencias sociales; su contribución es clave en estas cuestiones de gran interés tecnológico. Sara comenta que el objetivo de las herramientas inteligentes es sustituir a muchos trabajadores (sobre todo de niveles bajos). Yo comento que también permiten incrementar la productividad de cada trabajador, cuya producción puede ser equivalente a un buen número de trabajadores, que tendrán que recurrir a otros trabajos (que aún no existen en la actualidad).
Este vídeo presenta un resumen del informe de la mano de sus autores. El informe es Patrick Butlin, Robert Long, …, Rufin VanRullen, «Consciousness in Artificial Intelligence: Insights from the Science of Consciousness,» arXiv:2308.08708 [cs.AI] (17 Aug 2023), doi: https://doi.org/10.48550/arXiv.2308.08708. Muchos medios se han hecho eco de este informe, como Elizabeth Finkel, «If AI becomes conscious, how will we know? Scientists and philosophers are proposing a checklist based on theories of human consciousness,» News, Science, 22 Aug 2023; Mariana Lenharo, «If AI becomes conscious: here’s how researchers will know. A checklist derived from six neuroscience-based theories of consciousness could aid in the assessment,» News, Nature, 22 Aug 2023.
Tras más de tres horas de programa, relegando otros dos temas a la semana próxima (premios Ig Nobel y tensión S8), pasamos a Señales de los Oyentes. «¿Funcionaría pintar de franjas de colores aspas de aerogeneradores y hacerles agujeros que hagan suaves sonidos que avisen de su presencia a aves y quirópteros?» Sara contesta que no, que se trata de que sean silenciosos y poco «contaminantes» a nivel sonoro. Los aerogeneradores más antiguos suenan, pero los más modernos no lo hacen (su diseño silencioso es un requisito). Quizás se podrían usar ultrasonidos; pero no se sabe cuál es el diseño más adecuado para evitar que se acerquen sin que les afecte de forma perniciosa.
pregunta: «¿Es nuestro cerebro un conjunto de diferentes tipos de redes neuronales?» Sí, como contesta Sara, tenemos neuronas de diferentes morfologías y redes de neuronas diferenciadas en circuitos neuronales diferentes (en las diferentes regiones del encéfalo que los neurocientíficos denominan de forma específica). De hecho, incluso se pueden llegar a diferenciar con un microscopio óptico (ya Cajal lo hacía).
pregunta: «¿De todos los criterios, cual sería en vuestra opinión el más lejano-difícil de conseguir por las IAs?» Comento que todos, pues los términos que se usan para describirlos no tienen una definición precisa y unívoca; pero Héctor opina todo lo contrario, todos se pueden cumplir fácilmente. Recalco que la clave es la definición; términos como «agencia» tienen la ambigüedad suficiente como para que sea casi imposible cumplirla, aunque Héctor entiende que cualquier «agente» tiene «agencia» y que hasta una cafetera tiene «agencia» (opinión con la estoy en radical desacuerdo). Gastón reafirma mi comentario y comenta que el debate sobre el problema de las definiciones es habitual en filosofía, donde primero hay que ponerse de acuerdo con las definiciones, algo que puede costar décadas de investigación filosófica; solo entonces se puede estudiar si un sistema inteligente concreto cumple o incumple los criterios. Héctor menciona una entrevista a Sagan… ¿usted cree en Dios? responde Define Dios… hace una pausa… se toma café, cruza piernas… y silencio en la sala. Muy bien escenificado…
¡Qué disfrutes del podcast!
La pregunta a Carl Sagan sobre la existencia de Dios
https://www.youtube.com/watch?v=Er45JYm0uwI
A lo mejor puede existir una ia consciente (consciente humana), pero desde luego no será chat gpt ni ninguna actualización clásica suya. En su hardware subyacente con la TPU lo que nosotros vemos como un modelo de lenguaje que maneja palabras en realidad son matemáticas, tensores y lenguaje de máquina.
Algo muy diferente a lo que tenemos nosotros en la cabeza, si tenemos en cuenta que la realidad física es cuántica.
No parece probable que los procesos cerebrales sean cuánticos (aunque haya gente que así lo piensa), parecen procesos macroscópicos.
También lo que nosotros entendemos como «palabras» son realmente impulsos neuronales siendo disparados, que son procesos que podemos modelar con matemáticas.
La cuestión es más sutil que decir que son «meramente matemáticas» o cosas así.
Lo que mas me llama la atencion es que los usuarios soslayan que Bard , Bing y similares no aprenden.
Les señalas errores gruesos, te dicen que lo sienten, y no corrigen sus resultados.
No estan al borde de adquirir conciencia, en realidad ni siquiera son capaces de ser inteligentes.
Alejol9, nadie dice que sean inteligentes. Tienen «inteligencia artificial» pues son resultado del estado del arte en inteligencia artificial; pero ningún experto en inteligencia artificial confunde «inteligencia» con «inteligencia artificial» (salvo quizás cuando divulga usando metáforas para engañar a los legos).
Quiero decir, a los sistemas de IA generativa les falta la capacidad de aprender de sus interacciones, que es lo que diferencia un sistema de control de lazo abierto de otro de lazo cerrado. Son mas como un grifo que como un calefon.
Alejol9, los chateadores aprenden de todas las conversaciones durante la conversación, pero no más allá porque en otro caso podrían desaprender. Aunque se sabe que cierto número de conversaciones se almacenan para su análisis posterior y para usarlas (adecuadamente filtradas) en futuros aprendizajes.
Pedro, la física cuántica se irrelevante en neurociencia y en el problema de la consciencia. Mientras nadie demuestre lo contrario, la física cuántica es innecesaria (y quien la mete de forma explícita es porque quiere vender libros aprovechando los movimientos pseudocientíficos que usan la palabra «cuántica» sin saber lo que significa).
Entiendo Francis que te refieres a Penrose y estoy deacuerdo, pero hablaba de computación cuántica y redes neuronales, no de la reducción objetiva orquestada. Computación cuántica y redes neuronales siguen avanzando en paralelo, nada impide unirlas más que el hecho de no saber como hacerlo todavía.
Pedro, las redes de neuronas artificiales cuánticas ya se publicaron hace años y mucha gente trabaja en ellas. No se ha demostrado que tengan ninguna ventaja cuántica (pero quizás algún día se demuestre). Por ahora, la versión cuántica es solo otra forma de aprovechar que la computación cuántica está de moda. No he hablado de ello en este blog porque no aportan nada nuevo.
Hola, muy buen programa e interesante.
Si en la definición de consciencia se incluyese el requisito de que solo un ser vivo puede tenerla (que es lo que yo opino) ya no habría más discusión, si una IA puede tenerla o no.
Otra cosa sería si esta bien imitada o no por la IA.
Empezaré por algo que dijo Villatoro. Este informe es un sarao de la Humanity Institute en la Universidad de Oxford, cuyo director fundador es el transhumanista y singularista Nick Bostrom. El funcionalismo computacional es la base teórica de todas sus propuestas (desde la tranferencia de la consciencia y la identidad personal a una máquina, hasta la hipótesis del universo como simulación). Yoshua Bengio, el principal informático de los firmantes, también lo propone como un credo. Robert Long y Patrick Butlin, filósofos, se lo toman como una hipótesis de trabajo y el último afirma explícitamente en el vídeo que, si no se asume el funcionalismo computacional, este trabajo sobre la posible consciencia de las IA no tiene sentido. A pesar de la crítica que hace Villatoro al optimismo de este grupo, termina el coloquio afirmando que gracias al trabajo de miles de especialistas, la consciencia en máquinas se acabará consiguiendo. Yo estoy de acuerdo con lo que dice Butlin, pero como no asumo el funcionalismo computacional, creo que el informe no tiene sentido y no acabará ocurriendo. Como señala Aparici al principio, esto no es un libro blanco de la comunidad de especialistas. Es un trabajo con una orientación muy concreta de un grupo muy concreto. Aunque suene a argumento de autoridad, añado que los nombres más sonados en el estudio de la consciencia (de Anil Seth a Peter Godfrey-Smith) no están de acuerdo con el funcionalismo computacional.
De metafísica. Si no estamos hablando del corporeísmo del materialismo antiguo o el decimonónico, es mejor hablar de fisicalismo. Y la física del siglo XX es mucho más pitagórica que otra cosa. Pero incluso asumiendo ese materialismo que todos los contertulios del programa defienden, el eliminativismo o el ilusionismo serían mucho más coherentes con un reduccionismo fisicalista que el funcionalismo computacional. Sus críticos eliminativistas acusan al funcionalismo de dualista. En tanto que independiza la función del substrato que la realiza, la crítica tiene sentido. El funcionalismo tiene sus virtudes, especialmente el argumento de la realización múltiple, pero múltiple no es lo mismo que arbitraria (en cualquier substrato). La consciencia es una funcion biológica. La simulación de una vaca no da leche y la simulación de la consciencia no es consciente. Socas acusa de místico a Searle por defender que la consciencia es una propiedad que depende de características desconocidas de los cerebros. Es una acusación injusta y no es la primera vez que la hace. Asumir la presencia de factores desconocidos no es mística. Por esa regla de tres, también el funcionalismo computacional es mística. Tampoco sabe cómo se produce la consciencia. El computacionalismo es incluso más difícil de defender y en realidad solo obedece a la querencia de los informáticos. Como dice Bengio en el vídeo, la física es computación y tu cerebro también es física (confundiendo la disciplina con su objeto, por un lado, y afirmando su fe en el reduccionismo fisicalista, por otro).
Esto, por cierto, me lleva a criticar el uso del término emergencia que defendéis en el programa. Dice Giribet que «la consciencia es una expresión emergente, pero en el fondo todo se reduce a los mismos constituyentes de la materia y sus leyes fundamentales, fueran estas cuales fueren. La revolución francesa se explica a partir de condiciones iniciales y la ecuación de Schrödinger». No. Si algo se explica a partir de las condiciones iniciales y la ecuación de Schrödinger, no es emergente. Es emergente precisamente cuando tiene poder causal y no se explica, ni se deduce, ni está implicado, ni se predice desde las condiciones iniciales y la ecuación de Schrödinger. La consciencia (y tantas otras propiedades naturales) es emergente. Algo es real por lo que puede hacer como un todo, no por lo que pueden hacer las partes de las que está compuesto. Los átomos del cerebro son físicos. El cerebro es un órgano de un organismo biológico. La mente humana no es física, no es biológica, es social. Pero es tan real y tan natural como las neuronas o los átomos del cerebro.
Puntualizaciones.
A Socas. La consciencia no es un grado. Estás consciente o inconsciente. Es como una transición de fase. Estar borracho, mareado, somnoliento, son formas de estar consciente. Dormido, depende. Si estás soñando, consciente.
A Aparici. Sobre la definición representacionalista de consciencia conviene aclarar que una imagen mental no es necesariamente visual. Sagan no pudo haber leído a Sócrates. Probablemente leyó a Platón.
A Villatoro. Los bebes son conscientes. Lo que no son es autoconscientes (efectivamente emerge de la interaccion social). Todos los animales con sistema nervioso son conscientes. A pesar de lo que dijeron Villatoro y López-Sanchez, la consciencia solo es racional en los seres humanos (y cuando aprenden a hablar). Puede haber consciencia sin emociones. Lo que no puede haber es emociones sin consciencia. Si no se siente, no es un sentimiento. Los replicantes de Blade Runner no son inteligencias artificiales. Son organismos biologicos. La corporeidad es clave en el origen de la consciencia, tanto a nivel evolutivo como individual. En esto coincido con Merleau-Ponty. El externalismo de la mente también fue lo que llevó a Putnam a abandonar el funcionalismo computacional.
A Giribet. Completamente de acuerdo. Si no están bien definidos los términos, las discusiones son sobre la definición.
Sobre la crítica a lo que comenta Giribet (que efectivamente uno a veces no sabe si de verdad es determinista laplaciano o es solo una exageración, una broma), tienes que percatarte en la forma de pensar del físico del siglo XXI; la causalidad no solamente no es una propiedad fundamental, es que no tiene ni pies ni cabeza. En relatividad general la causa de un efecto varía según el observador (de forma muy dramática, estamos hablando incluso de ver distintas partículas causando tal efecto) y ninguno de los dos estará equivocado; el tiempo hasta donde sabemos es simétrico, y en mecánica cuántica la causalidad no existe en absoluto, el motivo por el que apareció o no tal partícula, o se desintegró en a o b, no es por una causa, si no que obedece a coherencias, simetrías y conservaciones con el entorno circundante.
Dicho esto, una propiedad emergente, como puede ser el que en el espectáculo de luciérnagas en Japón acaben todas sincronizadas, se describe y explica sin necesidad de hablar de los átomos de las luciérnagas y es cierto que en base a observar los átomos no vas a predecir la sincronización, pero para que haya tal sincronización, se tienen que iluminar las luciérnagas, y de nuevo el que una luciérnaga se ilumine lleva una explicación, para la cual se tiene que dar tales procesos biológicos, que de nuevo puedes explicar hasta llegar a descripciones físicas y de ahí a la ecuación de Schrodinger…simplemente a Giribert le gusta verlo al revés, creo que para exagerar y dar énfasis en que en el fondo simpre vas a llegar a la física. Y creo que por materialista se refieren a eso, que no va a haber variables ocultas, es decir, que cuando se llegue a la teoría de la consciencia, pues será completa.
«el tiempo hasta donde sabemos es simétrico, y en mecánica cuántica la causalidad no existe en absoluto»
No estoy de acuerdo. El tiempo solo es simétrico en las ecuaciones. La medida introduce asimetría temporal en los fundamentos de la teoría cuántica que, no olvidemos, es una teoría sobre la observación de fenómenos.
«creo que por materialista se refieren a eso, que no va a haber variables ocultas, es decir, que cuando se llegue a la teoría de la consciencia, pues será completa.»
Es muy habitual, pero me parece un error confundir naturalismo con materialismo. El naturalismo puede asumir un pluralismo ontológico plenamente inmanentista, sin caer en las simplezas del monismo corporeísta (que es lo se entendía por materialismo hasta el siglo XIX). Por otro lado, una teoría de variables ocultas también puede ser plenamente naturalista. Una variable puede estar oculta sin ser sobrenatural.
Esto me recuerda algo que dijo Villatoro en el episodio 396 sobre interpretaciones de la cuántica: «Es la medida lo que introduce localidad (relatividad) y causalidad (irreversibilidad) en la mecánica cuántica.» Y en los comentarios yo añadí «En otras palabras, introduce el mundo».
Masgüel, la evolución unitaria es reversible, pero la medida cuántica es irreversible; todo sistema cuántico está abierto, existe un entorno que lo mide de forma continuada (fenómeno denominado decoherencia cuántica).
Así lo había entendido, hasta el poco nivel que alcanzo. Y eso supone, contra lo que a veces dice Giribet, que el futuro está abierto, de cada sistema cuántico y del Universo en su conjunto, porque tampoco existe una función de onda del Universo que determine unitariamente su evolución. Y que, de todas formas, la función de onda solo es un instrumento de cálculo. Por eso le decía a Mascarós que el tiempo solo es simétrico en la pizarra.
Masgüel, la existencia de una función de onda que describa el universo en su conjunto es una cuestión abierta; no sabemos si existe (la mayoría de los expertos en gravitación cuántica opina que debe existir). Necesitamos una futura teoría de la gravitación cuántica para aclarar esta cuestión (porque el universo en su conjunto es un sistema cerrado y, por tanto, su evolución debe ser unitaria, sin sufrir decoherencia).
No me alcanza la memoria para recordad el contexto y el episodio concreto pero, ¿no fuiste tú quien dijo en un episodio de Coffee Break que una función de onda del Universo en su conjunto no tenía sentido porque porque la función de onda de cualquier sistema cuántico siempre depende de los observables seleccionados?.
Masgüel, el concepto de función de onda del universo fue introducido por Wheeler y De Witt en su famosa ecuación (que pretendía sustituir a la ecuación de Schrödinger). La función de onda de Wheeler-DeWitt no tiene nada que ver con la función de onda de Schrödinger. No sé lo que dije, pero si dije que la función de onda no tenía sentido era porque se estaba hablando de la función de onda de Schrödinger. Por otro lado, la función de onda de Schödinger depende de la representación, que depende de los observables. La «función de onda» de Wheeler-DeWitt no depende de la representación, ni tampoco de los observables (que no existen).
Gracias. No tenía ni idea. Os he escuchado mencionar muchas veces la ecuación de Wheeler-DeWitt en el programa, pero no sabía que sus implicaciones como función de onda del universo eran distintas a la ecuación de Schrödinger. Gajes de diletante.
Masgüel, por alusiones, no sabemos si los bebes son conscientes. Tampoco sabemos si todos los animales con sistema nervioso son conscientes; de hecho, todos los animales tienen sistema nervioso (las neuronas aparecieron antes que los animales). ¿Conoces algún experimento que lo pruebe que son conscientes? Afirmar por afirmar es vacuo (incluso recurriendo a un argumento de autoridad de alguien famoso que también hace lo mismo).
No conozco ningún experimento que pruebe que un organismo es consciente. Ni siquiera el informe verbal en humanos lo puede probar. Es una cuestión de definición. Si entendemos la consciencia fenoménica como la capacidad de sentir algo (el entorno y el propio cuerpo, cada organismo a su manera), esa es la función del sistema nervioso, proporcionar la experiencia subjetiva que permite controlar los cambios en el medio de un organismo que se mueve de un sitio a otro (interior y exterior). Y un organismo no necesita ser autoconsciente para tener la experiencia subjetiva de sentir algo. Todos los animales sienten algo. No son automatismos inconscientes, incapaces de sentir. Los bebés también.
En otras palabras, la definición mínima de consciencia es la sintiencia. Y todos los animales la tienen.
Masgüel, todos los organismos vivos tienen «sintiencia» (salvo que por alguna razón decidas de forma arbitraria que hay dos tipos de «sintiencia», la animal y la de los demás organismos).
Masgüel, si asocias consciencia a «sensado del entorno» (lo que llamas capacidad de sentir), entonces todos los organismos vivos serían conscientes. Toda definición de vida debe incluir la interacción con el entorno. Una planta «sensa el entorno», ¿es consciente? Una bacteria «sensa el entorno», ¿es consciente? No es necesario un sistema nervioso para tener la capacidad de «sentir algo».
No. La sintiencia no es la capacidad de responder a un estímulo. Es la capacidad de tener una experiencia subjetiva al recibir un estímulo. Sentir no es reaccionar, es darse cuenta. Esa es la función del sistema nervioso (además de las funciones autónomas que, precisamente, no se sienten) y que diferencia a los animales de los tropismos de las plantas o la irritabilidad celular de las bacterias (que reaccionan, pero no sienten nada).
https://es.wikipedia.org/wiki/Sintiencia
Masgüel, ¿y cómo sabes que todos los animales tienen experiencias subjetivas al recibir un estímulo? No existe ningún experimento, ni ninguna observación que lo sugiera. Obviamente, si solo es una opinión, pues lo que dije, es solo tu opinión (o un argumento de autoridad según la fuente que elijas).
«¿y cómo sabes que todos los animales tienen experiencias subjetivas al recibir un estímulo?»
No lo sé y quizás no pueda saberse (en esto coincido con Socas). Solo tenemos indicios, comparando con nuestra propia experiencia. Por su conducta (si reaccionan al daño cuidando la herida, por ejemplo), por su anatomía (sistema nervioso) y por su historia evolutiva (las funciones que realiza su fisiología). A veces tener opiniones es lo máximo a lo que podemos aspirar.
Aunque no suelo comentar nada de lo que dice el doctor Villatoro (no tengo nivel), aunque lo leo todo, el tema de la consciencia es apasionante y hace mucho que pienso el en tema.
A pesar de todo lo que dice «Masgüel» a mí me gusta que alguien me explique algo con una idea fácil de interpretar, que es lo más difícil.
Para que una IA sea consciente o autoconsciente para algunos (no dudo que llegará algún día) debe pensar en sí misma, como individuo y en ese momento aparece algo que lo define: el miedo, miedo a dejar de existir, a no saber qué le pasará más tarde. Ésa es, para mí, una prueba de consciencia. Y no creo que el proceso deba ser biológico obligatoriamente (no sé por qué no deberíamos alcanzar, algún día, la simulación computacional de lo que hacen nuestras neuronas).
Dicho desde la ignorancia y el sentimiento. Muy poco científico, lo sé.
Luis, los chateadores como ChatGPT han tenido que ser entrenados con conjuntos de datos podados para evitar que afirmen que tienen miedo a dejar de existir tras ser desconectados; lo natural de un modelo de lenguaje es que imite el lenguaje humano, cuya literatura siempre incluye diferentes formas del miedo a la muerte. Nunca debe ser considerado como ejemplo de autoconsciencia (pues es trivial de imitiar). Por ello, en mi opinión, no tiene ningún sentido considerar que una máquina con exprese dicha inquietud lingüística tenga consciencia (como tampoco lo es que un humano lo haga).
Coincido con esto.
Me gustaria alguna investigacion sociologica sobre las percepciones de usuarios de estas IAs.
Sobre el paper de la consciencia que se ha debatido, creo que es importante el ir dando proposiciones sencillas como hace, pero en el momento en que Francis a explicado que no es lo mismo «agente» que «agente qué» como ejemplo de cómo de fino se va hilando, éstas, me ha quedado la intuición de que se está cayendo en la trampa de proponer una especie de teatro cartesiano para la IA, lo cual no puede funcionar nunca.
Sí, cierto, pero no quería decir que la IA imitará el tener miedo, quería decir que lo sintiera, pero como «efecto secundario» de ser consciente, de entender que es un individuo que piensa, y si piensa siente.
Cómo averiguar si lo siente o solamente está programado para decir que siente miedo, para simularlo, es, ciertamente, un problema no trivial, a resolver.
Por otro lado, se me olvidó comentar algo que he leído a varios comentaristas, es que la consciencia solo se puede dar en seres biológicos… no entiendo cómo pueden hacer esa afirmación, sin meter a un dios creador en la ecuación o algo por el estilo. Siento mucho que haya gente que haga afirmaciones de ese calibre sin dar alguna indicación del porqué de dicha afirmación.
Gracias por su tiempo y dedicación, Dr. Villatoro
«que la consciencia solo se puede dar en seres biológicos… no entiendo cómo pueden hacer esa afirmación, sin meter a un dios creador en la ecuación o algo por el estilo.»
Estoy de acuerdo. No lo entiendes. Confundes el culo con las témporas.
Masgüel, me gusta leer tus comentarios por que no entiendo ni la mitad de lo que dices y creo que si lo intento sere un poco más culto o inteligente.
Me gustaría, para saber tu opinión, que fueras directo y conciso, a poder ser con un si o un no a la siguiente pregunta.
¿Tú crees que solo un ser vivo puede tener consciencia?
Eso es lo que yo creo y me parece una barbaridad que alguien crea lo contrario.
«¿Tú crees que solo un ser vivo puede tener consciencia?»
Si. Ya lo he dicho. Creo que la consciencia es una función biológica. Y no de cualquier ser vivo. De los animales. Pero no puedo saberlo.
«me parece una barbaridad que alguien crea lo contrario.»
A mí no. Villatoro no es un bárbaro (sabe mucho más que yo) y cree que haremos máquinas conscientes. Pero para eso hay que asumir el funcionalismo computacional (que las funciones de la consciencia se reducen a computación y que podrá implementarse en cualquier substrato capaz de realizarla).
Francis no es un bárbaro claro que no lo es, aunque no se por que, pero cuando dice que algún día se conseguirá me parece que va más allá, es decir que sabe que la ciencia es imparable y encontrará la forma de lograrlo aunque tengan que mezclar la biología con la computación para resolver ese problema, no se, eso solo Francis podría aclararlo.
Gracias.
Saludos.Recuerdo un programa de Redes que llevaba Eduardo Punset en el que se discutía sobre el tema »el cerebro nos engaña».Cuando decimos que el cerebro ‘nos engaña’ cabría preguntar:¿Quién o ‘qué’ afirma »mi cerebro a veces me engaña »? ¿Es el cerebro quien elobora esa afirmación?¿Una instancia final que se hace eco de la elaboración de instancias subalternas y ‘chequea’ su labor? ¿Puede llamarse a esa ‘instancia final’ chequeadora crítica de fallos o ‘engaños de mi cerebro Consciencia?
Alberto, la entrevista de Punset a Stephen Rose fue al hilo de su libro con Dai Rees, «The New Brain Sciences: Perils and Prospects» (2004). Quizás te interese para profundizar. Tus preguntas no tienen sentido al hilo de dicho libro, ni de la entrevista. Cuidado con usar el titular de una entrevista para imaginar el contenido de dicha entrevista.