¿Estás en Málaga el miércoles 25 de octubre? No te pierdas a las 12:30 horas mi conferencia «Hacia la consciencia artificial» en el Salón de Actos del Rectorado (Paseo del Parque) de la Universidad de Málaga. Organizada por ASPROJUMA (Asociación de Profesores Jubilados de la Universidad de Málaga) se conmemora el Día del Profesor Jubilado. La entrada es pública y libre hasta completar el aforo del salón de actos (no se requiere invitación).
Los conversadores como ChatGPT o el chat de Bing son la nueva moda en inteligencia artificial. Su enorme e inesperado éxito plantea muchas cuestiones. ¿Qué grado de inteligencia tienen? ¿Qué grado de consciencia tienen? ¿Estamos más cerca de que una inteligencia artificial alcance la inteligencia humana? ¿Realmente necesitamos que los agentes artificiales sean conscientes? Como es obvio, ignoramos las respuestas a estas preguntas. Lo que no quita que sean cuestiones de actualidad en el campo de la inteligencia artificial. Los grandes modelos lingüísticos basados en transformadores generativos preentrenados (GPT) serán el leitmotiv de mi conferencia sobre el camino hacia la consciencia artificial. Mi idea es provocar la reflexión sobre estos temas en base a lo que hemos descubierto en los últimos veinte años.
Mi charla se basará en mis múltiples lecturas, aunque quiero destacar a Masataka Watanabe, «From biological to artificial consciousness. Neuroscientific insights and progress,» Springer (2022), traducido por Tony Gonzalez del original en japonés de 2017; y a Stephen Wolfram, «What Is ChatGPT Doing … and Why Does It Work?», Wolfram Research (2023).
El anuncio oficial del ciclo de conferencias, el anuncio de mi conferencia y la reserva de entradas. Modera la charla Mayte Pascual de la Cueva, periodista de informativos, estudiosa de Tesla, autora de varios reportajes sobre su biografía y especialista en nuevas tecnologías. Debo confesar que mi charla sustituye (solo en Sevilla) a «La contemporaneidad de Tesla» de Àlvar Sánchez, catedrático del Departamento de Física de la Universitat Autònoma de Barcelona.
Hola Francis.
Un tema apasionante y me gustaria que luego lo expusieses aqui.
Algo que note al usar ChatGPT, Bing y Bard, es que no rectifican ni aprenden de sus errores e inventan falsedades.
En el ambito de las letras o el arte estas IA generativas funcionan bien, pero para razonamiento les falta.
Me gustaria un enfoque de algun sociologo que analice que piensa la gente que las usa.
Saludos cordiales!
Alejol9, las llamadas «alucinaciones» son coyunturales a estos sistemas cuando no usan una conexión web. Los grandes modelos lingüísticos como GPT no tienen una memoria con información almacenada; solo memorizan asociaciones entre palabras (tokens o unidades léxicas) que les permiten construir trayectorias entre dichas palabras que acaban siendo frases y párrafos, hasta encontrar el token END. OpenAI y nadie afirma que sean enciclopedistas. Esperar que lo sean es de gran ingenuidad. Lo que no quita que en modo creativo sean muy útiles.
Por ejemplo, si le pides a ChatGPT que «recuerde» datos sobre la biografía de Felipe II de España, con seguridad se inventará algunos datos falsos. La razón es doble. Por un lado, porque ChatGPT produce una distribución de probabilidad para la siguiente palabra (token) que completa un texto y que (según su parámetro de temperatura, entre más preciso y más creativo) selecciona de forma aleatoria entre las palabas más probables; para muchos datos históricos solo hay una palabra correcta (y quizás sea la más probable para ChatGPT), pero está obligado a seleccionar de forma aleatoria una palabra entre las más probables, que siempre será incorrecta en dicho caso. Y, por otro lado, debes recordar que, casi con seguridad, la principal fuente de información sobre Felipe II de España es lo que está escrito en la wikipedia (en 93 idiomas); no creo que haya sido entrenado con ninguna biografía completa (aunque haya muchas escritas) de Felipe II de España.
Con ChatGPT+ con el plugin WebChatGPT, Bing Chat y Bard, que pueden acceder a la web para construir su respuesta, el funcionamiento es diferente. A partir del comando (prompt) construyen una búsqueda web, seleccionan las primeras páginas web de la búsqueda (el usuario puede seleccionar cuántas páginas web consultará). Con el contenido de dichas páginas web, combinado con su propia «memoria», construye la respuesta para el usuario; así logra cometer muchas menos alucinaciones (ninguna en el modo más preciso), pero recuerda que en modo creativo sigue seleccionando de forma aleatoria las palabras. Como resultado algunos de los datos de la respuesta única que ofrece pueden ser incorrectos (y depende mucho del contenido encontrado en las primeras páginas web de la búsqueda, que no siempre es fiable ni correcto).
Así que, Alejol9, si quieres información enciclopédica, no deberías usar ChatGPT. El conversador sirve para conversar, sirve como asistente personal artificial y, por tanto, comete los mismos errores que cometería cualquier asistente personal humano que tuviera que recordar la información que le pides.
Hola Francis, gracias por tu informacion.
Me queda claro que esta arquitectura, esta via, esta forma de IA de lo menos que tiene es razonamiento.
Me parece que es un desvio colosal de dinero y esfuerzo.
Saludos.
Confio más en mi mente con toda su merma por la flecha del tiempo que en estos artilugios.
Mi coqueteo con chat GPT fue esta primavera y actualmente desinstalado por fraude
Por qué fraude: porque en una Respuesta fue capaz de organizar la información para concluir «que es P»
Al cuestionarle, fue capaz de reorganizar la misma información para concluir «que es NP»
Me pareció que se había inventado o se estaba en camino de inventar por poner un simil, la bomba atómica de la ignorancia para un uso generalizado por un público inexperto, con parecidas consecuencias a poner en el mercado
un nuevo medicamento sin someter a las fases y controles de los ensayos clínicos previos.
Esta fue mi experiencia pero acabo de ver que a al momento de emitirlo ya Francis ha respondido con ciencia en mano.
¿Habrá streaming?, vídeo… algo dónde la podamos ver! 🙂
No, lo siento, Lino, este tipo de actividades académicas no se suelen retransmitir.
Sr.Francis…eres un crack! Generalmente asimilo como un cuarto o menos de todo lo que explicas,por mi bajo nivel de estudios,pero ese pequeño porcentaje me enriquece y te lo agradezco.
Con respecto a las ia’s,ni siquiera hay un algoritmo que pueda generar números aleatorios reales,solo parecen aleatorios para el usuario,pues difícil está que pueda generar su propia opinión sobre algo,tener sus propios criterios o inquietudes.Puede que con la computación cuántica se consiga esa incertidumbre que quizá se necesita para que las respuestas de la IA sean genuinas y no una selección de lo que mejor porcentaje de éxito tiene de una base de datos.
Jon, no entiendo tu comentario; ¿puede un humano generar un número aleatorio real? Quienes investigan en IA pretende imitar el comportamiento humano. Nadie investiga para que una IA genere números aleatorios (ese tema se estudia en Estadística Numérica). Por otro lado, ¿de verdad te interesan las opiniones, inquietudes y criterios propios de las IA? Quienes investigan en IA tienen por objetivo desarrollar asistentes (agentes inteligentes) que ayuden a los usuarios humanos a desarrollar sus propias opiniones, inquietudes y criterios propios.
Por otro lado, la computación cuántica nunca tendrá ninguna utilidad práctica en inteligencia artificial. No te confundas, hay infinidad de problemas cuánticos que queremos resolver y que requieren computadores cuánticos. Nadie malgastará los computadores cuánticos en problemas de inteligencia artificial en los que no pueden aportar nada relevante. Que no te confunda que ciertas instituciones mezclen ambos temas, en lugar de usar la palabra «avanzado» o similar, como Google Quantum AI. Nadie ha demostrado ninguna ventaja cuántica en el campo de la inteligencia artificial (y todo apunta a que, si algún día se demuestra, será irrelevante en las aplicaciones prácticas de la IA).
Bueno,mi razonamiento está limitado por mi ignorancia,así que no voy a exponerlo para que no pierdas tu valioso tiempo en hacerme ver dónde me equivoco, simplemente intentare aprender más.
Muchísimas gracias por compartir tu sabiduría de manera altruista.
Un saludo
Intuyo que las conclusiones serán que estamos todavía muy lejos de alcanzar la inteligencia humana y que el grado de inteligencia artificial o consciencia lograda hasta la fecha es mínimo, que no necesariamente nulo.
La inteligencia humana no sabemos si es la medida máxima y universal de inteligencia, entonces en el supuesto de lograr construir una inteligencia artificial igual a la humana nada impide crear algo mejor que la inteligencia humana, la inteligencia humana es imperfecta por tanto es una pérdida de tiempo reproducirla (salvo para buscar algo mejor)
Desde mi opinión, claro, saludos.
Ahora hay un puñado de expertos que han actualizado sus creencias de que todavía estábamos a un puñado de décadas de tener IAs avanzadas a menos de 20 años
Aunque hay muchos otros que se mantienen inmóviles en sus predicciones de al menos 20 años a varias décadas.
Ha sido (como prácticamente todo lo que haces) absolutamente espectacular. Siempre acudo a tu blog, podcasts y videos para aprender de cualquier tema. Me gusta también divulgar, pero antes, siempre te oigo a ti para saber un poco más de lo que sea.
Pero esta vez ya no era sólo ciencia. Era también conocer tus previsiones sobre lo impredecible. Y creo que no ha defraudado a nadie. La principal audiencia eran 50 o 60 (ex)profesores de la UMA, con infinita sabiduría y experiencia acumulada. Pero todos éramos niños con la boca abierta escuchándote. Sin duda, la mejor charla a la que he asistido en años.
Muchísimas gracias, Ipe.
Leo que otros han puesto a prueba estas IA y descubren sus fallos sistematicos.
Estaria bueno que esto sea mas comentado, porque los nedios generalistas no paran de inflar esta burbuja.
Creo que estamos lejos no ya de la consciencia, sino de una basica inteligencia.
Saludos.
Hola Francis,
Gracias por la información sobre la conferencia. ¿Estará publicada y disponible para quienes no hemos podido asistir? Ojalá que sí, me interesaría mucho leerla.
Saludos
Lo siento, Alejandro, pero no se grabó.
Una pena no haber podido asistir y que no se haya grabado la conferencia. Estaré atento para intentar acudir a la próxima ocasión.
Hola, Francis
Qué pena que no se grabara. ¿No te planteas grabar, ésta y otras que hayas dado, en modo vlog en YouTube, como hace últimamente Hector Socas en 18e6km? ¿O colgar la transcripción aquí en el Blog? Además de quedar para la posteridad, quizá acaben contribuyendo a los quinquenios o sexenios (las visitas y las citas al blog y a YouTube deberían ser una buena medida de impacto en los tiempos que corren)
Un saludo,
Daniel
Daniel, si saco tiempo, publico una transcripción.