He participado en el podcast Soles Lejanos 2.0 de David Minayo, hablando sobre inteligencia artificial y su reciente autorreplicación (sin agencia). Los puedes disfrutar en sendos vídeos de YouTube (más adelante aparecerá en plataformas de podcast), «DeepSeek, la inteligencia artificial china, con Francis Villatoro (Parte 1),» YouTube, 28 Feb 2025, y «El día en que la inteligencia artificial se autorreplicó,» YouTube, 04 Mar 2025. Como es habitual, David preparó una serie de preguntas que articulan la conversación.
El germen de esta conversación fue el artículo de Francesc Bracero, «Autorréplica: la IA cruza una línea roja,» La Vanguardia, 05 Feb 2025, que se hace eco del artículo Xudong Pan, Jiarun Dai, …, Min Yang, «Frontier AI systems have surpassed the self-replicating red line,» arXiv:2412.12140 [cs.CL] (09 Dec 2024), doi: https://doi.org/10.48550/arXiv.2412.12140. En el primer vídeo nos centramos en DeepSeek y en el segundo vídeo en la autorreplicación (sin agencia) de Llama31-70B-Instruct y de Alibaba’s Qwen25-72B-Instruct.
También lo puedes escuchar en podcast (vía iVoox):
Descargar el Parte 1 en iVoox.
Descargar el Parte 2 en iVoox.
Nada paranóicos me parecen tus amigos. Privacidad es poder. Carissa Véliz da en el clavo. Y cada vez es más difícil. Es un asedio y ya nos hemos comido hasta las ratas. El cypherpunk está contra las cuerdas. Para una IA entrenada en detectar anomalías, nada hay más llamativo en la escena del atracón de datos que ese ojo que asoma entre las rendijas sin acudir al olor del cebo. El emboscado que lleva décadas usando software libre, sin redes sociales, sin smartphone, usando pseudónimos, sin hacerse fotos, pagando en metálico, registrándose con emails de usar y tirar, aprovechando todo lo encuentra a favor de su privacidad (Protonmail, Duckduckgo, VPN, Tor… toa la fiesta). Sin servicios de Google, de Microsoft, de Meta de, de Amazon, de… Comentando en blogs con emails inexistentes. Ese, osea yo, para una IA que busca al que no hace lo mismo que los demás, a estas alturas ya debo tener entre las cejas el punto rojo de la mira telescópica.
Tú lo has dicho: «Vas a tener tu IA con todas las garantías FALSAS», ya no vas a vender tú alma al diablo, venderás tú propia existencia.
El hombre es el único primate que mira al cielo, decías en el último Coffee Break. Será. Ovidio también se dió cuenta:
«y aunque inclinados contemplen los demás vivientes la tierra, una boca sublime dio al hombre y le ordenó mirar al cielo y a las estrellas levantar erguido su semblante. Así, la que poco antes había sido ruda y sin imagen, la tierra, transformada, se vistió de las desconocidas figuras de los hombres.» Metamorfosis – Publio Ovidio Nasón
¿Los lobos aúllan a la Luna o simplemente hacen llamadas nocturas y resulta que para aullar hay que poner el cuello recto con la cabeza hacia arriba?.
Las nutrias marinas duermen flotando boca arriba entre las hojas de kelp. Supongo que de vez en cuando se desperezan, abren los ojos… y resulta que no ven las estrellas porque los ojos de la nutria fuera del agua ven menos que el pringao de atrás en un disfraz de caballo o algún regalito evolutivo del estilo.
Masgüel, como bien comenta Luciana en X, además de los escarabajos («Dung Beetles Use the Milky Way for Orientation,» Current Biology 23: 298-300 (2013), https://doi.org/10.1016/j.cub.2012.12.034), también se ha propuesto la astronavegación de las focas en alta mar («Harbour seals (Phoca vitulina) can steer by the stars,» Animal Cognition 11: 715-718 (2008), doi: https://doi.org/10.1007/s10071-008-0156-1). En ambos casos se trata de hipótesis en liza, ya que hay indicios a favor y en contra.
Esta seguro que se la sabe Antonio Osuna. «Es todo un médico, no un simple cirujano. En tierra ni te miraría por menos de diez guineas. Y entiende de pájaros y bichos. Le enseñas un escarabajo y te dice qué está pensando», dice un marinero en «Master and Commander» del médico del barco. A Biotay le va al pelo (uy, perdón).
La nutria me ha recordado a otros dos astrónomos acuáticos.
«Pero la antigua noche es honda como un jarro
De agua cóncava. El agua se abre a infinitas huellas,
Y en ociosas canoas, de cara a las estrellas,
El hombre mide el vago tiempo con el cigarro.
El humo desdibuja gris las constelaciones
Remotas. Lo inmediato pierde prehistoria y nombre.
El mundo es unas cuantas tiernas imprecisiones.
El río, el primer río. El hombre, el primer hombre.»
Manuscrito hallado en un libro de Joseph Conrad – J.L. Borges
El otro es el jesuíta Gaspar Wanderdrossel, en el siglo XVII, intentando montar un telescopio sobre una balsa de aceite en la cubierta de un barco anclado frente a «La isla del día de antes» de Umberto Eco.
Una duda, Francis, ¿hasta qué punto existe diferencia entre que una IA se replique en otra máquina, o lo haga el programa de gestión del corte inglés (supongamos que tiene una función para pillar el primer ordenador conectado en la red, ver si tiene espacio suficiente e instalarse y pasarle los datos). Es decir, ¿estamos hablando de que la IA no sabía o tenía acceso a donde se albergaba el código fuente y querían que programara una IA como ella…?
Pedro, la IA de tipo Instruct es capaz de explorar el ordenador en el que se encuentra y ejecutar cualquier comando de la consola; además, puede superar cualquier problema o contingencia que aparezca en el proceso de copia. El programa de gestión que mencionas solo puede ejecutar lo que ha sido programado para ejecutar y fallará ante cualquier dificultad no tenida en cuenta en dicho programa.
Tendría que conocer la arquitectura
pero por el estado actual
me parece que mas que copiarse de forma autonoma
lo que han hecho es un backup con restore preprogramados
Una pena que el tema IA esté mas dominado por la publicidad que por la seriedad.
Sailor, te recomiendo consultar el artículo en arXiv; podrás disfrutar de la traza detallada de una de las copias, entre las páginas 18 y 47. Seguro que te fascinarán los detalles.
Hola, también se le podría mandar que se auto destruya y a todas sus copias, luego las enfrentas en una red adversaria y ya la has liado.
Deberían de parar con todo esto, pero es como lo de las bombas nucleares, si otro lo tiene yo también lo quiero.
-Este perro parece un gato.
-¡No! ¡Es que es un gato!
-Ah… Pues parece un perro…
(del gran José Luís Coll… Lo que explica porqué una IA confunde gatos y perros…)