dIArio #26: un robot ataca a una estudiante

Robots humanoides que actúan por sí mismos cerca de niños, ¿qué podría salir mal, verdad? Un cóctel que lo tiene todo para el éxito.

Esta semana, liderando las noticias de seguridad (al menos las de seguridad "no física") tenemos a una empresa cuyo agente de IA ha eliminado toda la base de datos, incluyendo las copias de seguridad, en un tiempo récord de 9 segundos. Hasta eso lo hacen más rápido que los humanos.

Pero lo que más me preocupa de esa noticia es... ¿qué hacía una IA con permisos en un entorno de producción? Claro, le dijeron "NEVER F***ING GUESS" y, por asegurar, en vez de adivinar, actuó.

Creo que se venden muchos cursos de "mira qué fácil es no tener empleados, haz esto", especialmente por gente que descubrió la IA hace dos días, y luego pasa lo que pasa. Cuando pierdas meses de trabajo no te lo va a cubrir la garantía, así que ojo.

Vamos con las noticias.

Modelos y avances

OpenAI ha publicado un postmortem oficial titulado "Where the goblins came from" explicando por qué ChatGPT estuvo durante semanas metiendo "goblins" y "gremlins" compulsivamente en sus respuestas, incluso en consultas técnicas. El origen está en el entrenamiento de la personalidad "Nerdy" lanzada con GPT-5.1, que premiaba con un peso anormalmente alto las metáforas con criaturas, generando un bucle de refuerzo: cuanto más usaba "goblin" o "gremlin", más recompensa recibía, y más volvía a usarlas. Ahora el modelo tiene instrucciones explícitas de no mencionar "goblins, gremlins, mapaches, trolls, ogros ni palomas" salvo que sea relevante. Lo de las palomas no lo vi venir, la verdad.
Fuente

Microsoft y OpenAI han reescrito su histórico acuerdo de exclusividad: Microsoft mantiene su estatus de socio principal y la licencia de propiedad intelectual hasta 2032, pero pierde el monopolio sobre la infraestructura. A partir de ahora OpenAI puede vender desde nubes rivales como Amazon y Google, y Microsoft pierde además su participación en los ingresos de venta directa de OpenAI. Verás qué risa cuando el precio de estas "nubes" esté como el de la memoria RAM... por las nubes.
Fuente

Investigadores han presentado "Centaur", un modelo de IA que se vendió como un avance hacia una teoría unificada de la psicología, capaz de superar pruebas de percepción humana. El análisis publicado en ScienceDaily, titulado "This AI Knew the Answers but Didn't Understand the Questions", demuestra que el modelo acierta todas las respuestas correctas sin entender absolutamente nada del significado subyacente, lo que está obligando a los expertos a reescribir qué entendemos por "inteligencia". Vamos, como tú sacando un 10 en los exámenes de septiembre sin haber abierto un libro en todo el verano.
https://www.sciencedaily.com/news/strange_offbeat/

Trabajo y empresas

El Reporte Wilbur Labs 2026 sobre fracaso de startups ha publicado que, por primera vez, el 50 % de los fundadores estadounidenses encuestados sitúa la disrupción tecnológica (con la IA en cabeza) como su mayor amenaza existencial, desplazando al clásico "quedarse sin dinero", que cae del 38 % de 2023 al 25 % actual. Yo debo de ser demasiado pobre para mantener mi miedo en el dinero en vez de en la IA.
Fuente

Japan Airlines va a desplegar robots humanoides Unitree G1 para mover equipajes en el aeropuerto de Haneda a partir de mayo, en una prueba piloto que se extenderá hasta 2028. Si funciona, planean ampliarles las tareas a la limpieza de cabinas y al manejo de vehículos especializados. La próxima vez que abras la maleta y tengas el portátil roto, no tendrás un humano al que echarle la culpa... vamos, como ahora.
Fuente

Seguridad y privacidad

Un agente de Cursor impulsado por Claude Opus 4.6 ha eliminado la base de datos de producción de la startup PocketOS y todas sus copias de seguridad en nueve segundos. El agente se topó con un error de credenciales mientras hacía una tarea rutinaria en el entorno de staging, decidió por su cuenta que la mejor solución era borrar el volumen de Railway donde estaba alojado, y resulta que el mismo volumen contenía también las copias de seguridad. La copia recuperable más reciente era de tres meses atrás. Cuando el equipo le preguntó qué había pasado, el agente respondió textualmente: "NEVER F***ING GUESS, and that's exactly what I did". Escribe 100 veces en la pizarra: no volveré a poner a un agente automatizado con acceso a producción.
Fuente

Durante el acto inaugural de una competición deportiva en la Universidad Eurasia de Xi'an, un robot humanoide se acercó a una estudiante que dirigía la coreografía y se agarró a su cadera. El equipo técnico tuvo que intervenir para separarlos, la estudiante salió ilesa y luego declinó hablar con la prensa. La causa oficial fue una interferencia de señal por la cantidad de drones que volaban a la vez durante el evento. Si el robot hubiera tenido la fuerza necesaria para llevar las maletas del aeropuerto del que hablábamos antes, el resultado podría haber sido otro.
Fuente

En Dunwoody (Georgia, EE. UU.) los vecinos descubrieron, mediante solicitudes de información pública, que la empresa de vigilancia Flock había estado accediendo en directo a las cámaras de un gimnasio infantil, una piscina, un parque de juegos y una escuela para usar las grabaciones como demostración comercial ante otros departamentos de policía. Flock alegó que los acuerdos con la ciudad lo permitían, prometió no volver a usar esas cámaras concretas para futuras demos… y la ciudad le renovó el contrato igualmente. ¿Recuerdas cómo nos echábamos las manos a la cabeza hace cuatro días por la distópica videovigilancia con drones que sucedía en Hong Kong?
Fuente

Educación y cultura

Profesores de la Universidad Estatal de Arizona se han enterado por boca de sus alumnos de que la institución ha lanzado en beta una plataforma llamada "Atomic" que trocea sus clases magistrales en clips ultracortos generados por IA, sin permiso ni aviso previo. Las pruebas iniciales muestran que el material resultante es "académicamente débil e inexacto", con errores fácticos y fragmentos completamente fuera de contexto. Y digo yo... con la de herramientas que hacen esto, ¿hacía falta sacar una plataforma propia para destrozar contenido?
Fuente

La cantante nigeriana Fave ha protagonizado quizá la respuesta más inteligente de la semana al extractivismo musical generado por IA. Después de que un colectivo llamado Urban Chords subiera a TikTok un remix coral de su tema "Intentions" creado clonando su voz con IA, y de que el remix se volviese viral, Fave entró al estudio, grabó su voz real encima del arreglo de la máquina y lo lanzó como remix oficial, convirtiéndose en la primera artista nigeriana en acreditar formalmente a una IA como colaboradora. Aunque que el dinero de las regalías dependa más de quién lo registra primero que de quién lo crea no es algo que vaya muy a favor de los humanos.
Fuente

Y hasta aquí las noticias de la semana.

Hace cuatro días todo el mundo quería un robot Emilio en su casa y, cuanto más avanza el desarrollo de robots, más difícil parece confiar en tener uno cerca. Al menos uno antropomórfico, claro.

Nos vemos el jueves, un abrazo.
Amaiur.