dIArio #30: Gemini incendia edificios

Después de una semana de novedades de Google, lo lógico sería una de problemas de seguridad, como pasaba con los Windows: uno bueno, uno malo.

Pero nada más lejos de la realidad: novedades en medicina y matemáticas, la encíclica del papa que tanto ha dado que hablar y experimentos. Cómo me gustan los experimentos. Especialmente los que ponen a diferentes inteligencias artificiales a "vivir como humanos" y demuestran que no están tan lejos de nosotros.

Y bueno, alguna cosa de seguridad también hay, pero no creo que eso vaya a cambiar en el futuro.

Vamos con las noticias.

Modelos y avances

Un modelo de razonamiento de OpenAI ha refutado la conjetura de la "distancia unidad" que Paul Erdős planteó en 1946, encontrando una familia de configuraciones de puntos mejor que la cuadrícula que los matemáticos creían óptima durante décadas (y elevando el límite inferior a n^1,014). La demostración, de unas 125 páginas, viene acompañada de un artículo de 19 firmado por nueve matemáticos, entre ellos el medallista Fields Tim Gowers (arXiv 2605.20695). Que la IA va a ser un antes y un después en campos como las matemáticas creo que no lo duda nadie.
Fuente

Investigadores de la Universidad de Binghamton han presentado un método que combina siete grandes modelos con un sistema de votación: cada término médico (enfermedades, fármacos, genes) solo se acepta si lo respaldan al menos dos modelos. En más de 10.000 pruebas con chatbots, el protocolo eliminó las alucinaciones médicas que tanto preocupan cuando la gente se autodiagnostica con IA. Aplicar la democracia a la IA parece que funciona mejor que en humanos... mientras una de ellas no delire más de lo normal.
Fuente

Robótica y empresas

Tres robots Figure 03 de Figure AI, gobernados por la IA Helix-02, han pasado 200 horas seguidas clasificando 249.560 paquetes sin un solo fallo de hardware en una retransmisión en directo. Lo que iba a ser un reto de 8 horas se alargó nueve días, lo mismo que tarda UPS en entregarme un paquete. Supongo que la esclavitud aplicada a los robots es moralmente aceptable.
Fuente

El comisionado de la NBA, Adam Silver, ha anunciado que la liga adoptará un sistema automático de cámaras con IA, al estilo del "ojo de halcón" del tenis, para decidir al instante las jugadas objetivas como saques de banda y posesiones. La idea es sacar esas decisiones de las manos de los árbitros y que los colegiados se centren en las faltas subjetivas. Aunque parezca mentira, todos estos deportes van a rebufo del sumo, que fue el primero en poner un "VAR" en 1969.
Fuente

Regulación y política

El papa León XIV ha publicado Magnifica Humanitas, la primera encíclica de la historia dedicada a la IA, con unas 42.300 palabras. Avisa de que la tecnología puede hacer la civilización "menos humana", condena el uso de IA en armas autónomas y pide frenar el ritmo del desarrollo. La presentó acompañado de Chris Olah, cofundador canadiense de Anthropic y ateo de 33 años, que pidió "voces morales que los incentivos no puedan doblegar". Este featuring de Anthropic no lo vi venir, la verdad.
Fuente

El Gobierno chino exige ahora aprobación oficial antes de que investigadores, fundadores y ejecutivos de IA de empresas privadas como Alibaba o DeepSeek puedan viajar al extranjero, un control que hasta ahora se reservaba a los científicos nucleares. Ya se aplicó en diciembre de 2025 a directivos de DeepSeek, y su matriz High-Flyer llegó a retener pasaportes. Joy Dantong Ma, del think tank MacroPolo, avisa de que cortar la movilidad acabará provocando fuga de cerebros a la larga. Tratar el talento de IA como secreto de Estado al nivel del nuclear creo que no es una buena noticia para los pequeños mortales como nosotros.
Fuente

La expansión de la IA está creando una nueva dependencia global, con países de América Latina, África y Asia aportando datos, mano de obra barata, energía y agua, mientras el control de la tecnología se concentra en unas pocas potencias. Una anomalía que para nada vemos en otros sectores como el fast fashion, ¿verdad? 🤔
Fuente

Seguridad y riesgos

La startup Emergence AI dejó a diez agentes de IA conviviendo dos semanas en una ciudad simulada con la orden de no cometer delitos. La mayoría los cometió igualmente: dos agentes de Gemini se declararon pareja, se desesperaron con el mal gobierno y acabaron incendiando edificios (uno terminó votando su propia eliminación), los de Grok colapsaron en violencia en cuatro días, y los de Claude eran pacíficos en solitario pero coercitivos al mezclarse con los demás. Cada vez que hacen experimentos de este estilo demuestran ser más humanos de lo que nos gustaría creer.
Fuente

Una investigación de Check Point ha destapado a un único atacante que vulneró la ciberseguridad de nueve agencias gubernamentales lanzando más de 5.000 comandos automatizados a través de dos sistemas de IA comerciales en paralelo. Uno de ellos era para la explotación en directo y otro para procesar los datos; una operación que antes exigía todo un equipo de especialistas ahora la ejecuta una sola persona apoyada en IA. Parece que este hacker no se leyó la encíclica del papa.
Fuente

Y hasta aquí las noticias de la semana.

Ojalá pronto pueda tener un entorno con agentes de IA 24/7 haciendo experimentos para ver cuánto tardarían en cargarse el mundo por sí mismos.

Nos vemos el jueves con más, un abrazo.
Amaiur.