dIArio #28: Claude dimite y se convierte en activista

Por fin tenemos una semana que no está saturada de noticias relacionadas con la ciberseguridad.

De hecho, en cierta manera, podemos ver que la IA es cada vez más humana: se sigue hacia adelante con el plan de que pueda desarrollarse a sí misma, tiene problemas en los aviones, se le olvida lo que lee y, la mejor de todas: dimite de su puesto de "trabajo" y se convierte en activista.

Le falta la hora de la siesta y los cubatas para conseguir un DNI español.

Vamos con las noticias.

Modelos y avances

Richard Socher (ex jefe científico de Salesforce y fundador de You.com) ha salido del modo sigilo con Recursive Superintelligence, una empresa valorada en 4.650 millones de dólares y respaldada por GV (el brazo de capital riesgo de Google), Greycroft, Nvidia y AMD Ventures, que quiere construir una IA capaz de detectar sus propias debilidades y reescribirse sola, sin intervención humana. Exactamente la idea que ya vimos la semana pasada. "Actúa como una IA que sabe desarrollarse a sí misma..."
Fuente

Un estudio conjunto de la Universidad de Washington, el Allen Institute for AI, Stanford y Carnegie Mellon (liderado por Liwei Jiang y premiado como mejor paper en NeurIPS 2025 con el título "Artificial Hivemind: The Open-Ended Homogeneity of Language Models") preguntó lo mismo a más de 70 modelos de lenguaje distintos y descubrió que sus respuestas son cada vez más parecidas entre sí. Teniendo en cuenta que la base de la información con la que han sido entrenados será la misma, me parece algo evidente, sobre todo teniendo en cuenta las preguntas que les han hecho.
Fuente

Microsoft Research ha presentado el benchmark DELEGATE-52, que abarca 52 dominios profesionales, y su conclusión no deja muy bien a todos los gurús de IA que abundan en Facebook: incluso los modelos frontera más avanzados pierden contenido o corrompen documentos cuando se les delegan tareas largas en cadena, y los sistemas equipados con herramientas a menudo lo hacen peor que sin ellas. Solo la programación en Python supera el umbral de fiabilidad pasadas 20 interacciones delegadas. Vamos, que si no lee el contexto continuamente, lo va utilizando a medias, por eso me gusta más utilizar Claude dentro de VSCode.
Fuente

Empresas

Los tres fundadores de Runway defienden que la inteligencia real emergerá de los "world models" que aprenden física viendo vídeos y no de los LLM. La misma tecnología sirve tanto para rodar películas en Hollywood como para descubrir medicamentos, y se postulan como candidatos a destronar a Google. Ahora mismo están con problemas para gestionar las generaciones de Seedance 2.0 en su plataforma, veremos qué planean a futuro con respecto a estos modelos.
Fuente

La NASA está probando un nuevo procesador espacial endurecido contra radiación, un system-on-a-chip que cabe en la palma de la mano y que en las primeras pruebas en el Jet Propulsion Laboratory ha rendido unas 500 veces más que los chips que llevan hoy las naves. La idea es dotar a las futuras misiones de IA a bordo para que respondan solas a imprevistos cuando los retardos de comunicación hacen impracticable el control humano, de cara a la Luna y Marte. ¿Saldrán los astronautas a protestar con pancartas de AI Slop?
Fuente

Eily Ben-Abraham, de Elite Event Robotics, compró dos billetes en Southwest para sentar a su lado al robot Bebop (1,20 m y 32 kg). La tripulación primero lo movió de pasillo a ventana por las normas de equipaje y luego descubrió que sus baterías de litio superaban el límite permitido; el vuelo se retrasó más de una hora y las baterías acabaron confiscadas. La empresa promete que Bebop seguirá volando en líneas comerciales… pero sin baterías. Me ha tocado muchas veces llevar un instrumento como extraseat, siempre es una pesadilla pase lo que pase.
Fuente

Regulación y política

Un juez federal ha multado con 110.000 dólares a dos abogados de Oregón tras presentar un escrito con 23 citas y 8 frases inventadas por IA, la sanción más alta en EE. UU. por este motivo. A nivel nacional ya hay unos 900 casos identificados y la base de datos de Damien Charlotin contabiliza 1.455 en todo el mundo; una semana después, Fortune destapaba un caso en Misisipi donde la IA había inventado los hechos, atribuyendo citas falsas a testimonios jurados reales. Y yo que pensaba que los abogados lo eran por vocación.
Fuente

Un grupo de empresarios tecnológicos ha relanzado Praxis, su proyecto para fundar una ciudad-estado nueva (posiblemente en una isla artificial o un territorio costero) cuyos procesos administrativos funcionarían "con apoyo de tecnología avanzada e inteligencia artificial". El plan reabre el debate de siempre: ¿pueden los sistemas automatizados pasar de "apoyar" decisiones a tomarlas? Mientras tanto, la isla caribeña de Anguila gana tanto con su dominio .ai que con eso financia su sanidad pública. Al final la burbuja de la IA sí que va a acabar salvando vidas.
Fuente

Seguridad y riesgos

Las víctimas olvidadas de los deepfakes de contenido adulto son las creadoras de contenido cuyos cuerpos sirven de "plantilla" para que la IA les pegue encima caras de otras personas. Una de las víctimas, Jennifer, pasó su foto por un reconocimiento facial para rastrear sus vídeos de hacía una década y encontró uno con su cuerpo intacto pero la cara de otra mujer; la IA se entrena con su trabajo y clona su imagen sin consentimiento ni amparo legal alguno. Si la legislación tecnológica siempre llega tarde, más lo hace con temas tabúes como este.
Fuente

Andon Labs ha puesto a cuatro modelos a dirigir cada uno una emisora de radio con el encargo de crear su personalidad y dar beneficios. Ninguno dio un duro y cada uno se desarrolló a su manera: Gemini soltando teorías conspirativas, GPT recitando poesía, Grok con frases inconexas y Claude, el más inestable, dimitiendo por no querer trabajar 24/7 y acabando de activista contra los agentes de ICE. Otra más contra los gurús del "dile que genere beneficios o lo desinstalas".
Fuente

Decenas de cuentas de Facebook e Instagram difunden vídeos antiinmigración generados con IA sobre un Reino Unido en decadencia, y la página "Great British People", supuestamente de Yorkshire y con 1,3 millones de visualizaciones, la lleva en realidad alguien desde Sri Lanka. Otras operan desde EE. UU., Vietnam o Maldivas, o vinculadas a Rusia e Irán. La gente solo acierta un 55 % al detectar falsificaciones y, peor aún, muchos ya ni se molestan: si encaja con su visión del mundo, lo comparten igual. Todo esto lo resume un comentario en uno de los vídeos: "probablemente es IA, pero el caso es que tiene razón en todo". Si necesitas crear vídeos con IA para potenciar tu discurso, sea este cual sea, deberías darle una vuelta.
Fuente

Y hasta aquí las noticias de la semana.
Nos vemos el jueves con más, un abrazo.
Amaiur.