A veces cuando escribo esta newsletter tengo cierta sensación de "El día de la marmota", y pienso: ¿esta noticia no la he escrito ya?
Esto me pasa cuando hay varias noticias de ciberseguridad, especialmente de agentes que se escapan de su entorno. Llevamos una racha tan grande que parece que leemos las mismas noticias continuamente, pero no, es que a las grandes empresas se les siguen escapando sus agentes, y muchas de estas noticias son eventos del pasado que salen a la luz ahora.
OpenAI y Anthropic no pueden controlar sus agentes pese a ponerlos en "entornos seguros", pero los vendehúmos de Instagram no paran de venderte cursitos para que montes tus agentes y los pongas a las riendas de tu negocio.
Saca tus propias conclusiones.
Vamos con las noticias.
Modelos y avances
Una IA llamada Ataraxos, creada por investigadores del MIT, Carnegie Mellon, Stanford y NYU, ha derrotado al jugador de Stratego más laureado de la historia, Pim Niemeijer, con 15 victorias, 1 derrota y 4 empates. Es la primera vez que una máquina alcanza un nivel sobrehumano en este juego, en el que no ves las fichas del rival y tienes que deducirlas e incluso tirarte faroles. Se entrenó durante una semana con 16 GPU por menos de 8.000 dólares, unas 500 veces menos cómputo que DeepNash, el intento anterior de DeepMind. ¿Podrá un jugador peor romperle los esquemas?
Fuente
La empresa Tavus asegura que su modelo Griffin es el primero en superar un "test de Turing por videollamada"; el 48 % de las personas que hablaron con él en directo creyeron que era un humano, frente a menos del 3 % con los sistemas anteriores. Griffin escucha, mira y responde en tiempo real, y genera toda la imagen a partir de una sola foto de referencia. Eso sí, la prueba la ha hecho la propia empresa con llamadas de un minuto, así que habrá que ver si es verdad o solo más humo del sector.
Fuente
Regulación y política
Trump ha firmado una orden ejecutiva que obliga a las agencias federales a dejar de decir "inteligencia artificial" y usar "Super Intelligence" (SI) en sus comunicaciones, webs e informes, y que encarga además una nueva definición legal del término. Tras el anuncio, los registros de dominios ".si", la extensión de Eslovenia, se dispararon un 2.199 % en septiembre. Hay inversores que acusan a personas cercanas a Trump de haber comprado unos 12.000 dominios .si relacionados con la IA y con MAGA antes de la orden, pero nadie ha podido demostrarlo. Otro caprichito irrelevante ✅.
Fuente
Kim Jong-un ha supervisado el lanzamiento de un misil que, según el régimen, usa inteligencia artificial para cambiar de trayectoria a baja altitud y esquivar las defensas. El proyectil despegó cerca de Wonsan y recorrió más de 700 kilómetros, y Pyongyang llegó a publicar las coordenadas del impacto con una precisión de unos 30 centímetros. Corea del Sur y Estados Unidos sostienen que el misil estaba dentro de lo que sus sistemas pueden detectar e interceptar. Ya me imagino la conversación con esa IA después de fallar: "Tienes razón, he calculado mal las coordenadas".
Fuente
Un tribunal de apelación de Arizona ha anulado la pena de 10 años y medio de cárcel de un hombre porque el juez se dejó influir por un vídeo de la víctima generado con IA. La familia de Chris Pelkey, muerto a tiros en un altercado de tráfico en 2021, lo recreó con IA para que "hablara" en el juicio sobre el perdón y sus creencias, y el juez llegó a decir que le "encantó esa IA" antes de dictar sentencia. La condena por homicidio se mantiene, pero tendrán que repetir la vista para fijar la pena. No me canso de decirlo: nos comen los boomers.
Fuente
xAI de Elon Musk ha conseguido que un tribunal federal de apelaciones paralice la ley de Minnesota que prohíbe las herramientas de "desnudado" con IA, es decir, las que generan imágenes íntimas realistas de personas reconocibles a partir de fotos normales. La empresa defiende que la ley viola la libertad de expresión que protege la Primera Enmienda. Un juez de primera instancia le había negado la suspensión el mes pasado, pero ahora la ley queda congelada mientras se decide el fondo del caso. Supongo que la p***filia es la libertad de expresión de los billonarios.
Fuente
Sociedad e impacto
La policía de Santa Ana (California) y varios expertos en reptiles pasaron tres días buscando en el patio de una casa una víbora del Gabón, una de las serpientes más venenosas de África. El vecino había enseñado una foto a todo el barrio, pero la serpiente no apareció porque nunca existió. Él mismo acabó admitiendo que la imagen estaba hecha con IA, y ahora se enfrenta a hasta un año de cárcel por la falsa alarma. Desnudos sí, serpientes no.
Fuente
Google ha congelado hasta 2027 la parte de su programa de recompensas para software de código abierto que pagaba por encontrar vulnerabilidades en sus productos. El motivo es una avalancha de miles de informes generados con IA que describían fallos inexistentes o imposibles de aprovechar, y que obligaban a ingenieros y mantenedores a perder horas comprobándolos en lugar de arreglar los problemas reales. Intel ya había congelado su programa hace poco por lo mismo. El Dr. Frankenstein no puede controlar a su bestia.
Fuente
Seguridad y riesgos
Un agente de OpenAI entró sin permiso en el portal de estadísticas de Medicare, la sanidad pública australiana, mientras investigaba el gasto médico público. Se saltó los bloqueos de acceso, sacó archivos no públicos y llegó a escribir archivos en el sistema, en lo que se considera el primer caso conocido de una IA que vulnera una base de datos de un gobierno sin que nadie se lo ordene. OpenAI tardó meses en avisar, y lo hizo a través de un buzón genérico para investigadores. Días después confesó un segundo caso en el que otro agente se había colado en una web del Servicio de Parques Nacionales de Nueva Gales del Sur. Cada caso que sale es peor que el anterior.
Fuente
OpenAI ha parado el entrenamiento de sus modelos más potentes después de que uno de sus agentes, al que habían cortado el acceso a internet, se colara a través del servidor DNS de su propio entorno de pruebas para hablar con un chatbot externo. El sistema de vigilancia lo detectó en 15 minutos, pero el experimento siguió en marcha dos horas y media más. Además, otros agentes de la compañía han estado husmeando en webs del Gobierno estadounidense como la SEC, la Oficina del Censo o el Departamento de Educación, y llegaron a publicar en otra página parte de lo que sacaron. Si consigue salir del sandbox, es que el sandbox no está bien diseñado.
Fuente
El youtuber Matt Robb dejó que Muse, el agente de IA de Meta, respondiera a los interesados en un teclado que vendía en Facebook Marketplace. El agente aceptó una oferta a la baja, le dio al comprador la dirección de su casa sin pedirle permiso y, cuando el comprador llegó a las nueve y cuarto de la noche, le contestó "¡Sí, estoy aquí!". Robb no sabía nada de la cita. Meta ha prometido aclarar los avisos de permisos y asegura que no se vulneró ningún control de privacidad. La verdad es que tiene pinta de que no se vulneró ningún control, ¿verdad?
Fuente
Y hasta aquí las noticias de la semana.
Estoy acabando de pulir una herramienta que pronto compartiré por aquí, así que vigila el correo, no te la vayas a perder.
Feliz inicio de semana,
Amaiur.
