dIArio #5: hackean Gemini Pro con POEMAS

Esta semana viene fuerte, con algunos temas un poco subiditos, y por eso quiero empezar haciendo un pequeño apunte:

La pasada newsletter (la del jueves), a mucha gente le llegó a spam por motivos que desconozco. Parece que hay palabras que no le gustan a Google y te penaliza por ello, así que muy a mi pesar, voy a tener que escribir ciertas palabras usando asteriscos, números o variaciones, para intentar evitar este filtro.
También puedes añadir este correo como contacto y, en caso de aparecer en correo no deseado, asegurarte de quitarlo de ahí.

En cuanto a la actualidad, aunque el popurrí de esta semana es especialmente interesante, no puedo evitar hacer hincapié en la noticia que da título a este correo. Si bien la semana pasada hablábamos de cómo Gemini 3 había roto todos los benchmarks, hoy hablamos de cómo sobrepasar los filtros de esta IA con poemas.

Bueno, en este caso la prueba se ha hecho con el modelo anterior, Gemini 2.5, pero sigue siendo una forma sencilla y creativa de saltar las restricciones internas del modelo y conseguir un resultado que no nos daría si lo hiciéramos de forma normal.

¿Funcionará en Gemini 3? Yo, desde luego, voy a probarlo esta semana.

Avances en modelos y agentes

• Alibaba ha hecho realidad el meme de la película They Live: ha presentado las gafas "Quark", que conectadas a su modelo de IA Qwen, son capaces de identificar objetos en el mundo real y buscar sus precios y enlaces de compra al instante. De momento solo en China.
  Fuente
• Investigadores han descubierto que si pides instrucciones peligrosas (de esas tan prohibidas) en forma de soneto o poema, modelos como Gemini Pro se saltan sus filtros de seguridad el 100% de las veces. Por si los poetas no tenían suficiente con serlo.
  Fuente
• La agencia marina de Australia está probando un nuevo sistema “guiado por IA” para restaurar la Gran Barrera de Coral. Embarcaciones autónomas equipadas con cámaras subacuáticas e inteligencia artificial localizan áreas dañadas del arrecife y sueltan con precisión cápsulas cerámicas con larvas de coral bebé. Lo que la IA te quita, la IA te da.
  Fuente

Aplicaciones y comportamiento humano

• La influencer Sweet Zannat ha tenido que publicar un vídeo comparando su cara con la de un vídeo viral inapropiado para demostrar que era un deepfake (o una persona distinta) tras sufrir acoso masivo online. Vamos a acabar arrepintiéndonos hasta de lo que no hemos hecho.
  Fuente 
• Los juguetes conectados con IA en el punto de mira después de que un osito interactivo empezara a dar consejos de temática inapropiada (muy turbia) a un niño. Creo que todos tenemos claro que uno de los peligros de la IA va en esa dirección.
  Fuente
• Reino Unido permite a profesores usar IA para corregir tareas con la excusa de "reducir la carga administrativa de los profesores". Ahora solo falta autorizar a los alumnos a hacer las tareas de la misma manera y que la educación sea una batalla de IA.
  Fuente
• Recetas “basura” creadas por IA invaden internet y arruinan platos en Acción de Gracias (y seguro que también en Navidad). Bizcochos carbonizados y platos insípidos en comidas familiares, como cuando sigues la receta de un foodie de Instagram o cocina tu cuñao.
  Fuente

Ética, seguridad y regulación

• Un grupo de hackers apoyado por China utilizó herramientas basadas en Claude para orquestar un ciberataque casi autónomo: reconocimiento, explotación de vulnerabilidades, robo de credenciales y extracción de datos sin intervención humana directa. Al final las siglas de AGI van a significar Actually, Generally Indian.
  Fuente
• Un juez federal de Estados Unidos ha prohibido temporalmente a OpenAI usar la palabra "Cameo" en su generador de vídeo Sora, tras la demanda que ya comenté aquí. Eso les pasa por no tener una RAE liderada por Capitán Pérez-Reverte.
  Fuente
• La oficina del fiscal en el condado de Mono (California) ha admitido el uso de inteligencia artificial para redactar una moción judicial. ¿El problema? Que resultó estar plagada de alucinaciones del modelo, citando hechos y referencias inexistentes sobre un caso penal. Imagina por un momento esa sala de juicio con los fiscales acusando sobre un caso completamente inventado, ¿no es maravilloso?
  Fuente

Inversiones y mercado IA

• Amazon construirá una infraestructura masiva de supercomputación e IA (1,3 gigavatios) dedicada exclusivamente a la defensa y espionaje del gobierno estadounidense. Hoy por ti, mañana por mí.
  Fuente
• El sistema de pedidos por voz con IA de Taco Bell ha colapsado esta semana, entendiendo mal los pedidos y añadiendo 18.000 bebidas por error. El ciclo del capitalismo cuando lo guían las prisas: abaratar costes automatizando → perder dinero por automatizar → volver a contratar humanos.
  Fuente
• Warner Music llega a un acuerdo con Suno, la IA generativa de música, después de haberla demandado por robarle contenido. No es robo si te robas a ti mismo, jaque mate.
  Fuente

Y eso es todo por hoy. Si a eso le sumamos que ha sido la semana del Black Friday, desde luego ha dado para mucho.

Ah, y si no recuerdas haber recibido el correo del jueves, revisa la carpeta de correo no deseado. Nos vemos este jueves con una nueva idea práctica.

Feliz lunes cibernético,
Amaiur.