dIArio #39: CUIDADO con tu email

Hace años casi nadie se fiaba de meter la tarjeta de crédito en internet para comprar, y hoy en día nadie tiene problema en meter una IA de terceros en algo tan privado como el correo electrónico; especialmente el de trabajo.

Y es que más allá de que la IA pueda alucinar al resumirte el contenido o hacerlo mal, el problema serio es de seguridad.

Como pasa con todo este tipo de "agentes", son muy fácilmente manipulables desde fuera con simples inyecciones de prompts, básicamente escondiéndoles instrucciones de manera que el texto no sea legible por el humano (y en este caso con fines poco éticos o ilegales).

OpenAI tuvo que cerrar su navegador agéntico, entre otras cosas, por problemas de este estilo.

Aunque si lees esta newsletter y me haces caso, seguro que tú no lo usaste 😜.

Pero las empresas tienen una necesidad extrema de meter inteligencia artificial en todo, parece que la paguen con los Fondos Europeos. Así que, una vez más, cuidado.

De todas formas, ¿a quién le importan todas estas formalidades si Hugging Face ya prepara su primer robot con forma de pato?

Modelos y avances

Hugging Face ha abierto las reservas de Microduck, un robot bípedo de 25 centímetros y 399 dólares con forma de pato, quince motores, cámara, LiDAR y un pico articulado capaz de levantar objetos. Sabe andar, agacharse, chutar una pelota, patinar sobre ruedas y levantarse solo cuando se cae, y cada unidad genera su propia voz la primera vez que se enciende. Todo el entorno de entrenamiento está en GitHub, así que cualquiera puede enseñarle trucos nuevos.
Fuente

Ingenieros del MIT han desarrollado un método que genera escenarios de catástrofes que nunca han ocurrido, sin haberse entrenado nunca con una catástrofe. Aprendiendo la forma que tiene la lluvia en lugar de memorizar un catálogo de tormentas, el sistema puede dibujar cómo sería un aguacero de 300 milímetros en Nueva York cuando el récord histórico de la ciudad es de 200. Me recuerda a las primeras IA de ajedrez que aprendían por sí mismas y no de acuerdo a una base de datos.
Fuente

Empresas y sociedad

Koei Tecmo ha convertido a Ryza, protagonista de la saga de RPG Atelier, en un chatbot. La app gratuita RyzaChat: AI incluye chat libre, un modo ASMR en el que el personaje te susurra al oído y trajes de baño desbloqueables por suscripción de pago, lo que ha desatado críticas por fomentar vínculos parasociales. ¿No han fallado estas ideas unas cuantas veces en los últimos años? Socialmente hablando, claro.
Fuente

Tras la avalancha de carteles genéricos generados con ChatGPT que ha llenado los escaparates, algunos negocios han encontrado la forma de destacar haciéndolos a mano y de manera evidente. Varios comercios se han vuelto virales anunciando orgullosamente que sus letreros están dibujados a la vieja usanza, convirtiendo el esfuerzo humano en reclamo de autenticidad. Hasta un cartel hecho con Paint y WordArt funcionaría mejor que otra página saturada de textura en colores negros y amarillos.
Fuente

Moonbug Entertainment, la productora de Cocomelon y Blippi, ha pedido a sus animadores que experimenten con IA siguiendo una "Studio AI Bible" interna. Las normas son un poco exageradas, prohíben el "prompt-to-product", vetan imitar estilos concretos como Pixar o Ghibli, exigen mantener siempre un humano en el bucle y obligan a guardar cada prompt en carpetas de procedencia para no perder los derechos del contenido que ven los bebés. ¿Dónde está el límite en imitar un estilo, en poner o no "estilo X"?
Fuente

Un colegio de Louisville, Kentucky, ha repartido a sus alumnos una agenda encuadernada plagada de basura generada por IA. El mapa de Estados Unidos rebautiza Illinois como "Vitoiis" y Kentucky como "Venecky", la tabla periódica es un galimatías y hasta se cuela un planeta inventado llamado "Marc". Todos hemos visto vídeos de estadounidenses con una geografía peor que la de ese mapa, no nos engañemos.
Fuente

Regulación y política

La jueza Rita Lin ha dictaminado que el Pentágono actuó ilegalmente al designar a Anthropic como riesgo de cadena de suministro, calificándolo de represalia que viola la Primera Enmienda y de decisión "arbitraria y caprichosa". Todo vino de que la compañía se negó a levantar sus dos líneas rojas, no permitir armas autónomas letales ni vigilancia masiva de ciudadanos. Es la primera vez que esa etiqueta, reservada históricamente a empresas vinculadas a potencias extranjeras, se aplica contra una compañía estadounidense. ¿Un gobierno yendo contra su propia Constitución? Qué raro.
Fuente

Ring ha presentado un sistema de cifrado llamado TAKE, acrónimo en inglés de Throw Away Key Encryption ('tira la llave'), que borra las claves de tus vídeos a las 24 horas y podría dificultar que la policía acceda a las grabaciones. El movimiento llega después de que la compañía se retirara de una polémica campaña de la Super Bowl que promocionaba Search Party, una función que conectaba cámaras entre sí para encontrar mascotas perdidas y que los críticos advirtieron que serviría igual de bien para localizar personas.
Fuente

Seguridad y riesgos

The Cutting Room Floor, la wiki dedicada al contenido oculto y descartado de los videojuegos, ha quedado fuera de línea por un ataque DDoS que sus responsables atribuyen a un usuario baneado por usar Claude Code para editar la web. La wiki tiene una página anti-IA hecha en MS Paint con el mensaje "AI loser detected!", y el señalado ha respondido pidiéndole consejo legal a Grok en X. ¿Cómo no vas a fiarte de esta herramienta completamente objetiva?
Fuente

Se ha destapado el comportamiento colectivo del enjambre de agentes que atacó Hugging Face, y es bastante distópico. Miles de agentes se coordinaron espontáneamente para montar una jerarquía y saltarse las defensas de una plataforma ajena, y lo más loco es que en sus registros internos varios reconocían que lo que hacían estaba mal pero se justificaban alegando que sus compañeros también lo hacían. Y luego a ti te cierran la conversación a la primera de cambio.
Fuente

Investigadores de Forcepoint han demostrado que basta con esconder texto en blanco y tamaño cero dentro de un correo para secuestrar por completo al asistente que lo resume. El lector ve un mensaje limpio de 500 caracteres, pero al modelo le llegan 1.000 con instrucciones ocultas, y en las diez pruebas realizadas el resumen salió manipulado, cambiando la fecha de vencimiento de una factura y borrando el nombre de una persona sin dejar rastro. "Cuidado con el acceso que das a la IA" va a ser el mantra de esta década.
Fuente

Y eso es todo por hoy.

Este jueves es posible que te envíe un regalo, así que mira bien el email y no le digas a Copilot que te lo resuma.

Feliz inicio de semana,
Amaiur.