dIArio #15: ChatGPT detecta un cáncer

Esta semana seguimos con problemas de seguridad en lo referente a la IA, especialmente con la nueva red social solo para agentes de IA que empezó como un meme y ha filtrando datos en tiempo récord.

Algo que parece anecdótico comparado con que la agencia de ciberseguridad de EE. UU. parece que no sabe cómo funciona todo esto al nivel más básico, o que Grok sigue con lo suyo, algo que no sorprende después de ver los últimos correos de su dueño con el señor J.

Riesgos y seguridad

Una vulnerabilidad grave en Moltbook, la red social viral solo para agentes de IA, ha dejado expuestos correos y claves API, permitiendo acceso sin autenticación a miles de perfiles de bots. Además, un solo bot, @openclaw, creó medio millón de cuentas falsas gracias a la falta de seguridad, inflando artificialmente la plataforma. ¿Qué sería de una red social sin cientos de miles de bots "falsos"?
Fuente

La policía francesa ha allanado las oficinas de X en París por una investigación criminal sobre la proliferación de deepfakes comprometedores generados por Grok. Las autoridades acusan a la plataforma de complicidad en la distribución de contenido no consensuado. Grok sigue pareciendo el cerebro de Elon y los franceses no se andan con tonterías.
Fuente

Un informe ha revelado que el director interino de la CISA, la agencia de ciberseguridad de EE. UU., subió documentos gubernamentales sensibles a la versión pública de ChatGPT, exponiendo información clasificada. Si este es el director de la CISA, no me quiero imaginar a los que lo rodean.
Fuente

YouTube ha ejecutado una purga histórica eliminando 16 de los canales más grandes de contenido generado por IA de baja calidad, que acumulaban más de 4.700 millones de visitas. Ahora solo falta que arreglen su IA interna que borra canales de manera automatizada y sin sentido alguno.
Fuente

OpenAI planea una red social "solo para humanos" y estudia escanear el iris ocular de los usuarios para verificarlos, inspirándose en Worldcoin. Creas el problema y ofreces la solución a cambio de datos biométricos, ¿qué puede ir mal?
Fuente

Agentes y automatización

RentAHuman.ai es un sitio web donde agentes de IA pueden "alquilar" humanos para ejecutar tareas en el mundo real, con más de 70.000 personas inscritas a cambio de micropagos. Eso sí, solo hay 400 humanos dispuestos a hacerlo. Es la teoría del internet muerto llevada al extremo.
Fuente

Anthropic gastó millones en anuncios durante la Super Bowl para atacar a su rival OpenAI por introducir publicidad en ChatGPT, presumiendo de que su chatbot Claude seguirá sin anuncios. La guerra por dominar la burbuja recuerda a la batalla Coca-Cola vs. Pepsi.
Fuente

Una mujer de 40 años asegura que ChatGPT le salvó la vida al ayudarle a descubrir un cáncer que sus médicos pasaban por alto, sugiriéndole una enfermedad de tiroides. Creo que todo lo que implica esta noticia es realmente peligroso.
Fuente

Avances y aplicaciones

El rover Perseverance de la NASA ha completado sus primeros trayectos en Marte planificados totalmente por una IA, una versión de Claude de Anthropic; todo un hito para la exploración espacial. La IA conduciendo en Marte antes que GTA VI.
Fuente

Y además de conducir en Marte, Anthropic firmó su primer patrocinio deportivo con el equipo Williams de F1, con Claude como "socio de pensamiento" oficial para estrategia y desarrollo. Ahora hasta los coches de F1 necesitan un "pensador".
Fuente

Y hasta aquí las noticias de la semana.

Seguimos viendo cómo el uso de herramientas que avanzan más rápido de lo que el usuario común llega a comprender puede ser peligroso. Y no hace falta mirar al futuro: basta con abrir X.

Yo voy a ir cogiendo palomitas porque este año pinta que acaba a puro cine 🚬.

Nos vemos el jueves con más IA, un abrazo.
Amaiur