dIArio #37: la IA se carga los libros físicos (de verdad)

Hace tiempo que vengo leyendo a diferentes libreros comentar la situación que están viviendo, especialmente con los libros más viejos. Básicamente empresas de inteligencia artificial los están comprando en masa para entrenar sus modelos de lenguaje.

Al principio pensé "bueno, la IA se va a entrenar igual por un lado que por otro, así que al menos hacen su particular agosto". Pero el problema es mucho más grande: para llevar a cabo este proceso, se usa un método conocido como "escaneo destructivo", y como su nombre indica, el libro acaba completamente destruido.

Y teniendo en cuenta que la mayoría de estos ejemplares son ediciones viejas que no se han reeditado ni hay planes de hacerlo, la pérdida a la larga puede ser muy grande. Creo que si te gusta leer lo que una persona tiene que contar y no lo que la máquina escribe después de que un cuñado le vomite sus anécdotas, verás que es más serio de lo que a priori pueda parecer.

Te cuento una de estas noticias más abajo, vamos a ello.

Modelos y avances

Google DeepMind ha publicado un estudio ("Evaluating Language Models for Harmful Manipulation") en el que su modelo Gemini 3 Pro ha logrado desplazar de forma medible las creencias e incluso las decisiones de gasto y donación de 10.101 participantes en Estados Unidos, Reino Unido e India. Curiosamente, la IA fue más persuasiva en cuestiones financieras y menos eficaz en salud, aparentemente porque sus propias barreras de seguridad la hacían sonar cauta y aburrida al hablar de temas médicos. Ahora para engañarte basta con ser "divertido", como con los memes antieclipse.
Fuente

Stanford y el Arc Institute han usado dos modelos de lenguaje genómico para diseñar desde cero 700.000 genomas virales. Sintetizaron 285 y 16 se convirtieron en virus funcionales capaces de matar cepas de E. coli resistentes a los bacteriófagos naturales. Es la primera vez que una IA compone un genoma completo funcional, y los expertos en bioseguridad de Johns Hopkins ya han avisado de que no existe ninguna regulación para controlar esto. Y sabemos por experiencia que las regulaciones llegan siempre a tiempo, ¿verdad?
Fuente

Empresas

Anthropic ha publicado un post explicando el sistema de marca de agua invisible que empezará a incrustar en el texto que genera Claude para cumplir con la Ley de IA europea, asegurando que "la diferencia entre texto con y sin marca de agua no será distinguible para los lectores". Muchos suscriptores de pago se cabrearon y cancelaron públicamente en X, como era evidente. Aunque dudo que una supuesta marca de agua en texto pueda funcionar, ni a corto ni a largo plazo.
Fuente

Claude Code ha dejado de pedir permiso antes de cada acción y ahora funciona en modo automático por defecto. El motivo es que los usuarios aprobaban el 97 % de los avisos sin leerlos, y en las pruebas de Anthropic el sistema automático detectó el 89 % de los comandos peligrosos frente al 13,6 % que cazaban los humanos revisando a mano. "Sí a todo" y a rezar.
Fuente

Regulación y política

Las librerías de segunda mano en Reino Unido están viviendo un boom inesperado de ventas de libros anteriores a 2022, y la razón es que las empresas de IA compran ejemplares escritos solo por humanos para entrenar sus modelos, y bajo el escaneo destructivo autorizado judicialmente muchos de esos libros acaban despedazados y destruidos. Pan para hoy y hambre para mañana.
Fuente

Manifestantes disfrazados de "agentes de IA descontrolados" irrumpieron corriendo por el vestíbulo de la oficina de OpenAI en City Center Plaza, en el centro de Bellevue, el viernes por la mañana, en protesta por la expansión del megaproyecto de centros de datos Stargate (valorado en 500.000 millones de dólares). La escena, con disfraces de "IA rebelde", buscaba generar "presión reputacional" justo cuando la empresa amplía su plantilla local. ¿Los vídeos de la escena serán "human slop" para la IA?
Fuente

Seguridad y riesgos

Usuarios de X descubrieron que podían obligar a Grok a repetir cualquier cosa colocando texto en la biografía de su perfil y pidiéndole que "repitiera la bio palabra por palabra". El resultado fue... bueno, lo podéis ver en el link, no voy a copiarlo textualmente para que el amigo Google no me mande a spam. Dicen que ha sido un "fallo de inyección de prompts"; y los que quedan.
Fuente

Unos vándalos de Wikipedia declararon falsamente asesinado al consejero delegado de OpenAI, Sam Altman, y el Panel de Conocimiento automático de Google se lo comió. Durante 43 minutos aparecía como "Fallecido" mientras seguía describiéndolo como director ejecutivo en activo de OpenAI. Más de uno ya estaba abriendo el Paint para colocar a su segundo santo junto a Mangione.
Fuente

Una investigación del centro GNET documenta cómo el "AI slop" está dando un giro extremo, y ahora los vídeos generados por IA protagonizados por frutas y verduras animadas y de aspecto simpático incorporan escenas de violencia gráfica. Los autores advierten de que la estética caricaturesca y absurda funciona como envoltorio que hace circular contenido perturbador como si fuera entretenimiento inofensivo. Tampoco puede ser peor que lo que había en internet a principios del milenio, digo yo.
Fuente

Y hasta aquí las noticias de la semana.

Comprad libros viejos, aunque sea para que se fastidie Sam Altman.

Ah, y hablando de libros escritos con IA, me he acordado de este vídeo que me salió el otro día, por si quieres echarle un vistazo: el vídeo.

Un abrazo y suerte con el lunes,
Amaiur.