dIArio #35: Meta promociona el abuso infantil

Si la vulnerabilidad en ciberseguridad es uno de los principales miedos que genera la IA, parece que, por desgracia, el contenido de abuso creado con herramientas generativas le pisa últimamente los talones. Días oscuros para el ser humano estos últimos años.

Por otro lado, alguna vez he hablado de la diferencia entre lo que cuesta una herramienta como Claude o ChatGPT y el gasto que supone, que se estima generalmente 10 veces mayor. Pues el otro día un amigo me contaba que en su empresa habían hecho una estimación de cuánto dinero real habían quemado a Anthropic.

No recuerdo si el gasto era anual o total, pero asusta igual dado que el uso empresarial de estas herramientas es relativamente nuevo. Para que te hagas una idea, lo que la empresa paga a la plataforma naranja son unos 7.000 € anuales. ¿A cuánto crees que se eleva el gasto total "real"? Te lo cuento al final.

Vamos con las noticias.

Modelos y avances

Un borrador de investigación de la Universidad de Maryland y Google DeepMind analizó más de 50.000 relatos generados por IA y concluyó que cada modelo tiene su tic inconfundible: Claude produce tramas notablemente planas, GPT se obsesiona con las secuencias de sueños y Gemini recurre por defecto a describir físicamente a los personajes. Eso añadido a los patrones que ya conocemos, claro.
Fuente

Investigadores de Michigan State University han demostrado que los modelos de IA pueden ser engañados para "ver" señales de vida extraterrestre donde no las hay, equivocándose el 100 % de las veces con pequeñas modificaciones, un "talón de Aquiles" con implicaciones para misiones de la NASA, escáneres médicos y coches autónomos. ¿La IA alucinando? Quién lo hubiera dicho en pleno 2026, ¿eh?
Fuente

Regulación y política

Un artículo académico de la Universidad de Cambridge recoge testimonios de exmiembros de Boko Haram que usaban chatbots para planificar ataques y diseñar explosivos, burlando los filtros de seguridad diciéndole al modelo que lo necesitaban "para una película o algo así". Con los modelos sin acceso a internet bastaba con decirles que la ley había cambiado y ahora era legal (me lo ha dicho un amigo 🙄).
Fuente

Apple ha demandado a OpenAI por robo de secretos comerciales después de que un ingeniero que se fue a OpenAI descubriera que seguía teniendo acceso a servidores internos de Apple y descargara más de mil páginas de especificaciones técnicas, escribiendo a una excompañera "LOL, he descubierto que tengo acceso a la red de almacenamiento, qué divertido". La demanda llega a pocas semanas de la salida a bolsa de OpenAI y podría paralizar el lanzamiento de su primer dispositivo físico. Empleado del mes, sin duda.
Fuente

Una investigación de la BBC descubrió que Instagram ha estado mostrando anuncios de pago que promocionan material de abuso sexual infantil en India, con términos como "rape video" enlazando a canales de Telegram donde el material se vende desde un dólar, mientras el exvicepresidente de Facebook ha declarado que los algoritmos estaban diseñados para maximizar beneficios por encima de todo. Después de que supiéramos que Meta había quitado la supervisión de los reportes de anuncios para, como dicen, maximizar sus beneficios, parece que también se ha sumado a la estrategia de Elon Musk.
Fuente

Trabajo y empresas

Empleados de varias empresas describen un ciclo grotesco en el que una persona genera un correo con IA y la otra lo resume con IA, de modo que nadie escribe ni lee realmente nada, en lo que los expertos llaman "descarga social". Y seguramente lo hacen con herramientas que la empresa ha contratado para "ahorrar tiempo y automatizar".
Fuente

Una investigación de Which? ha destapado que la herramienta de IA de Tripadvisor está suavizando sistemáticamente las quejas más terroríficas, describiendo como "impecable" un hotel de Cabo Verde demandado por intoxicación alimentaria masiva y elogiando el "servicio amable" de un resort turco con múltiples denuncias por acoso sexual. Supongo que dirán que el bien y el mal es algo relativo.
Fuente

Sociedad e impacto

Un grupo de investigadores ha analizado millones de conversaciones con una versión antigua de ChatGPT y se ha encontrado con un usuario que pasó meses generando un fanfiction de embarazos protagonizado por personajes adolescentes de la novela visual Doki Doki Literature Club!, convirtiéndose en el "usuario más prolífico" del dataset con más de un tercio de las 500.000 conversaciones anonimizadas, casi la mitad fanfiction y más de una cuarta parte sexualmente explícitas. Si fuera en Grok le habrían dado el premio al degenerado del año.
Fuente

Según mediciones de la empresa de detección Pangram, LinkedIn y X se han convertido en vertederos de texto sintético que la mayoría de usuarios ni detecta, en un internet donde las máquinas escriben cada vez más para otras máquinas. La misma mierda de antes pero ahora sin esfuerzo.
Fuente

En lugar de modelos hiperguapas, los nuevos influencers sintéticos dan pena o resultan entrañables. Abuelos que enseñan a elegir sandías o jóvenes con síndrome de Down que venden macetas son algunos ejemplos, una estrategia que Down España ya califica de "falsa caridad" y que FACUA ha denunciado ante Consumo. Si alguien se adapta rápido al mercado, desde luego, son los estafadores.
Fuente

Carteles y anuncios generados con ChatGPT han invadido la vida real con un estilo idéntico e inconfundible (texto amarillo sobre fondo oscuro, ruido exagerado), después de haber saturado ya las miniaturas de YouTube y los anuncios de Instagram. No vaya a ser que uses la IA con criterio y le pidas algo más que "hazme un cartel".
Fuente

120.000 €. Ese es el gasto aproximado de la empresa. ¿Cuántos usuarios de pago que no usen prácticamente nunca la herramienta necesita Anthropic para que le salga rentable? Es una locura.

En fin, para añadir un poco de luz a estos tiempos, me voy a ir de vacaciones, así que volveré con las noticias ya en agosto.

Disfruta el presente y aprovecha las IA generativas mientras nos dejen, que no sabemos cuánto va a ser eso.

Un abrazo,
Amaiur.