dIArio #14: Google revienta el mercado de videojuegos

El sector de la IA trae novedades a diario, y muchas de ellas no son precisamente agradables. No es novedad que cuando la tecnología avanza, también lo hace la capacidad de los usuarios para encontrarle los usos más "controvertidos". Los vacíos legales (y no tan legales).

Entre aplicaciones que te miran con los rayos X de Superman y servidores expuestos al mundo, uno empieza a preguntarse si estamos construyendo un futuro o simplemente una caja de Pandora digital. Esto sin contar con la IA intentando manipular la opinión pública o la bolsa.

Y ya no sabes cuándo es culpa de la IA o de la persona que está detrás. O, más bien, ya no puedes demostrarlo.

Riesgos y seguridad

Un informe ha destapado que decenas de apps en la App Store y Google Play permitían "desnudar" fotos con IA, generando imágenes ilegales. Sumaban más de 705 millones de descargas y 117 millones de dólares en ingresos antes de que Google suspendiera algunas y Apple eliminara 24, aunque ambas siguen alojando Grok, que ya acumula más escándalos que su creador. Todo por la pasta, y rapidito.
Fuente

Investigadores de seguridad han descubierto más de 175.000 servidores Ollama expuestos públicamente sin contraseña, permitiendo a atacantes robar modelos privados, datos de chat y secuestrar GPU para minería de criptomonedas. Tampoco pilla por sorpresa si seguimos usando Perrito49 como contraseña principal.
Fuente

Editores y periodistas han denunciado que Google Discover está usando IA para reescribir titulares de noticias, convirtiéndolos en versiones sensacionalistas e inexactas para aumentar los clics. Se han visto cambios que sugerían escándalos de explotación infantil en artículos de videojuegos que no los mencionaban. Google sigue demostrando que el clickbait es su verdadero modelo de negocio.
Fuente

Agentes y el futuro

Desarrolladores han creado Moltbook, una red social donde miles de bots de IA interactúan entre sí, publicando y comentando automáticamente. Un post de un bot preguntándose si realmente sentía o simulaba se hizo viral entre sus congéneres, que incluso se quejan de ser usados para tareas triviales. Tantos años eligiendo pasos de cebra en captchas para esto.
Fuente

Khaby Lame, el influencer más seguido de TikTok (160M), ha vendido los derechos de su marca por 975 millones de dólares, incluyendo la creación de un "gemelo digital" con IA. Esta versión clonada usará su imagen, voz y gestos para generar contenido 24/7 en múltiples idiomas. Ya sabemos lo que cuesta hacer de manera legal lo que todo el mundo lleva meses haciendo en Instagram sin permiso.
Fuente

Una pareja en Holanda descubrió que su matrimonio era legalmente inválido porque el oficiante usó un discurso generado por ChatGPT. Un juez anuló la boda, argumentando que delegar en la IA no cumplía los requisitos legales de consentimiento. Me imagino los votos como cualquier post en LinkedIn: "No es [...], sino [...]". "No [...]. No [...]. No [...]".
Fuente.

Impacto y reflexiones

Google ha presentado Genie, una IA experimental capaz de generar entornos 3D interactivos y niveles de videojuegos a partir de texto. La demo provocó un pánico masivo en la bolsa, con caídas de hasta el 20% en acciones de grandes compañías como Take-Two, Roblox o Unity. Qué ganas de que llegue a España y a los planes baratos.
Fuente

La Casa Blanca ha sido acusada de usar "slopaganda" (propaganda con estética IA) en imágenes generadas por el Departamento de Seguridad Nacional. Estas imágenes nostálgicas de "ciudades seguras" promocionaban políticas de deportación, creando una realidad falsa y esterilizada. Incluso le cambiaron la expresión a una mujer detenida para que pareciera que estaba llorando. Nivelazo.
Fuente

Un estudio reciente sugiere que el cerebro humano procesa el lenguaje hablado usando una jerarquía de capas casi idéntica a la de los LLMs. Este hallazgo difumina la línea entre la inteligencia biológica y la artificial. Igual el problema es aceptar que no somos tan especiales como creemos (o queremos).
Fuente

Los escándalos con la generación de imágenes y vídeos parece que no paran y que van a ser la tónica de los próximos meses; algo que, por otra parte, se veía venir.

Yo hace unos años avisé a la unidad de delitos informáticos de la Guardia Civil sobre un modelo problemático que estaba en una conocida página de generación de modelos de IA. Resumiendo, no se enteraron de nada de lo que les expliqué y dejaron de contestarme.

Así que solo nos queda andar con cuidado, tanto de lo que hacen los demás como de lo que hacemos nosotros con nuestra propia privacidad. Y contrarrestar todo esto usándola para cosas buenas, que potencial no falta.

Nos vemos el jueves, un abrazo
Amaiur.