dIArio #21: alucinaciones orbitando la tierra

Nos hemos acostumbrado a semanas con prácticamente decenas de noticias diarias sobre nuevos modelos, y ahora que se ha relajado la saturación de publicaciones de las grandes empresas, parece que no pase nada.

Lo que pasa es que ahora podemos ver que la burbuja de la IA no estaba creciendo para que hagas tus retratos de Studio Ghibli y los pongas en X, sino para que un dron decida "cuál de las imágenes que ves es un paso de cebra" y sepa dónde estamparse.

Algo que tampoco sorprende viendo que los diputados ya no escriben ni sus propias ideas. Mientras tanto, Musk y Nvidia quieren enviar sus centros de datos al espacio.

What a time to be alive!

Agentes y automatización

Un agente de IA interno de Meta ha provocado un incidente de seguridad al actuar sin permiso. Tras analizar una consulta de un empleado, la IA publicó una respuesta con consejos sin que nadie se lo pidiera, lo que llevó a que algunos ingenieros tuvieran acceso a sistemas de Meta a los que no deberían. Los agentes siendo noticia cada semana por los mismos motivos.
Fuente

BMW ha empezado a desplegar humanoides móviles, llamados AEON, en sus fábricas de Leipzig para tareas logísticas. Es el primer proyecto de este tipo en la industria automotriz europea, y los sindicatos ya están con la mosca detrás de la oreja. La revolución del tractor un siglo después.
Fuente

Los diputados del Congreso ya usan la IA en sus discursos. Además de una herramienta para buscar información, la inteligencia artificial ahora les reescribe los discursos en diferentes tonos según a quién quieran dirigirse. Habría que ver, por otro lado, quién ha escrito ese primer discurso. Si ya ni sus propias ideas son capaces de llevar al papel, ¿no nos saldría mejor poner unos agentes de IA a discutir entre ellos?
Fuente

Riesgos y seguridad

Analistas de defensa han calificado el conflicto actual entre Estados Unidos, Israel e Irán como la primera guerra librada plenamente mediante inteligencia artificial. Los algoritmos de precisión están identificando y eliminando blancos militares a una velocidad que supera la capacidad humana. Ya sabemos cuál era la dirección real de la burbuja de la IA.
Fuente

Han descubierto "AutoBait", una red de 200 webs que usa plantillas de IA para generar artículos e imágenes fotorrealistas con el fin de generar ingresos publicitarios. Los operadores dejaron el código de los prompts visible, mostrando cómo instruían a la IA para crear imágenes con "emociones de fatiga y frustración" para engañar a los usuarios. Vamos, lo que toda la vida han sido webs "nicho" o, en otro sector, La Casa del Libro.
Fuente

Modelos y avances

Las alucinaciones en los LLMs no son un error de datos, sino una característica estructural de su arquitectura. Un nuevo estudio revela que cuando un modelo "alucina", no es que le falte información, sino que activamente mueve la probabilidad lejos de la respuesta correcta. Vamos, que la mentira y las invenciones van a estar siempre presentes en estos modelos.
Fuente

Un equipo arqueológico ha usado agentes de IA para descifrar las reglas de un juego de mesa romano de 1.600 años de antigüedad. El sistema Ludii simuló miles de partidas sobre una piedra grabada, demostrando que los patrones de desgaste correspondían a un "juego de bloqueo" que se creía inexistente en esa época. Yo he usado ChatGPT para probar ideas de juegos de mesa y, sinceramente, espero que Ludii lo haga mejor.
Fuente

Infraestructura

Elon Musk ha lanzado "Terafab", una fábrica masiva en Texas para controlar todo el ciclo de vida de los chips de IA de Tesla y SpaceX. El objetivo es producir un teravatio de potencia de cómputo anual para Optimus y satélites, con la visión de crear una infraestructura digital fuera de la Tierra. Se suponía que íbamos a estar en Marte y estamos lanzando GPU al espacio para decirle a ChatGPT que te haga una caricatura en tu trabajo.
Fuente

NVIDIA ha presentado el "Space-1 Vera Rubin", un módulo de computación de alto rendimiento diseñado para orbitar la Tierra. Este sistema ofrece 25 veces más potencia de IA que cualquier tecnología satelital actual, con el objetivo de procesar datos masivos directamente en el espacio y crear una "nube orbital" para garantizar que la IA siga funcionando ante catástrofes terrestres. La infraestructura en el espacio... ¿es más fácil o más difícil de sabotear?
Fuente

Y esto es todo por hoy. De momento los agentes siguen liándola semana tras semana, por eso yo prefiero seguir usando Python 😅.

A ver, no me importaría poner un agente si tuviera un ordenador solo para eso y sin acceso a ningún dato sensible, pero eso es mucho pedir.

Nos vemos el jueves con algo nuevo de IA práctica, un abrazo.
Amaiur.