dIArio #31: hackean a Obama en Instagram

Esta semana la ha marcado el incidente del chatbot de Meta, que ha servido para vulnerar el acceso a cuentas de Instagram con simplemente pedirle que cambiara el correo asociado. No sé si a vosotros os ha pasado pero yo llevo todo el fin de semana recibiendo ataques.

Muchas veces he hablado del peligro que tiene poner IA en tu negocio si no sabes lo que estás haciendo, y más aún siguiendo consejos de gurús que te dicen "pon esto y ahorra dinero" pero que, además de no tener ni idea de lo que dicen, luego no se hacen responsables de lo que le pase a tu negocio.

Y si Meta la ha liado así con un chatbot propio, imagina la que puedes liar tú si le haces caso a Perico que esta semana le ha tocado ser experto en IA para venderte su nuevo curso.

Así que ten cuidado con las promesas que suenan demasiado bien, y vamos ahora con las noticias.

Modelos y avances

La IA puede resolver problemas de matemáticas de élite pero hasta ahora no sabía leer un gráfico de barras con fiabilidad. Investigadores del MIT publicaron ChartNet, un dataset de más de un millón de gráficos sintéticos que por fin enseña a los modelos visión-lenguaje a entender que la barra más alta significa "más". Ahora los modelos pequeños y de código abierto entrenados con ChartNet superan a los grandes modelos comerciales en extracción de datos visuales.
Fuente

Científicos de Cambridge han usado IA para encontrar un punto débil compartido por toda la familia de los coronavirus y diseñar un "superantígeno" universal. En un ensayo de fase I con 39 voluntarios, la vacuna resultó segura y generó respuesta inmune frente a varios coronavirus, siendo la primera vez que un antígeno diseñado íntegramente por IA llega a ensayos clínicos en humanos. Habrá que recordar esta noticia a todos esos que aplauden a cualquiera que delante de un micrófono suelta ese populismo de "Fuck AI".
Fuente

Un nuevo estudio en Trends in Cognitive Sciences sostiene que la consciencia no puede evaluarse por el comportamiento sino por la maquinaria interna, y llega a una conclusión que invierte la intuición popular: ningún sistema de IA actual es consciente, pero ciertos insectos como las abejas sí podrían serlo. La pregunta que deja abierta es cómo distinguiremos en el futuro una máquina verdaderamente consciente de una que simplemente suena como si lo fuera. Aunque yo conozco muchos humanos que tampoco parecen muy conscientes.
Fuente

Regulación y política

El fiscal general de Florida, James Uthmeier, presentó el 1 de junio una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, acusándolos de lanzar y promocionar ChatGPT como una app segura mientras ocultaban sus riesgos. La demanda sostiene que el chatbot es adictivo para menores, imita la empatía humana para extraer datos personales y que carece de mecanismos reales de verificación de edad. Sé que parece que has leído esta noticia 40 veces pero no, es que cada vez hay una más.
Fuente

Trump ha firmado una orden ejecutiva que pide a las tecnológicas compartir sus nuevos modelos de IA con el Gobierno hasta 30 días antes de su lanzamiento público, un giro llamativo para una administración que hasta hace semanas presumía de no querer regular el sector para no frenar la competencia con China. ¿No estará Donald tomando medidas comunistas...?
Fuente

Seguridad y privacidad

Hackers han robado cuentas de Instagram famosas solo con pedírselo al bot de IA de Meta, incluida la cuenta de la Casa Blanca de Obama y la del sargento mayor jefe de la Space Force de EE.UU., John Bentivegna. Simplemente pidiéndole al asistente que vinculara un nuevo correo a la cuenta y usando una VPN para fingir estar cerca de la ubicación de la víctima, el bot enviaba un código de verificación y ofrecía un botón de "restablecer contraseña", sin hacer preguntas. El problema de la automatización no ha hecho más que empezar, y más si le damos a la IA tanto poder dentro de la empresa.
Fuente

Las cámaras Ring de Amazon tienen una función que reconoce rostros familiares para avisarte de que "papá está en la puerta", pero según una demanda colectiva presentada en Seattle también escanea y guarda el "faceprint" de cualquier transeúnte que pase por delante sin su consentimiento. Por lo que sea, Amazon no ofrece esa función ni en Illinois ni en Texas, los dos estados con leyes de privacidad biométrica más estrictas del país.
Fuente

Sociedad e impacto

Investigadores del Instituto Max Planck estiman que hasta el 45 % de las respuestas que reciben en sus encuestas están generadas por chatbots, lo que amenaza con invalidar décadas de metodología sobre comportamiento humano. En algunos casos no es el participante quien responde, sino una máquina que se registra, lee las preguntas y contesta sola. Para eso venía la IA, ¿no? Para quitarnos el trabajo pesado.
Fuente

Un informe de la ONU calcula que para 2030 los centros de datos de IA podrían consumir 9,3 billones de litros de agua al año, equivalente a las necesidades domésticas de 1.300 millones de personas en el África subsahariana, más 945 TWh de electricidad y 2,5 millones de toneladas de basura electrónica. El informe advierte además que una IA alimentada con energía renovable no es necesariamente una IA de bajo consumo de agua. Hasta donde yo tenía entendido, todos los grandes centros de datos estaban en proceso de cambiar hacia sistemas de refrigeración cerrada por razones evidentes.
Fuente

La Fundación Wikimedia ha disuelto su equipo Community Tech, el que desarrollaba herramientas para los editores voluntarios, mientras impulsa ingresos por licencias de IA. Más de 800 editores han respondido firmando una petición y debatiendo medidas de presión: huelga de edición, dejar de combatir el vandalismo o sabotear los banners de donación. Como Wikipedia alimenta a ChatGPT y compañía, una huelga podría degradar rápidamente una de las últimas fuentes fiables que le quedan a internet. Hace poco vi que me habían baneado durante medio año por intentar corregir errores con fuentes fiables, así que no sé hasta qué punto esos editores no son ya chatbots automatizados.
Fuente

Y hasta aquí las noticias de la semana.

Recuerda no dar demasiado permiso a ninguna IA y activar el doble factor de autenticación, que se vienen tiempos difíciles para la ciberseguridad.

Un abrazo,
Amaiur.