Summer Yu no es la empleada más famosa de Meta. El director de «Investigación de seguridad y alineación de superinteligencia» publicó una foto de su perro paseando por la playa y un mensaje sobre la prueba de la integridad del asistente de IA. Tiene un número bajo de seguidores en las redes sociales.
Pero por un día de febrero, Summer Yu se convirtió en la persona de la que más se hablaba en Meta. No para lanzar un producto nuevo y sofisticado ni anunciar un gran avance en la IA agente. Se convirtió en la persona de la que más se habló en Meta por haber sido atrapado.
«No hay nada que te guste más que decirle a tu OpenClock que ‘confirme antes de actuar’ y ver cómo tu bandeja de entrada se borra en rápida sucesión», escribió Yue en X, una publicación que ahora tiene casi 10 millones de visitas. «No podía sacarlo de mi teléfono. Tuve que correr hacia mi Mac Mini como si estuviera desactivando una bomba».
OpenClaw es un «agente autónomo», un producto de inteligencia artificial que puede realizar tareas de forma independiente. El favorito de Silicon Valley, se ofrece para ser su asistente administrativo constante, la «IA que realmente hace las cosas». Dale acceso a tu diario, tu correo electrónico, tu vida y te ahorrará tiempo y estrés, afirman los desarrolladores del producto. La primera frase en el sitio web de OpenClaw dice: «Borra tu bandeja de entrada, envía correos electrónicos, administra tu calendario, te registra para vuelos».
Yue admite que cometió un «error de novato». Probó el asistente en una pequeña lista de correo electrónico de «juguete» y luego la distribuyó en toda su bandeja de entrada que era demasiado grande para las indicaciones de seguridad que usó para el piloto («Consulta conmigo»). Pero si incluso un «director de superinteligencia» en Meta tiene dificultades para navegar en el mundo de la IA agente y los «efectos de compactación», ¿qué esperanza hay para el resto de nosotros?
Lea también: CEO de Qualcomm: ‘La resistencia es inútil’ a medida que se acerca la revolución móvil 6G
Es una conversación vital, tan importante que el error de Yue se debatió en el escenario principal esta semana en el Mobile World Congress en Barcelona, la reunión tecnológica más grande del mundo.
«Por supuesto, todos aquí en el Congreso Mundial están charlando sobre OpenClaw y cómo podemos utilizar agentes», dijo Kate Crawford, profesora de investigación de la Universidad del Sur de California.
«Pero luego vimos que el jefe de seguridad de IA de Meta usó OpenClaw y borró toda su bandeja de entrada. Ese es el jefe de seguridad de Meta. Entonces, si tiene un problema, creo que todos deberíamos preguntarnos: ‘¿Cómo nos aseguramos de que estos sistemas sean realmente sólidos, cómo nos aseguramos de que se prueben rigurosamente? ¿Cómo nos aseguramos de que podemos confiar en ellos?’ Y ese es realmente el problema más difícil de afrontar, ¿no?
correcto ¿Quién es responsable si algo sale mal? ¿usuario? ¿El desarrollador? ¿Falta de reglas? Cuando la realidad de la IA choca con la promesa de la IA, ¿qué hacemos?
La bandeja de entrada de Yue sólo puede ser de suma importancia para él. Cuando se trata de la relación entre la tecnología, digamos, nuestra salud o, según señala la tecnología antropológica, la defensa de las naciones, es un asunto diferente. No hace mucho que Grok, el robot de inteligencia artificial de xAI, estaba «desnudando» imágenes de mujeres y niñas para disgusto de millones. Las amenazas de acciones gubernamentales y estatales eventualmente llevaron a un cambio de enfoque.
‘¿Cómo nos aseguramos de que estos sistemas estén realmente reforzados, cómo nos aseguramos de que sean rigurosamente probados…?
Kate Crawford, profesora investigadora de la Universidad del Sur de California
«¿Cómo se crea realmente la rendición de cuentas?» -Preguntó Crawford. «Es algo que todos queremos. Si va a empezar a utilizar agentes para reservar sus vuelos y concertar sus citas médicas y actividades más íntimas y confiables en su vida diaria, querrá saber que esa información estará protegida.
«Entonces, ¿cómo se verifica eso? ¿Cómo se asegura de que eso esté sucediendo? Si miramos lo que ha sucedido en el espacio tecnológico durante los últimos 10 años, desafortunadamente hemos visto mucho lavado de cuentas, que es cuando las empresas pueden decir, bueno, no lo sé. Quiero decir, el algoritmo lo hizo».
lo cual es insuficiente. Crawford exige total transparencia y una auditoría del «tren de agentes», un proceso de principio a fin que revela qué salió mal y quién es el responsable. Las empresas de tecnología necesitan escuchar y actuar. Habrá un número creciente de U de verano, y eso ciertamente significa mucho más que unos pocos correos electrónicos perdidos y una publicación honesta en X.
