Las empresas financieras y las aerolíneas globales están tomando medidas una tras otra para impedir que agentes externos de inteligencia artificial (IA) accedan a sus sistemas. Superficialmente citan la protección de la privacidad y la seguridad, pero los analistas dicen que la preocupación subyacente es que los asistentes de IA podrían usurpar el punto de contacto con el cliente y el liderazgo de la industria en manos de los desarrolladores de IA.
Jamie Dimon, director ejecutivo de JPMorgan Chase (JPM), aclaró en la conferencia telefónica sobre ganancias del mes pasado que el banco no permitirá que agentes externos de IA accedan a las cuentas de los clientes. Dijo que no queremos agentes no autorizados. «No podemos permitir que agentes externos entren en la empresa. Es demasiado arriesgado tanto para los clientes como para JPMorgan». El argumento es que un marco en el que un cliente de un banco entrega las credenciales de su cuenta a una IA y la IA inicia sesión como si fuera el cliente crea riesgos que no se pueden controlar en términos de seguridad y responsabilidad.
JPMorgan Chase, sin embargo, ha dejado espacio para el acceso a través de interfaces de programación de aplicaciones (API) preaprobadas sujetas al consentimiento del usuario y a los procedimientos establecidos. La condición es que los desarrolladores de agentes de IA deben consultar al banco desde la etapa de desarrollo sobre las funciones de inicio de sesión, la autorización por transacción, la gestión de derechos de acceso y las reglas de responsabilidad por incidentes.
La industria aérea está siguiendo el mismo camino. United Airlines (UAL) anunció el día 11 (hora local) que restringirá el acceso no autorizado a su sitio web y aplicación por parte de asistentes personales de inteligencia artificial creados por operadores externos. Estas restricciones cubren no sólo las conexiones directas a sus sistemas por parte de asistentes de IA, sino también rutas indirectas a través de agencias de viajes e intermediarios de reservas. La empresa citó la seguridad de las cuentas y la seguridad de la aviación. Dijo que la información personal podría quedar expuesta cuando los usuarios proporcionen credenciales de inicio de sesión a la IA, y que los errores en el juicio de la IA podrían dar lugar a compras de billetes no deseadas, cambios de reservas o reducciones de millas. También especificó el requisito de que los pasajeros confirmen personalmente en el check-in que no hay materiales peligrosos en su equipaje, un paso que no puede automatizarse sin verificación humana.
United Airlines ha especificado que sólo está restringiendo las herramientas automatizadas externas que acceden a sus sistemas «sin autorización previa». El resultado es que cualquiera que consulte con antelación a la aerolínea ofrece servicios de reserva de billetes a través de asistentes de IA.
Las principales plataformas de comercio electrónico también están subiendo el listón. El agente de IA personal de Meta ( META ), «Muse», presentado en septiembre, superó los 10 millones de descargas dentro de los 40 días posteriores al lanzamiento y es visto como un producto que lleva la IA de los agentes de consumo a la corriente principal. Con el permiso del usuario, ayuda con la gestión financiera, como la elaboración de presupuestos, la negociación de facturas y la cancelación de suscripciones innecesarias. eBay, sin embargo, dijo que Muse no leyó con precisión sus listados de productos, precios e información de envío, y que estaba restringiendo la recopilación y el acceso no autorizados a datos con fines de capacitación en IA. Los pedidos automatizados realizados por IA sin confirmación humana ya están prohibidos según los Términos de servicio. Amazon ha anunciado oficialmente que bloqueará el acceso de Muse a sus sistemas.
Se cotizan empresas públicas lógicas de seguridad. Argumentan que el acceso no autorizado de IA a sus sistemas aumenta la amenaza de piratería y dificulta el cumplimiento de las tarifas de verificación de clientes y las reglas de seguridad requeridas en las industrias reguladas. En finanzas, la preocupación es que los agentes de IA puedan realizar transacciones no autorizadas o ser explotados para delitos financieros, acceder a áreas de la cuenta que el cliente no autorizó o crear disputas en las que los usuarios luego nieguen transacciones asignadas a la IA, todo lo cual se traduce en responsabilidad no regulada.
El problema es que tales medidas de bloqueo pueden reducir los beneficios de los asistentes de IA y reducir la rentabilidad de los servicios. Si los agentes personales de IA no pueden realizar tareas básicas como la reserva de vuelos o la gestión de cuentas, la utilidad para el consumidor se reduce y el camino hacia la monetización para los desarrolladores de IA se estrecha. Por el contrario, una vez que los asistentes de IA lleguen a la etapa de comparar las tasas y tarifas de depósito de las instituciones financieras y recomendar a los clientes que cambien a productos más favorables, las instituciones financieras establecidas inevitablemente enfrentarán costos más altos para evitar los incumplimientos de los clientes.
La firma consultora McKinsey dijo en un informe a principios de este año que si los usuarios delegan la gestión financiera a asistentes de IA, ya no necesitarán abrir aplicaciones bancarias o llamar a los centros de atención al cliente, y que los agentes de IA podrían surgir como una interfaz principal para la banca en los próximos tres a cinco años, potencialmente asumiendo el control de las relaciones con los clientes por parte de los bancos. Esto podría significar que se crea una estructura en la que quien controla la puerta de enlace de transacciones monopoliza la información de los clientes y las oportunidades de ventas.
En última instancia, los últimos movimientos se leen como el primer capítulo de la lucha sobre quién controla el nuevo orden distribuido de la era de los agentes de IA. Las instituciones financieras, las aerolíneas y las plataformas de comercio electrónico han creado puertas de enlace de «autorización previa» para proteger los datos de sus clientes y los puntos de contacto de las transacciones, y los desarrolladores de inteligencia artificial ahora se enfrentan a la tarea de asegurar la capacidad de negociación para pasar a través de esas puertas de enlace. Los observadores del mercado dicen que la pregunta clave es si los modelos de acceso autorizado basados en API se extenderán o si el bloqueo plataforma por plataforma se consolidará hasta convertirse en un estándar de la industria.
(etiquetas-traducción

