Según Andrew Padd, director general de operaciones de defensa cibernética, el Commonwealth Bank de Australia ha desarrollado su propia herramienta de búsqueda de amenazas de IA porque los proveedores han tardado demasiado en desarrollar herramientas que puedan hacer frente a las amenazas emergentes impulsadas por la IA.
Hablando en la Cumbre de Gestión de Riesgos y Seguridad de la firma de analistas Gartner en Sydney el martes, Padd dijo que se unió al banco hace seis años cuando registraba 80 millones de alertas de amenazas diarias. Esa cifra ahora supera los cuatro mil millones y dijo que la IA es un factor de crecimiento.
Padde dijo en el evento que el banco investigó ataques como correos electrónicos y sitios de phishing y encontró el mismo código, a veces con artefactos claros de herramientas de codificación de inteligencia artificial, en diferentes ataques.
«La tentación ha cambiado, pero el backend sigue siendo el mismo», dijo. Desde la llegada de la IA, el número de ataques detectados por los bancos también ha aumentado.
«Cuando me uní (hace seis años), recibíamos 80 millones de señales por semana», dijo Pad. «La semana pasada fueron 400 mil millones».
«No se puede gestionar eso con las ciberdefensas tradicionales».
A Paddy le preocupa que la magnitud de la amenaza también acabe con su carrera. Dijo que el banco ahora contrata graduados con habilidades en ciberseguridad, un cambio con respecto a su propia trayectoria profesional en la que los trabajadores de TI que iniciaban su carrera comenzaron en una mesa de ayuda y aprendieron sobre seguridad de la información en el trabajo. Los graduados en ciberseguridad ahora operan en un entorno de alto estrés que representa un desafío para la salud mental, dijo.
«Una cosa que realmente me preocupa es retirarlo de la mesa», dijo Pad.
«Quería que nuestros analistas de primer nivel tuvieran acceso al conocimiento que tiene nuestro personal superior, de la forma más rápida posible», añadió. «Ese fue el punto de inflexión: ¿Cómo puedo eliminar la escala de la mesa y cómo me aseguro de que todos nuestros agentes estén trabajando en cibernética dentro de 20 años» en lugar de agotarse?
La respuesta del banco fue construir su propia herramienta de inteligencia artificial que toma información sobre amenazas de fuentes como nuevas investigaciones, la analiza utilizando los propios datos del banco e identifica amenazas que podrían representar riesgos para sus extensos sistemas heredados, infraestructura local, SaaS y cargas de trabajo alojadas en la nube.
Pade dijo que era necesario desarrollar la herramienta porque los proveedores de seguridad de la información no pueden mantenerse al día con las amenazas emergentes y los bancos no pueden darse el lujo de esperar por un producto. Dijo que el banco necesitaba dos días antes para evaluar la gravedad de la amenaza emergente y formular una hipótesis sobre su riesgo. El agente lo hace en 30 minutos y genera el informe.
- El banco revierte la decisión de reemplazar a 45 empleados de servicio al cliente con chatbots de inteligencia artificial
- Los Crips pagan para acosar a los destinatarios describiendo transacciones abusivas en extractos bancarios
- Pérdida de datos de Combank: la no divulgación fue bastante razonable
- Commonwealth Bank: el software defectuoso pasó por alto nuestro blanqueo de dinero
«La IA no es determinista», dijo Pad. «Así que tuvimos que encontrar una manera de poner el punto decisivo en un flujo no programado. Eso fue un verdadero cambio de mentalidad para nuestros equipos rojos».
El banco ahora intenta asignar resultados deterministas a los ataques, para que sus agentes puedan hacer predicciones más repetibles.
Los agentes desarrolladores han demostrado ser inteligentes. Pad dijo que su equipo pidió ayuda a los científicos de datos del banco, ya que ya están capacitados para crear aplicaciones de IA que, según él, representan «IA verdadera» en lugar de «automatización con esteroides».
El primer intento de crear herramientas para los equipos de seguridad de la información de los bancos «no resolvió el problema», admitió Padde. Una herramienta útil surge una vez que el personal de seguridad de primera línea trabaja con los científicos de datos.
«Dejar el problema por alto y esperar una solución no fue la respuesta», dijo Pade. «Ellos conocían la IA, nosotros conocíamos los resultados. Las personas más cercanas a su problema podían resolverlo».
El jefe de seguridad dijo que los bancos ahora están «aprendiendo cómo integrar la IA para romper la monotonía de nuestros días» y sugirió que todas las organizaciones deberían hacer lo mismo dado que la IA significa que los ciberdelincuentes pueden llevar su volumen de ataques a nuevas alturas.
«Veréis ataques como nosotros, nos guste o no», afirmó. «Les preguntaría a sus equipos: ‘¿Cómo estamos resolviendo ese problema?'» ®
