Los equipos de ingeniería de TI empresarial están escribiendo su propio software con asistentes de codificación de IA, creando agentes que actúan en su nombre y asignando a esos agentes los mismos privilegios de acceso que tienen sus creadores humanos. El cambio ha llevado el papel del director de seguridad de la información a un territorio que no existía hace dos años. Hablando en la conferencia Span Cyber Security Arena, Hrvoje Englman, CISO de Span, dijo que está cambiando lo que más preocupa a los defensores.
La fuerza laboral de Span incluye una población considerable de desarrolladores junto con un grupo más grande de ingenieros. Los ingenieros son la nueva variable. Con la codificación asistida por IA, están creando aplicaciones y agentes personales para automatizar partes de sus propios trabajos. Cada nuevo agente hereda la identidad de su creador, y esas identidades suelen estar sobreaprovisionadas. Los privilegios mínimos siguen siendo una aspiración difícil de hacer cumplir en entornos de producción.
“No puedo ser el bloqueador”, dijo Englman. “No se puede bloquear el progreso. La gente encontrará formas de evitarlo”. Su prioridad es permitir el uso seguro de la IA dentro de la empresa en lugar de prohibirla.
El problema del factor bus se multiplica
El riesgo se extiende más allá del control de acceso. Cuando un solo ingeniero automatiza un proceso de negocio utilizando cinco agentes que interactúan y luego se marcha a otro trabajo, la organización hereda un sistema indocumentado que nadie entiende. Englman llamó a esto una inversión del tradicional problema del factor bus. Anteriormente, la salida de una persona clave creaba una brecha de conocimiento. Ahora los agentes que construyeron siguen funcionando y la empresa no tiene registro de lo que hacen ni por qué.
La influencia del defensor es real, con límites
La IA ha producido avances concretos en el trabajo defensivo. Englman señaló el análisis de registros como un área donde el valor es inmediato. Introducir cientos de megabytes de archivos de registro en una herramienta de inteligencia artificial y pedirle que muestre anomalías o gire en una dirección IP comprime el trabajo que antes les llevaba horas a los analistas. La redacción de políticas es otro caso de uso. Generar un primer borrador a partir del contexto interno puede reducir una tarea de tres días a un solo día, y el ahorro de tiempo aumenta en toda la fuerza laboral.
Trazó una línea más clara en el discurso de los proveedores de centros de operaciones de seguridad autónomos impulsados por IA. La idea de que una IA defensiva luche contra la IA ofensiva en tiempo real, sin humanos involucrados, no coincide con lo que se puede lograr ahora. La ingesta de registros sigue siendo la parte más difícil de ejecutar un SOC, y la ingeniería de detección aún depende de personas que puedan explicar por qué se disparó una alerta.
“Recibes una alerta, pero tu analista no la entiende”, dijo Englman, describiendo el modo de falla que ve en equipos que se apoyan demasiado en herramientas automatizadas. “Y tienes dos millones de alertas, ¿y luego qué?” El aislamiento autónomo de los sistemas sigue estando fuera de nuestro alcance porque la IA no comprende el proceso de negocio. Las decisiones sobre cuándo cerrar un servicio crítico se trasladan al liderazgo superior durante incidentes reales, y ese juicio queda en manos de los humanos.
También rechazó el marco de las infracciones por parte de la industria. La mayoría de los incidentes más importantes se remontan al phishing y al robo de credenciales. Los proveedores que venden SOC impulsados por IA como defensa contra los actores de los Estados-nación están abordando una parte del problema menor de lo que sugiere su marketing.
El modelo de amenaza para un proveedor de servicios.
Span vende servicios de TI a clientes empresariales, lo que duplica su exposición. La empresa es un objetivo por derecho propio y un objetivo para los atacantes que buscan acceso a sus clientes. Una organización de usuarios finales típica puede absorber una infracción y recuperarse. Para Span, la respuesta misma se convierte en el producto expuesto.
Englman dijo que la empresa tiene que poder demostrar que se implementaron controles, que se contuvo la falla y que el incidente se manejó con la misma disciplina que ofrece a los clientes. La reputación es lo que se vende y la negligencia acabaría con el negocio.
Escasez de habilidades, replanteada
La tan discutida brecha de talento en ciberseguridad, en opinión de Englman, está mal planteada. Los solicitantes de nivel inicial abundan. Los profesionales experimentados con cinco o más años de experiencia operativa son escasos, y esa brecha no puede cerrarse rápidamente mediante programas de capacitación. El Centro de Seguridad Cibernética Span ha capacitado a más de 3.000 personas, y Englman dijo que el proyecto es importante precisamente porque el impulso de la industria hacia las herramientas automatizadas amenaza con eliminar los roles junior donde se construyen los futuros expertos.
Su medida para un analista de SOC se centra en si pueden explicar qué significa la alerta y cómo se produjeron las condiciones que la desencadenaron. Sin esa comprensión, un analista que haga una conjetura al cincuenta por ciento sobre la relevancia no es mejor que un modelo que haga lo mismo.
La sabiduría que ha descartado
Cuando se le preguntó en qué sabiduría convencional sobre seguridad había dejado de creer, Englman mencionó la incriminación de los humanos como el eslabón más débil de la cadena. Lo llamó pereza y una forma de cultura de la culpa. La responsabilidad, dijo, recae en el CISO para construir sistemas en los que un usuario que haga clic en un enlace malicioso no deteriore el medio ambiente. Las frágiles defensas que dependen de un comportamiento humano perfecto son un fracaso de diseño.
Más información: Redefiniendo la seguridad de la identidad para la era de la IA agente
