Dirigida por un fundador con más de 21 años de experiencia

contacto@guilda.mx

Caso de éxito · Servicios financieros

Un banco de Estados Unidos pone a sus agentes de IA bajo gobernanza de seguridad

Los agentes de IA entraban a los flujos de ingeniería del banco con accesos que ningún control existente sabía evaluar. Ahora cada agente tiene un responsable, un propósito aprobado y acceso de mínimo privilegio, y el equipo de seguridad del banco ve cuándo alguno los rebasa.

Perfil del cliente

Tamaño
Más de 2,000 empleados
Región
Estados Unidos

El reto

Agentes de IA con accesos, y sin controles hechos para ellos

El banco inició un programa de adopción de IA en toda la empresa para acelerar el desarrollo de software, modernizar sus aplicaciones de negocio y entregar más rápido sus servicios financieros digitales. Conforme las plataformas de desarrollo con IA y los agentes autónomos se volvieron parte de sus flujos de ingeniería, aparecieron riesgos nuevos: datos sensibles y credenciales expuestos a los agentes, prompt injection (inyección de prompts), agentes con más privilegios de los que su trabajo requería y acciones que nadie había autorizado. Los controles de seguridad y de gobernanza de identidades del banco estaban hechos para personas y sistemas convencionales. No tenían forma de evaluar a un agente de IA, revisar sus permisos, observar su comportamiento ni aplicarle políticas durante toda su vida. El banco necesitaba un marco que dejara avanzar rápido la adopción de IA sin perder la supervisión basada en riesgo, la rendición de cuentas clara y la visibilidad continua.

Nuestro enfoque

Cómo lo construimos

Diseñamos e implementamos un marco de gobernanza de seguridad de IA que conecta la identidad de los agentes, la atestación de riesgo, el control de accesos y la detección de amenazas.

  1. Gobernanza alineada con marcos reconocidos

    Definimos las políticas de seguridad de IA, los criterios de riesgo y la rendición de cuentas del banco con base en el NIST AI Risk Management Framework, el NIST Cybersecurity Framework y la guía de OWASP para aplicaciones de modelos de lenguaje y de IA agéntica, para que los controles de IA formaran parte de la gestión de riesgos de toda la empresa.

  2. Agentes de IA gobernados como identidades no humanas

    Cada agente de IA se volvió una identidad bajo la gobernanza del banco, con un responsable, un propósito de negocio definido, permisos de mínimo privilegio, conexiones autorizadas a herramientas y servicios, y una línea base de su comportamiento esperado.

  3. Atestación de riesgo antes de habilitar un agente

    Cada agente se registra con su responsable y su alcance, se evalúan sus permisos y las herramientas a las que se conecta, y se clasifica según su autonomía, la sensibilidad de los datos, su acceso a sistemas y su posible impacto. Sus permisos y casos de uso aprobados se validan y documentan antes de habilitarlo, y se vuelven a evaluar cuando obtiene permisos o herramientas nuevas.

  4. Protección de datos sensibles y contra amenazas de IA

    Los controles atienden la fuga de credenciales, llaves de API y secretos, la exposición de datos bancarios confidenciales, el prompt injection, la ejecución no autorizada de herramientas y los agentes que abusan de sus privilegios o los amplían.

  5. Detecciones para el SOC del banco

    Desarrollamos detecciones para violaciones a las políticas de IA, interacciones anómalas entre agentes y herramientas, accesos fuera de los límites de permisos de un agente, posible exposición de credenciales y datos, comportamientos que sugieren un agente comprometido y cambios de privilegios no autorizados. Alimentan al centro de operaciones de seguridad del propio banco y a su proceso de investigación.

  6. Un esquema de monitoreo que opera el banco

    La identidad de los agentes, la telemetría de seguridad, el análisis de comportamiento y la detección de violaciones a las políticas se combinan, para que el equipo de seguridad del banco distinga la actividad esperada de un agente de las acciones no autorizadas, investigue lo que parece sospechoso y mantenga al día sus revisiones de gobernanza.

Lo que conservó el banco

  • Marco de gobernanza de seguridad de IA

    Políticas, criterios de riesgo y rendición de cuentas para la IA, alineados con el NIST AI RMF, el NIST CSF y la guía de OWASP.

  • Modelo de gobernanza de identidad de agentes

    Responsables, permisos de mínimo privilegio y límites de autorización para cada agente de IA como identidad no humana.

  • Marco de atestación de riesgo de agentes

    Registro, evaluación de privilegios, clasificación de riesgo, atestación y reevaluación de cada agente.

  • Controles de prevención de amenazas de IA

    Controles contra la fuga de secretos, la exposición de datos sensibles, el prompt injection y el uso no autorizado de herramientas.

  • Casos de uso de detección de amenazas de IA

    Detecciones de violaciones a las políticas, comportamiento anómalo de agentes y cambios de privilegios, integradas con el SOC del banco.

  • Esquema de monitoreo de seguridad de IA

    Una forma para que el equipo de seguridad del banco atribuya, analice e investigue la actividad de los agentes.

Resultados

Qué cambió

La adopción de IA se rige por políticas definidas y controles basados en riesgo

La seguridad de IA del banco forma parte de su gestión de riesgos empresariales, sobre marcos reconocidos.

Ningún agente de IA se habilita sin una atestación de su riesgo y sus permisos

Los agentes se vuelven a evaluar cuando obtienen permisos, se conectan a herramientas nuevas o amplían su trabajo.

Cada agente tiene un responsable, una identidad y límites de mínimo privilegio

La actividad de un agente se puede atribuir a un responsable y a un propósito aprobado.

El SOC del banco ahora detecta violaciones a las políticas de IA y actividad no autorizada de agentes

El monitoreo cubre el comportamiento anómalo de los agentes y los cambios en sus privilegios.

Los controles reducen el riesgo de fuga de credenciales, exposición de datos, prompt injection y permisos excesivos

Cada riesgo tiene controles pensados para la forma en que los agentes de IA acceden a datos y herramientas.

El banco puede revisar los riesgos, permisos y comportamiento de cada agente durante toda su vida

La gobernanza continúa después de habilitar un agente, no solo al aprobarlo.

El cliente se mantiene anónimo y dio su permiso para publicar este caso de éxito.

Alcance

Lo que abarcó el trabajo

  • Gobernanza de seguridad de IA
  • Agentes de IA
  • Identidades no humanas
  • Atestación de riesgo
  • Detección de amenazas

Relacionados

Los servicios detrás de este trabajo

Seguridad en IA

Seguridad en inteligencia artificial: gobernanza de la IA con NIST AI RMF e ISO/IEC 42001, revisiones de seguridad, reforzamiento y detección de amenazas.

Gestión de identidades

Gestión de identidades y accesos con Okta y Auth0: configuración de la plataforma de identidad, modelo de accesos, acceso privilegiado y revisiones de acceso.

Detección de amenazas y SIEM

Implementamos tu SIEM en Microsoft Sentinel, Splunk, Elastic Security o Wazuh, con fuentes de logs, reglas de detección y runbooks para tu equipo.

Tu turno

¿Adoptas agentes de IA más rápido de lo que tus controles pueden seguir?

Cuéntanos cómo usan hoy tus equipos los agentes de IA y te mostramos cómo gobernarlos como identidades, validar su riesgo y detectar su mal uso.