Octa, tecnología de seguimiento en tiempo real Shadow AI público... Fortaleciendo completamente el control de seguridad

En el contexto de un uso desordenado de la inteligencia artificial que evoluciona hacia una amenaza de seguridad, la compañía de gestión de acceso a identidades Okta responde fortaleciendo la detección de agentes de IA no autorizados (es decir, “IA sombra”). El 12 de abril (hora local), Okta anunció que ha añadido en su plataforma de gestión de la postura de seguridad de identidades una función capaz de identificar la IA sombra y rastrear y gestionar sus permisos.

La función introducida, “detección de agentes”, permite comprender sistemáticamente los permisos y el alcance del acceso a datos de los agentes de IA dentro de la organización, ayudando a operar la IA de manera segura dentro del control de seguridad. Esta función puede detectar especialmente agentes de IA generados en plataformas no autorizadas y rastrear en tiempo real las transferencias de datos hacia el exterior de la empresa mediante el proceso de autorización OAuth.

Harish Peri, director del departamento de seguridad de IA de Okta, enfatizó: “Los agentes de IA operan en la capa de aplicación, no en la capa de red o dispositivo, ejerciendo permisos continuos y extensos a través de identidades no humanas.” “Esta nueva función está diseñada para identificar el uso no autorizado de IA y desarrollar estrategias de respuesta.”

Las preocupaciones sobre la IA sombra también se confirman en un informe reciente de Gartner. El informe indica que el 69% de las empresas están rastreando las huellas del uso no autorizado de herramientas generativas de IA por parte de empleados, y se espera que para 2030, más del 40% de las empresas enfrenten riesgos de seguridad o incumplimiento normativo debido a la IA sombra. Okta considera que esta “falta de visibilidad de seguridad” proviene de la rápida proliferación de herramientas de generación de agentes de IA y del aumento en el uso de constructores de IA no completamente verificados.

Con esta actualización, Okta ofrece una vista de seguridad unificada a través de infraestructuras en la nube y ecosistemas SaaS como Oracle, Google, Microsoft y Salesforce, integrando la gestión de identidades no humanas. Esto permite a los administradores identificar a los propietarios, permisos y posibles amenazas de seguridad de todo tipo de agentes de IA (independientemente de si están aprobados o no).

Además, Okta planea ampliar la capacidad de detección a plataformas principales de IA como Microsoft Copilot Studio y Salesforce Agentforce en el primer trimestre del año fiscal 2027. Esta iniciativa busca fortalecer el rastreo de permisos y riesgos asociados a cada agente de IA.

Jenna Cline, vicepresidenta senior de tecnología empresarial, mencionó: “La estrategia de Okta en aplicaciones de IA prioriza la gobernanza sobre la expansión de funciones”, destacando un enfoque continuo basado en controles.

La IA sombra puede evolucionar fácilmente en un proceso de adopción ágil de IA en las empresas hacia tecnologías fuera de control. Por ello, la función mejorada de ISPM de Okta se considera una medida que refleja la evolución de la estrategia de seguridad empresarial, que busca equilibrar la innovación en IA con la seguridad y el control.