Snowflake ha presentado su marco de seguridad Data-Model-Agent para gobernar el despliegue de IA agéntica en la empresa. La propuesta parte de una premisa incómoda: a medida que los agentes ganan autonomía para acceder a datos y ejecutar acciones, la superficie de riesgo se dispara, y las defensas pensadas para aplicaciones tradicionales no bastan.
El marco organiza la seguridad en tres planos —datos, modelo y agente— y articula varias defensas concretas. Entre ellas, protección frente a inyección de prompts (uno de los vectores de ataque más citados contra sistemas basados en LLM), gobierno zero-copy para que los agentes operen sobre los datos sin replicarlos fuera del perímetro gobernado, e identidad de agente auditable, de modo que cada acción quede trazada y atribuible. La idea es tratar al agente como un actor de primera clase dentro del modelo de seguridad, con su propia identidad y sus propios permisos, en lugar de como una extensión difusa del usuario.
El anuncio llega cuando prácticamente todos los grandes proveedores de plataformas de datos —de Databricks a Microsoft— están publicando sus propios marcos de gobierno para la IA agéntica. La convergencia de discurso es reveladora: la conversación ha pasado de «qué pueden hacer los agentes» a «cómo evitar que hagan lo que no deben». La inyección de prompts, la fuga de datos a través de las respuestas del agente y la falta de trazabilidad son las tres preocupaciones recurrentes.
Para responsables de datos y seguridad en España, marcos como este son útiles menos como producto cerrado y más como checklist de requisitos. Antes de poner un agente a operar sobre datos corporativos conviene exigir respuestas claras a tres preguntas: cómo se contiene la inyección de prompts, si el agente accede a los datos sin copiarlos fuera del entorno gobernado, y si cada una de sus acciones queda registrada y es atribuible. La normativa europea sobre IA y protección de datos hará que estas garantías dejen de ser opcionales.
Relacionado en Dataprix: gobernanza de datos.
Fuente: Snowflake