Nuevos vectores de ataque basados en la IA
La implementación de nuevos ciclos e infraestructuras, sumada a la falta de visibilidad unificada, expone a las organizaciones a nuevos tipos de ataque.
Buscar
POR QUÉ ES IMPORTANTE
¿Quiere saber cómo abordamos la seguridad de la IA? Leer el blog
La adopción acelerada de la IA y el ML desemboca en la corrupción de los modelos, el uso indebido de los modelos de IA y la exposición no deseada de los datos.
¿Quiere saber cómo abordamos la seguridad de la IA? Leer el blog
El peligro de la proliferación de modelos
La ausencia de un inventario de IA puede ser el caldo de cultivo perfecto para los modelos de IA no autorizados, el incumplimiento de las normativas y la exfiltración de datos a través de las aplicaciones basadas en la IA.
Falta de gobernanza
La nueva legislación en materia de IA impone controles estrictos al uso de la IA y de los datos de clientes de los que beben las aplicaciones basadas en esta tecnología.
Ventajas de alto nivel
Protección y control de la infraestructura, el uso y los datos de la IA
Exprima al máximo las ventajas de la IA y de los modelos de lenguaje de gran tamaño (LLM) y su potencial transformador sin poner en riesgo su organización. La solución AI Security Posture Management (AI-SPM) de Prisma® Cloud le brinda visibilidad y control de los tres componentes clave de la seguridad de los sistemas de IA: los datos que utiliza para el entrenamiento o la inferencia, la integridad de los modelos de IA y el acceso a los modelos que tenga implementados.
- Detecte usos inseguros o no autorizados de sus modelos.
- Reduzca el riesgo de exposición de los datos de los sistemas de IA.
- Garantice el cumplimiento de las normativas vigentes y de las que están por llegar.
Infografía: análisis del riesgo de la IA
- Clasificación de los datos de entrenamiento
- Gobernanza del acceso a los modelos
- Inventario de modelos en uso
- Prevención del uso indebido de la IA
- Análisis de las rutas de ataque a la IA
Visibilidad del ecosistema de aplicaciones de IA
Descubra todas las aplicaciones de IA, sus modelos y sus recursos asociados. Identifique y rastree el linaje de los componentes de IA utilizados en las aplicaciones.
Detección de aplicaciones de IA
Descubra todas las aplicaciones de IA, sus modelos y sus recursos asociados.
Linaje de la IA
Identifique y rastree el linaje de los componentes de IA y las fuentes de datos utilizadas en las aplicaciones.
Inventario de modelos
Clasifique los modelos de IA implementados e identifique las actualizaciones.
Análisis de riesgos de los modelos de IA
Identifique vulnerabilidades en la cadena de suministro de la IA y encuentre modelos con errores de configuración y recursos en la nube relacionados que puedan facilitar la manipulación, el uso indebido y el robo.
Prevenga el robo de modelos y otros riesgos
Identifique los riesgos que plantean los adversarios para crear un equivalente funcional.
Encuentre errores de configuración
Reduzca el número de modelos e instancias de computación con privilegios excesivos.
Evite el diseño de complementos poco seguros
Identifique los agentes y las cargas de trabajo vulnerables que tengan privilegios excesivos.
Seguridad de los datos en todos los recursos de los modelos
La manipulación de los datos de los modelos puede introducir vulnerabilidades y sesgos, exponer datos y ocasionar vulneraciones de la privacidad de los datos, infracciones del cumplimiento normativo y riesgos de seguridad.
Clasifique sus recursos de IA
Localice datos confidenciales en los datos de entrenamiento y consulta, las bibliotecas, las API y los flujos de datos de los que beben los modelos de IA.
Supervise los datos confidenciales
Vigile y regule la exposición de los datos, el riesgo de envenenamiento, las infracciones relacionadas con la privacidad y las brechas de seguridad.
Priorice las vulnerabilidades
Controle la infraestructura en la que se aloja la IA que accede a datos confidenciales.
Un partner de confianza para empresas pioneras de todo el mundo
Descubra cómo estos clientes mejoran la protección de sus datos con Prisma Cloud.
Solicite una demostración con un profesional de la IA
Fuentes
«Data Security Tip Sheet» (disponible en inglés), Palo Alto Networks, agosto de 2023; «Estudio Total Economic Impact™ sobre Prisma Cloud de Palo Alto Networks», Forrester Consulting, noviembre de 2023.