Durante la última década, los responsables de la ciberseguridad se han centrado en proteger los sistemas, las redes y los datos. Esto sigue siendo fundamental. Sin embargo, la inteligencia artificial está introduciendo una nueva categoría de risk la mayoría de las organizaciones aún no están preparadas para gestionar.
La integridad de los conocimientos que alimentan nuestros AI .
Cómo es la cadena de suministro AI
La mayoría de AI empresariales se basan en complejos flujos de información: no solo el modelo en sí, sino todo lo que se introduce en él:
Esto da lugar a algo muy similar a lo que vimos hace años con el ecosistema del software: una cadena de suministro del conocimiento. Y, al igual que las cadenas de suministro del software, estos canales pueden ser manipulados.
Los riesgos emergentes
El resultado no siempre es una violación tradicional de la seguridad. El resultado puede ser algo mucho más sutil: decisiones empresariales basadas en información errónea.
Los marcos están empezando a abordar esta cuestión
Los responsables de seguridad ya están familiarizados con los marcos que empiezan a abordar este reto:
Estos marcos hacen cada vez más hincapié en la procedencia de los datos, la gobernanza de los modelos, la supervisión humana y el seguimiento continuo de AI . La dirección a seguir está clara, aunque la mayoría de las organizaciones aún no la hayan puesto en práctica.
El papel del CISO evolucionando
En la práctica, esto significa que nuestras responsabilidades se están ampliando de manera fundamental.
Ya no nos limitamos a proteger las infraestructuras.
Nos estamos convirtiendo en guardianes de la integridad de la información.
En una empresa AI, puede que la cuestión más importante ya no sea si el sistema es seguro, sino si se puede confiar en los conocimientos que utiliza.
Lo que esto implica en la práctica
Garantizar la seguridad de la cadena de suministro del conocimiento implica ampliar los controles de seguridad para que abarquen:
Reflexión final
Las organizaciones que empiecen hoy mismo a proteger sus cadenas de suministro de conocimiento estarán mucho mejor preparadas para la próxima fase de AI .
Las que no lo hagan se verán obligadas a reaccionar bajo presión —por parte de los organismos reguladores, los clientes y los atacantes— ante fallos que eran totalmente previsibles.
Asegura tu cadena de suministro AI
OASAT OASF OASAT OneCompliant abordan la procedencia de los datos, RAG , la gobernanza de los modelos y la integridad del conocimiento, es decir, los controles de los que carecen la mayoría Gobernanza IA .