«IA y datos sensibles» es el tema que propone Luciano Muñoz, ingeniero de ITQ Latam
La gestión de la información, y sobre todo cuando se trata de datos sensibles, sin duda, está cada día más expuesta debido al aumento de la ciberdelincuencia. En efecto, uno de los principales riesgos es que las plataformas públicas de IA no garantizan un correcto tratamiento de la información sensible.
Y es que, al utilizar plataformas públicas para procesar información sensible, la información entregada al modelo podría ser utilizada para reentrenar el modelo u otro fin no declarado. Por lo mismo, es importante clasificar la información según su grado de sensibilidad y también aplicar controles, ya sean técnicos o administrativos, para asegurar el correcto tratamiento de la información por parte de los usuarios de la organización al trabajar con modelos de IA.
Ver también: Diversidad en el retail mexicano: ¿Uniformidad o variedad dominará?
Por otro lado, existen riesgos basados en ataques maliciosos mediante el uso de IA. En este sentido, también las herramientas de ciberseguridad disponen de métodos de protección automatizada, diseñados para prevenir este tipo de ataques. De esta manera, se hace relevante la adopción de herramientas que mapeen el comportamiento habitual de las plataformas, entendiendo a un nivel más profundo qué puede ser considerado malicioso o generado por IA.
Para una implementación responsable de IA en entornos críticos, que permita a las áreas de ciberseguridad corporativa prevenir y enfrentar estos desafíos, es clave la adopción de políticas y estándares adecuados. Así, en el contexto de la ciberseguridad, se mantienen vigentes estándares SGSI (Sistema de Gestión de Seguridad de la Información), como la ISO 27001, o el marco de NIST, donde se plantea la gestión de riesgos y controles que también son aplicables a entornos de IA.
Ver también: Diversidad en el retail mexicano: ¿Uniformidad o variedad dominará?
Varias organizaciones están en proceso de desarrollo y adopción de modelos de IA privados para uso corporativo, garantizando así el correcto tratamiento de la información.
