El rol de la privacidad en el gobierno de la IA
Las empresas están dedicando una gran partida de su presupuesto a la Inteligencia Artificial, pero, en muchos casos, no tienen claro por dónde empezar ni cuál es la gobernanza de esta tecnología. La función de Privacidad jugará un rol fundamental en la construcción del marco de gobierno de la IA, y contribuirá a reducir los costes de cumplimiento y evitar procesos innecesarios.
El papel de la función de privacidad en la IA responsable y su uso
No existe la IA sin la privacidad. Los datos son la gasolina de la IA, y los datos personales son, irremediablemente, una gran parte de los datos necesarios para construir, utilizar y desarrollar sistemas de AI. La gran mayoría de los requerimientos de los datos que se recogen en el EU AI Act se superpone a la regulación de la GDPR, (por diseño y por defecto, evaluaciones de impacto, evaluaciones de riesgo, manejo de incidentes, etc.) y esto trae consigo una familiaridad que facilita la rápida evaluación de los requisitos que exige el Acta de IA.
Además de cumplir con las nuevas reglas bajo el Acta de IA de la UE, la GDPR sigue aplicándose en paralelo al mismo procesamiento de datos, y las respectivas evaluaciones deben ir de la mano. Los responsables de privacidad también están acostumbrados a lidiar con situaciones contextuales, garantizar la transparencia, evaluar aspectos éticos del procesamiento de datos y, lo que es más importante, construir marcos de gobierno de privacidad responsables y confiables, todo lo cual también es aplicable en un contexto de gobierno de IA.
La relevancia del tamaño, ubicación y naturaleza del negocio de su organización en la gestión del perfil de riesgo
El marco de gobierno de la IA debe adaptarse al tamaño, industria, disponibilidad de recursos y objetivos estratégicos de la organización para gestionar eficazmente los riesgos y garantizar un uso responsable de la IA.
Al alinear el marco de gobierno con estos factores, las empresas pueden asegurarse de que las tecnologías de IA se desarrollen y desplieguen de manera que respalden los objetivos comerciales a la vez que se adhieren a los estándares éticos y a los requisitos regulatorios.
Las grandes organizaciones con operaciones de IA diversas y complejas requieren un marco de gobierno de IA más completo, mientras que las pequeñas y medianas empresas (PYMES) pueden tener menos aplicaciones de IA y centrarse en áreas clave de riesgo sin la necesidad de una burocracia extensa. De manera similar, si la organización se encuentra en una industria fuertemente regulada, el marco de gobierno de la IA deberá abordar requisitos regulatorios adicionales estrictos, mientras que para las organizaciones donde la IA no es central para el modelo de negocio, el marco de gobierno puede centrarse en minimizar los riesgos en aplicaciones específicas sin necesidad de una supervisión extensa en todas las funciones comerciales.
Beneficios y desafíos de trabajar en IA más allá de los datos personales
El alcance y mandato existentes de la función de privacidad ofrecen gran parte del conocimiento requerido para un marco de gobierno de IA. Puede influir positivamente en el desarrollo ético de la IA y ayudar a dar forma a sus políticas, lo cual tiene un impacto estratégico importante, ya que contribuye a generar confianza mientras proporciona la capacidad de mantenerse a la vanguardia tanto de la tecnología como de la ley de privacidad.
Sin embargo, ir más allá de los datos personales conlleva una serie de desafíos, que incluyen las complejidades de navegar por otras áreas de la ley y el cumplimiento, lidiar con un panorama regulatorio en constante cambio, y equilibrar la innovación con la privacidad. Para obtener una mejor comprensión del mundo de la IA, la gente debe ampliar su ámbito a otras áreas menos familiares y pensar más allá de su experiencia actual.
Colaboración efectiva entre los principales interesados y la función de IA
La privacidad juega un papel importante en el gobierno de la IA, pero también es imperativo que todos los departamentos interesados (por ejemplo, adquisiciones, legal, seguridad, privacidad, cumplimiento, legal, riesgo, negocios, finanzas, etc.) colaboren eficazmente a través de equipos multifuncionales para la integración exitosa de la IA en la organización. Para lograr esto, se debe asegurar el patrocinio ejecutivo para las iniciativas conjuntas de IA, con el fin de garantizar que se prioricen y se les asignen recursos adecuadamente, al mismo tiempo que se asegura que los proyectos de IA se alineen con los objetivos y metas de la organización.
Durante la próxima Conferencia de ISACA Europa 2024 del 23 al 25 de octubre, Ulrika Dellrud explorará más a fondo el tema de “El papel de la privacidad en el gobierno de la IA” junto con el co-panelista Punit Bhati.
Para obtener más información sobre la Conferencia de ISACA Europa 2024 y para registrarse, visite la Conferencia de ISACA Europa.
