Definición de Controles, Procesos y Estructuras para el Diseño de un Sistema de Inteligencia Artificial Responsable

Abstract

Con el apogeo de la inteligencia artificial, el hombre utiliza ésta, pero también con cada acción inevitablemente deja información que entrenará algoritmos de IA que tomarán decisiones automáticas. En este contexto, en occidente han surgido diferentes propuestas para establecer límites éticos y responsables para el uso de IA y la información personal. Este trabajo analiza los riesgos actuales del uso de la IA, las autorregulaciones de las grandes empresas que la desarrollan y la utilizan (Google, Meta, Amazon, Open AI y Microsoft), las reglamentaciones vigentes en la Unión Europea, como las directrices para una IA fiable (2019), el reglamento general de protección de datos (2016), el reglamento de la IA (2024), así como diferentes iniciativas de investigadores y de la academia (Cisco Systems - Universidad de Oxford, Universidad de Stanford) y las combina para ofrecer a las empresas de occidente, una herramienta o marco de trabajo que les permita evaluar su nivel de cumplimiento de IA responsable conforme la normativa vigente para apoyarlos a definir los controles, procesos y estructuras necesarias para ofrecer productos o servicios de IA concebidos, desarrollados e implementados responsablemente, que estén centrados en el ser humano sin arriesgarlo a él o a sus derechos fundamentales. Con la combinación de las iniciativas de occidente se llegó a 181 preguntas finales (171 relacionadas al producto o servicio de IA y 10 acerca de la empresa), que se aplicaron a una empresa para evaluar su nivel de IA responsable. Como resultado se obtuvo que la empresa alcanzó el nivel global 2 (en una escala de 5) de IA responsable con 422 puntos y un nivel ponderado de IA responsable de 2,4294 que coincide con el nivel global. También se evalúo el nivel de cada área para identificar recomendaciones específicas para afianzar el nivel 2 y llevarla al nivel 4 para ser considerada IA responsable.