Tecnologías Específicas

Ingeniería del Software

Descripcion y Objetivos

El Reglamento de Inteligencia Artificial establece un marco normativo y jurídico único para los sistemas de inteligencia artificial que operen en la Unión Europea. Su fin es mitigar los riesgos que estos sistemas suponen para la seguridad europea y los derechos fundamentales de los ciudadanos. Este tipo de documentos (estándares, normas, recomendaciones, reglamentos...) recoge un conjunto de buenas prácticas para el desarrollo y aseguramiento de la calidad de sistemas; en este caso, de sistemas de inteligencia artificial.

El cumplimiento de estándares es una labor compleja. Por ejemplo, sus documentos suelen ser ambiguos, imprecisos y difíciles de entender, y deben interpretarse. Presentan consideraciones generales y genéricas para todos los sistemas bajo su alcance, y estas consideraciones deben enlazarse con las características concretas de un sistema dado. Además, normalmente se requiere la determinación y la gestión de la información de una gran cantidad de diferentes necesidades de cumplimiento, como actividades a ejecutar, artefactos a crear, técnicas a utilizar y roles a involucrar. Como apoyo a la resolución de estos retos y para facilitar el cumplimiento, se ha recomendado el uso de modelos que indiquen cómo cumplir con estándares y de herramientas basadas en estos modelos.

El propósito de este trabajo es desarrollar (1) un modelo que defina, de manera general, cómo cumplir el Reglamento de Inteligencia Artificial y (2) una herramienta con la que crear instancias del modelo para sistemas específicos.

 

Metodología y Competencias

Para este trabajo se seguirá de manera general un ciclo de desarrollo iterativo. Tras una primera fase de estudio del dominio de aplicación, se realizarán varias iteraciones de análisis, diseño, implementación y pruebas. No obstante, existirá libertad en la ejecución de estas tareas con el fin de poder explorar, probar y revisar distintas soluciones.

Las competencias que se trabajarán incluyen:

• [IS1] Capacidad para desarrollar, mantener y evaluar servicios y sistemas software que satisfagan todos los requisitos del usuario y se comporten de forma fiable y eficiente, sean asequibles de desarrollar y mantener y cumplan normas de calidad, aplicando las teorías, principios, métodos y prácticas de la Ingeniería del Software
• [IS2] Capacidad para valorar las necesidades del cliente y especificar los requisitos software para satisfacer estas necesidades, reconciliando objetivos en conflicto mediante la búsqueda de compromisos aceptables dentro de las limitaciones derivadas del coste, del tiempo, de la existencia de sistemas ya desarrollados y de las propias organizaciones.
• [IS4] Capacidad de identificar y analizar problemas y diseñar, desarrollar, implementar, verificar y documentar soluciones software sobre la base de un conocimiento adecuado de las teorías, modelos y técnicas actuales.
• [IS6] Capacidad para diseñar soluciones apropiadas en uno o más dominios de aplicación utilizando métodos de la ingeniería del software que integren aspectos éticos, sociales, legales y económicos.

 

Medios a utilizar

Los medios a utilizar son los básicos para el desarrollo de aplicaciones software, como un ordenador, un lenguaje de análisis y diseño (UML), un lenguaje de programación (Java), y un entorno de desarrollo (Eclipse).

 

Bibliografía

EU AI Act: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024R1689

Panesar-Walawege, R.K., Sabetzadeh, M., Briand, L., Coq, T.: Characterizing the Chain of Evidence for Software Safety Cases: A Conceptual Model Based on the IEC 61508 Standard. Third IEEE International Conference on Software Testing, Verification and Validation (ICST 2010)

de la Vara, J.L., Ruiz, A., Attwood, K., Espinoza, H., Panesar-Walawege, R.K., Lopez, A., del Rio, I., Kelly, T.: Model-Based Specification of Safety Compliance Needs: A Holistic Generic Metamodel. Information and Software Technology 72: 16-30, 2016

Eclipse Modeling Project: https://www.eclipse.org/modeling/