Galleta

Cookies

El sitio web de la UCLM utiliza cookies propias y de terceros con fines técnicos y de análisis.

Aviso de Cookies





  •   NOTICIAS

    • Towards a process for Trustworthy
    AI systems development

    01 de Junio del 2025



    Nuestro compañero Carlos Mario Braga, alumno de doctorado, ha presentado el artículo “Towards a process for Trustworthy AI systems development” en el Doctoral Symposium del CIbSE 2025.

    En el marco del Simposio Doctoral del Ibero-American Conference on Software Engineering (CIbSE 2025), celebrado en mayo de 2025, nuestro compañero Carlos Mario Braga ha presentado una propuesta innovadora para el desarrollo de sistemas de inteligencia artificial (IA) confiables y éticos.

    El trabajo, titulado “Towards a process for Trustworthy AI systems development”, tiene como objetivo principal diseñar un ciclo de vida de desarrollo de software (SDLC) específicamente adaptado a las necesidades de los sistemas de IA confiables. La propuesta busca garantizar que estos sistemas respeten los derechos fundamentales, eviten causar daño, cumplan con la normativa vigente, protejan la privacidad y la seguridad, sean comprensibles y mantengan tanto la autonomía del usuario como la robustez tecnológica.

    Entre las principales aportaciones del artículo destacan:
    • La creación de una taxonomía integral de confiabilidad en IA, que recoge dimensiones éticas, legales y tecnológicas, como la legalidad, la beneficencia, la no maleficencia, la autonomía, la justicia, la explicabilidad y la robustez.
    • La adaptación y extensión del modelo CRISP-DM, ampliamente utilizado en minería de datos, para alinearlo con los requisitos de sistemas confiables de IA.
    • Una metodología basada en Design Science Research que incluye diseño iterativo, validación mediante estándares internacionales y pruebas en escenarios reales.
    • Un conjunto detallado de 100 modificaciones sobre CRISP-DM que permiten cubrir de forma práctica los aspectos fundamentales de la confiabilidad en IA desde las primeras fases del ciclo de vida del sistema.

    Este trabajo se sitúa como una contribución relevante en un contexto marcado por el creciente interés en sistemas de IA responsables y por el desarrollo de regulaciones específicas en este ámbito.

  •   Ir a Noticias