Inteligencia Artificial y Protección de Datos

Programa

UNIDAD 1: ¿Qué es la inteligencia artificial?

• Definición intuitiva de inteligencia artificial. Áreas aplicación.
• Inteligencia artificial especializada / específica, inteligencia artificial general.
• Algoritmos y modelos de inteligencia artificial.
• Programación clásica versus inteligencia artificial.
• Taxonomía de las tecnologías de aprendizaje automático (machine learning): el aprendizaje supervisado, no supervisado y el aprendizaje por refuerzo.
• Las limitaciones de las tecnologías de inteligencia artificial actual.
• ¿Hasta dónde puede llegar la inteligencia artificial? Evolución histórica de la respuesta a esta pregunta.
• Práctica de uso de IA.
• Ejercicio de definición y perspectivas de IA.

UNIDAD 2: ¿Cómo usar la inteligencia artificial de manera correcta?

• Big data, estadística e inteligencia artificial.
• Metodología de análisis de viabilidad de proyectos de inteligencia artificial.
• Criterios de éxito en los proyectos de IA: datos representativos y suficientes, criterios de medición del error, validación del modelo de IA, documentación del modelo de IA, actualización del algoritmo en caso de necesidad.
• Ejercicio de análisis de viabilidad de proyectos de inteligencia artificial.

UNIDAD 3: La nueva inteligencia artificial: los grandes modelos de lenguaje / large language models (LLM) Microsoft Copilot, ChatGPT, GPT-4.

• Estrategia básica para la gestión de riesgos de protección de datos personales y confidenciales en sistemas de IA provistos por terceros (tales como Microsoft Copilot, ChatGPT, OpenAI API, etc).
• Definición y funcionamiento básico de grandes modelos de lenguaje natural.
• Áreas de aplicación más comunes. Ejemplos de casos de uso.
• Limitaciones en su funcionamiento: opacidad sobre sus fuentes de datos, sesgos de razonamiento, lagunas de información, ausencia de consciencia de error, vulnerabilidad a ataques antagónicos, limitaciones computacionales, etc.
• Análisis de riesgos de uso desde los enfoques de negocio, propiedad intelectual, ciberseguridad y protección de datos de carácter personal.
• Caso de estudio: prohibición temporal de ChatGPT por la autoridad italiana de protección de datos.
• Caso de estudio: la demanda de los autores Paul Tremblay y Mona Awad en el juzgado federal de San Francisco (EEUU) contra OpenAI por posible violación de derechos de propiedad intelectual.
• Práctica de uso de LLMs para tareas jurídicas.
• Ejercicio de análisis de riesgos de LLMs.

UNIDAD 4: Aproximación al Reglamento (UE) de IA.

• Motivación y objetivos del Reglamento (UE) de IA.
• Ámbito de aplicación (detallar qué sistemas de IA están cubiertos por el reglamento y cuáles están excluidos, explicar cómo aplica el Reglamento a los sistemas IA de propósito general, etc).
• Clasificación de sistemas de IA en función del riesgo (Detallar cómo se clasifican los sistemas de IA: sistemas de IA de riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo).
• Requisitos específicos para sistemas de IA de alto riesgo (“HRAIS”):
  • Clasificación y requisitos de sistemas de IA de alto riesgo.
  • Obligaciones para los proveedores de IA y usuarios y otras terceras partes (responsabilidades de los fabricantes, importadores y distribuidores de sistemas de IA, incluyendo la evaluación de riesgos y la documentación).
  • Estándares, evaluaciones de conformidad, certificados y registro
  • Estrategias de cumplimiento normativo para sistemas de IA de alto riesgo (¿qué hay que hacer para poder emplear sistemas de alto riesgo en la práctica?).
• Obligaciones de transparencia de ciertos sistemas de IA.
• Documentación técnica del sistema de IA y la conservación de sus registros.
• Gobernanza y régimen sancionador (presentar las funciones de las autoridades de supervisión y cómo se aplicarán las sanciones en caso de incumplimiento).
• Otros temas: medidas de apoyo a la innovación. sandboxes, etc
• Ejemplos de casos de uso (ejemplos concretos de aplicaciones de la IA y cómo se ajustan o no al Reglamento).

UNIDAD 5: Interacción RGPD – Reglamento de IA.

• Breve repaso de conceptos básicos del Reglamento de IA y del RGPD.
• ¿Cuándo aplican el RGPD y el Reglamento de IA a la vez? ¿Cuál es el rol del Delegado de Protección de Datos (DPD) en estos supuestos?
• Licitud de los tratamientos de datos personales al emplear sistemas de IA. Base jurídica del tratamiento del RGPD al emplear sistemas de IA (consentimiento, contrato, interés legítimo) y problemáticas. Aspectos relevantes a la hora de recabar el consentimiento (p.ej. formularios de consentimiento que expliquen el uso de IA de manera clara y accesible).
• Obligaciones en materia de información y transparencia del RGPD y la interacción con la obligación de transparencia e información impuesta por el Reglamento de IA.
• Gestión de derechos de las personas físicas en el contexto de la IA. Derecho a no ser objeto de decisiones individuales automatizadas del RGPD (artículo 22) y el caso particular de los sistemas de IA. Recomendaciones sobre mejora de la transparencia al emplear sistemas de IA.
• Medidas técnicas y organizativas necesarias para garantizar la seguridad de los datos personales en sistemas de IA.
• Ejercicio práctico (individual o en grupo).

UNIDAD 6: Hacia la gestión integral de datos, información, conocimiento e IA en las organizaciones

• Gobernanza y estrategia de cumplimiento normativo. Recomendaciones prácticas sobre procedimientos, procesos y tecnologías para asegurar el cumplimiento ético y normativo.
• Análisis de casos de uso sectoriales.
  • Sistemas IA en chatbots de atención al cliente.
  • Sistemas de IA para aplicaciones de mercadotecnia / márketing (p.ej. microsegmentación, generación de anuncios personalizados, SEO, etc).
  • Sistemas de IA para la Gestión de recursos humanos.
  • Sistemas de IA para detección de fraude con IA en el ámbito de las empresas de seguros/banca, detección de fraude con sistemas de IA basados en análisis de la voz humana (“polígrafo basado en IA”).
  • Sistemas de IA para el diagnóstico médico basado en IA.
  • Ejercicio práctico (individual o en grupo).