Máster en Ingeniería y Desarrollo de Soluciones de IA Generativa

Definición de IA Generativa, presentación a grandes rasgos de los diferentes tipos de IA Generativa y casos de uso y aplicación de la IA generativa desde un punto de vista programático.

Preparación del entorno de desarrollo, instalación de python, vscode y extensiones genéricas que se usarán de forma transversal en todos los temas. Introducción a git. Instalación de Postman.

Exploración de los principales proveedores de IA Generativa, cloud y open source y como se usan programáticamente. Análisis de los requisitos de hardware necesarios para diferentes usos y alternativas para testearlo.

Introducción a los diferentes tipos de modelos de machine learning. Modelos supervisados y no supervisados. Conceptos de entrenamiento, test e inferencia. Métricas de evaluación.

Introducción al deep learning y redes neuronales. Cantidades de datos necesarias, problema de overfitting y generalización.

Infraestructura necesaria para el deep learning. Requisitos de hardware, gpus. Tiempo requerido por el deep learning para entrenar e inferir: batch, epochs e hiperparámetros.

Explicación de los diferentes tipos de modelos, discriminativos, generativos, autoregresivos, VAEs y GANs. Difusión generativa.

Historia y evolución de los modelos de lenguaje (LLMs) diferentes tipos y estado actual de los diferentes tipos de modelos.

Fundamentos teóricos de los LLMs, self-attention, multi head attention, tokenización.

Arquitectura de los modelos GPT, evolución histórica de los modelos de OpenAI, limitaciones y desafíos.

Arquitectura de los modelos de Google, evolución históricas, limitaciones y desafíos.

Arquitectura de los modelos de Anthropic, evolución histórica, limitaciones y desafíos.

Modelos open source, tipos y distintas formas de acceder a ellos. Evolución histórica, limitaciones y desafíos.

Diferencia entre prompting, contextualización, RAG, fine tuning y entrenamiento de 0.

Personalización de las consultas, parámetros que pueden cambiar, eficiencia de costes, evaluación de resultados y calculo de tokens.

Diferentes ambitos de uso de LLMs, chatbots, generación de código y anáisis de texto libre.

Introducción a los modelos de generación de imágenes y casos de uso prácticos donde son de utilidad.

Arquitectura y entrenamiento de GANs, generador y discriminador, otras posibles aplicaciones de GANs.

Modelos de difusión, como funciona la difusión y el “denoising”, ejemplo práctico con Stable Diffusion.

Uso de modelos de imágenes como dall-e, midjourney y stabilityAI. Llamadas dede Python.

Modelos de audio y de video disponibles. Uso de whisper vía API y local. Limitaciones actuales.

Personalización de modelos de imágenes, uso de datasets para fine tuning, ajustes de estilo y control de la salida.

Introducción matemática a los espacios vectoriales, cálculo con vectores, diferentes formas de calcular distancias entre vectores.

Concepto de embedding, representación vectorial de texto e imágenes, distancias semánticas e interpretación de su significado.

Generación de embeddings vía API (OpenAI, Cohere). Herramientas para trabajar con vectores en Python.

Búsqueda semántica, construcción de índices vectoriales y vectorstores.

Casos de uso práctico de embeddings y búsquedas semánticas.

Integración de embeddings y LLMs: RAG. Tipos de RAG, mejores prácticas y optimizadores.

Consulta de APIs con Postman, diseño de APIs propias con Python (fastapi, flask) para creación de backends de IA generativa.

Introducción a la nube, servicios de IA Generativa en AWS, GCP y Azure, despliegue de modelos.

MLOps de sistemas de IA generativa, ciclo de vida, actualizaciones, monitorización y mantenimiento. CI/CD y automatización.

Contenedores y microservicios, dockerización de modelos de IA generativa, orquestación.

Cálculo de métricas y monitorización de modelos en producción. Detección de modelos degradados o en degradación, sustitución de piezas de código para actualizar modelos u otros componentes.

Gestión de versiones de modelos y contextos, mecanismos de mitigación en despliegues fallidos, estrategias de despliegue (canary, blue-green).

Auto escalado de servicios, paralelización y limitaciones de consulta. Optimización de costes y reserva de potencia.

Procesamiento en la nube, introducción al cloud en términos generales más allá de la IA Generativa, comparativa de clouds, gpu en la nube y como testear con grandes máquinas.

Almacenamiento y gestión de datos, diferentes formatos de almacenamientos, vectorstores en la nube.

Implementación de pipelines y ETLs en la nube, uso de funciones serverless y despliegue de contenedores para la creación de flujos de procesamiento.

Seguridad y autenticación, uso de api keys y otras formas de autenticación, protección de endpoints propios.

Gestión de costes en la nube, precios y posibles mejoreas y mitigación de problemas que elevan el coste.

Librerías de deep learning, pytorch lightning y tensorflow, entrenamiento distribuido.

Hugging Face, transormers y diffusers, uso de modelos open source y personalización de los mismos.

LangChain, construcción de sistemas complejos de LLM, gestión de RAG y memoria.

Gradio y Streamlit, creación de frontends rápidos y funcionales.

Conexión de APIs propias con frontends, desarrollo de frontends puros y como conectarlos a las APIs propias. Herramientas de analítica y monitorización visual.

Conceptualización y diseño de un MVP, definición de requisitos, selección del modelo y determinación de datos a usar.

Conceptualización del frontend, compromiso entre funcionalidades requeridas y capacidad de la API para abastecer al frontend.

Integración de LLMs con datos empresariales, uso de búsqueda semántica y creación de chatbots privados durante el desarrollo y producción del producto.

Aplicaciones multimodales, como usar distintos modelos del mismo o distinto tipo para una coordinación y obtención del mejor resultado.

Determinación de herramientas y fuentes externas a usar. Agentes y asistentes, desarrollo de conexiones externas via ReaAct Prompting.

Testing y QA de aplicaciones generativas, la importancia del test unitario y de integración.

Ética y sesgos de la IA generativa, identificación de partes problemáticas y mitigación de riesgos, filtrado de contenido inapropiado, transparencia.

Privacidad de datos, cumplimiento de normativas de tratamiento de datos, anonimización, limitaciones, derechos de autor y licencias de uso.

Desarrollo de un proyecto pequeño pero completo end to end, paso a paso tocando todos los puntos que se han dado durante el master.