Разработка и развертывание приложений искусственного интеллекта/машинного обучения на платформе Red Hat OpenShift AI

О курсе

Курс «Разработка и развертывание приложений ИИ/машинного обучения на Red Hat OpenShift AI» (AI267) предоставляет студентам фундаментальные знания для управления полным жизненным циклом современных приложений ИИ с помощью Red Hat OpenShift AI для эффективного обучения, оценки, обслуживания и мониторинга как прогнозных, так и генеративных моделей ИИ в масштабе. Этот курс помогает студентам развить основные навыки использования Red Hat OpenShift AI в качестве унифицированной платформы MLOps и GenAIOps на практике.

Данный курс основан на Red Hat OpenShift® 4.18 и Red Hat OpenShift AI 2.25.

Для кого этот курс

• Инженеры машинного обучения отвечающие за развертывание, автоматизацию и мониторинг задач на протяжении всего жизненного цикла MLOps и LLMOps.
• Специалисты по анализу данных, которые обучают, развертывают и отслеживают собственные модели с помощью Red Hat OpenShift AI.
• Инженеры платформ и администраторы облачных сервисов, желающие понять Red Hat OpenShift AI с точки зрения пользователя.

Требуемые знания и навыки

• Необходимо базовое понимание принципов и рабочих процессов машинного обучения.
• Необходимо базовое понимание генеративного искусственного интеллекта и больших языковых моделей (LLM).
• Требуется базовый опыт работы с Git. 
• Требуется опыт разработки на Python или завершение курса «Программирование на Python с Red Hat»(AD141).

Приобретаемые навыки

После завершения курса слушатели получат навыки, позволяющие им:

• • Управлять полным жизненным циклом современных приложений искусственного интеллекта, эффективно обучая, тестируя, развертывая и отслеживая как прогностические, так и генерирующие модели искусственного интеллекта в масштабе.
  • Настраивать проекты для совместной работы с данными, эффективно использовать среды workbench и назначать специализированные ресурсы.
  • Готовить, развертывать и обслуживать модели с помощью специализированных сред выполнения.
  • Автоматизировать рабочие процессы MLOps за счет создания передовых конвейеров обработки данных и создания готовых к производству решений GenAI.
  • Обеспечивать надежную и этичную работу ИИ, отслеживая использование развернутых моделей на предмет предвзятости и смещения данных
  • Внедрить защитные ограждения для генерирующих приложений.

Программа

1. Introduction to Red Hat OpenShift AI
   Identify how Red Hat OpenShift AI provides a complete MLOps and GenAIOps platform and how to use it to configure data science projects for team collaboration.
2. Using Workbenches for AI/ML Development
   Use workbench environments for AI/ML development and connect them to data sources and stores.
3. Fundamentals of Model Serving
   Prepare, deploy, and serve models by using OpenShift AI model serving capabilities.
4. Serving Generative and Predictive AI Models
   Deploy and serve AI models with specific runtimes, including OpenVINO for predictive models and vLLM for large language models.
5. Monitoring AI Models
   Monitor deployed models for bias, data drift, and performance by using TrustyAI and observability tools to ensure reliable and ethical AI performance in production. 
6. Introduction to Data Science Pipelines
   Create and manage basic data science pipelines by using Elyra and Kubeflow SDK to automate fundamental AI/ML workflows.

   Advanced Kubeflow Pipelines Development and Experiments
   Implement advanced pipeline features including container components, artifacts management, Kubernetes configuration, and systematic experimentation for production MLOps workflows.

7. GenAI Model Selection, Optimization, and Evaluation
   Systematically select, optimize, and evaluate large language models by using RHOAI’s model catalog, compression techniques, and evaluation frameworks.
8. Building GenAI Applications
   Build production-ready GenAI applications by using industry patterns including RAG, agentic workflows, and trustworthy AI practices, and move beyond basic model serving to ship complete intelligent solutions.