Вы хотите создать собственную AI-систему, но...
- Не знаете с чего начать, так как в интернете слишком много не структурированной информации
- RAG и Агенты не работают, хотя вы всё делаете по туториалу из статьи или видео
- Неясно, как учить LLM, чтобы адаптировать большие модели под свои данные
Чтобы создать приложение с LLM, важно уметь:
- Дообучать модели на своих данных (Tuning, Alignment)
Большинство моделей обучены так, чтобы понемногу разбираться в различных областях: юриспруденции, кулинарии, спорте и т. д. Но если вам необходимо улучшить качество ответов модели в узкой области, например, медицине, её надо дообучить на соответствующих данных. Дообучение также снижает число галлюцинаций и помогает придать модели определённый стиль общения
- Использовать в ответах свою базу данных (RAG)
Чтобы модель опиралась в ответах на актуальные данные, а не прошлогодние, надо использовать Retrieval Augmented Generation. RAG — это когда по вопросу пользователя система находит в базе актуальную информацию и использует её для формирования ответа
- Подключать к LLM сторонние инструменты (Tools, Agents)
Чтобы LLM не только отвечала на вопросы, но и сама в нужный момент отправила сообщение в мессенджер, добавила новое событие в календарь или просто сложила два числа, ей надо дать доступ к инструментам (Tools): к чату, календарю или калькулятору. LLM-системы, которые уместно используют такие инструменты называют агентами (Agents)
Именно этому вы научитесь на курсе LLM Start под кураторством опытных LLM-инженеров.
Это курс для разработчиков и руководителей, у которых нет опыта в области машинного обучения
- Разработчики. Научатся создавать собственные LLM-сервисы
- Руководители. Узнают, на что способны LLM и какие задачи можно ставить команде
- Менеджеры. Поймут, как устроены LLM и научатся верно оценивать задачи
Программа
Модуль 1. Выбираем LLM под задачу
Разберемся, как устроены LLM, основные техники промптинга, механизмы сэмплирования при генерации, а также поймём, как подобрать модель под свою задачу.
Темы лекции:
- Задача языкового моделирования и LLM
- Разберемся, как устроены LLM, основные техники промптинга, механизмы сэмплирования при генерации, а также поймём, как подобрать модель под свою задачу.
- Этапы обучения LLM
- Промптинг: few/zero-shot, CoT
- Генерация текста и сэмплирование
- Типы задач и ограничения LLM
- Обзор современных моделей
Модуль 2. Подключаем свою базу данных (RAG)
Научимся строить RAG систему для обогащения LLM внешней информацией, подробно познакомимся с алгоритмами поиска, реранкером и чанкированием.
Темы лекции:
- Обзор схемы RAG
- Научимся строить RAG систему для обогащения LLM внешней информацией, подробно познакомимся с алгоритмами поиска, реранкером и чанкированием.
- Чанкирование
- Векторный поиск и векторные БД
- Классический и гибридный поиск
- Реранкер и его задачи
- Бенчмарки и замер качества
Модуль 3. Создаём агентов на основе LLM
Погрузимся в концепции tools, function calling и агентных систем. Поймём, как строить мультиагентные архитектуры и какие библиотеки использовать. Узнаем, что такое Agentic RAG и Model Context Protocol.
Темы лекции:
- Погрузимся в концепции tools, function calling и агентных систем. Поймём, как строить мультиагентные архитектуры и какие библиотеки использовать. Узнаем, что такое Agentic RAG и Model Context Protocol.
- Концепция tools и function calls
- Агентные системы и Agentic RAG
- Model Context Protocol
- Мультиагентные системы
- Обзор библиотек и бенчмарков
Модуль 4. Дообучаем LLM под свои данные
Узнаем, когда и зачем дообучать LLM. Разберем, как работают сервисы по дообучению моделей и как можно дообучать модели локально самостоятельно.
Темы лекции:
- Когда дообучение поможет, а когда нет
- Сервисы для обучения по API
- Локальное дообучение
- Продвинутые техники дообучения
05. Собираем собственное приложение
Разберём путь от идеи до готового продукта: как спроектировать и задеплоить LLM-приложение. Узнаем, какие фреймворки, железо и подходы к ускорению использовать, как обеспечить стабильную работу и мониторинг.
Темы лекции:
- Этапы разработки LLM-приложений
- Разберём путь от идеи до готового продукта: как спроектировать и задеплоить LLM-приложение. Узнаем, какие фреймворки, железо и подходы к ускорению использовать, как обеспечить стабильную работу и мониторинг.
- Деплой моделей: vllm, sglang, llama.cpp, ollama
- Ускорение работы моделей
- Как выбрать сервер и железо
- Мониторинг работы модели
Финальный проект
В финале курса вы создадите собственный LLM-сервис для задачи, которая вам интересна. Можно взять свою идею или взять проект из нашего списка. Спикеры помогут с реализацией, дадут обратную связь по решению и подскажут, как доработать проект.
QA-сессия
Также после всех лекций мы проведём дополнительную встречу в Zoom со спикерами, чтобы разобрать ваши вопросы голосом.
