📖 Учебные материалы (рус.): Путеводитель по изучению · Экспресс-курс «на понять» · Конспект-шпаргалка
2025/06/06 Спасибо всем за внимание и активную обратную связь! Мы обновили это руководство в двух направлениях:
- Запущено отечественное (китайское) бесплатное руководство «Полный цикл разработки больших моделей» (с презентациями, методичками и видео); особая благодарность за поддержку сообществу Huawei Ascend!
- Обновлено содержание исходной серии практических руководств по программированию и добавлены новые темы (математические рассуждения, GUI-агенты, выравнивание больших моделей, стеганография и др.)!
Серия практических руководств по программированию «Практикум по большим моделям» выросла из конспектов курсов Шанхайского университета Цзяотун «Передовые технологии обработки естественного языка» (NIS8021) и «Технологии безопасности искусственного интеллекта» (NIS3353) (преподаватель: Чжан Чжошэн) и призвана дать вводный ориентир по программированию для больших моделей. Это руководство имеет благотворительный характер и полностью бесплатно. Через простую практику оно помогает студентам быстро освоить большие модели, чтобы лучше выполнять курсовые проекты или вести научные исследования.
| Содержание руководства | Краткое описание | Ссылки |
|---|---|---|
| Дообучение и развёртывание | Руководство по дообучению и развёртыванию предобученных моделей: хотите повысить качество предобученной модели на конкретной задаче? Давайте выберем подходящую предобученную модель, дообучим её под задачу и развернём в виде удобного демо! | [Слайды] [Руководство] [Скрипт] |
| Промпт-обучение и цепочка рассуждений | Руководство по вызову API больших моделей и инференсу: «ИИ просит подбодрить его онлайн? Ответы больших моделей на некоторые вопросы порой ошеломляют, но, возможно, модели просто не хватает слова „поддержки“» | [Слайды] [Руководство] [Скрипт] |
| Редактирование знаний | Методы и инструменты редактирования языковых моделей: хотите управлять тем, как языковая модель «помнит» определённые знания? Давайте выберем подходящий метод редактирования, отредактируем конкретное знание и проверим отредактированную модель! | [Слайды] [Руководство] [Скрипт] |
| Математические рассуждения | Как научить большую модель математическим рассуждениям? Давайте быстро дистиллируем мини-R1! | [Слайды] [Руководство] [Скрипт] |
| Водяные знаки в моделях | Текстовые водяные знаки в языковых моделях: встраивание в генерируемый моделью контент незаметных для человека водяных знаков | [Слайды] [Руководство] [Скрипт] |
| Джейлбрейк-атаки | Хотите добиться большей безопасности — начните с того, чтобы научиться атаковать. Давайте разберёмся, как джейлбрейк-атаки «развязывают язык» большим моделям! | [Слайды] [Руководство] [Скрипт] |
| Стеганография в больших моделях | «Невидимые чернила»! Хотите, чтобы большая модель, плавно отвечая, при этом незаметно несла информацию, распознаваемую только «своими»? Стеганография в больших моделях расскажет как! | [Слайды] [Руководство] [Скрипт] |
| Мультимодальные модели | Как мультимодальные большие языковые модели, способные более полно моделировать реальный мир, достигают более мощного мультимодального понимания и генерации? Могут ли они помочь в достижении AGI? | [Слайды] [Руководство] [Скрипт] |
| GUI-агент | Хотите есть, не вставая, и освободить руки? Тогда давайте вместе научим AI-агента заказывать вам еду, отвечать на сообщения и сравнивать цены при покупках! | [Слайды] [Руководство] [Скрипт] |
| Безопасность агентов | Агенты на основе больших моделей отправились в путь к операционной системе будущего. Но осознаёт ли большая модель угрозы и риски в открытых сценариях работы агента? | [Слайды] [Руководство] [Скрипт] |
| Безопасное выравнивание RLHF | Руководство по экспериментам RLHF на основе PPO: это руководство «очень опасное» — после прочтения проверьте, не ухмыляется ли ваша большая модель. | [Слайды] [Руководство] [Скрипт] |
-
✨ Совместно с Huawei Ascend мы официально запустили бесплатный курс «Полный цикл разработки больших моделей»! Передовые технологии + практика на коде, пошагово осваиваем большие AI-модели ✨:
На основе исходной серии руководств «Практикум по большим моделям» мы совместно с Huawei разработали серию курсов «Полный цикл разработки больших моделей». Эта серия основана на базовом программно-аппаратном обеспечении Ascend и охватывает форматы презентаций, методичек и видео. Курс делится на начальный, средний и продвинутый уровни, ориентирован на разные потребности в практике с большими моделями и призван через практику на коде дать исследователям и разработчикам полное руководство по разработке — от быстрого старта и применения уже поддерживаемых на Ascend моделей до миграции и тонкой настройки совершенно новых моделей, постепенно, от простого к сложному.
-
🚀 Перейдите в сообщество Ascend, чтобы изучить серию курсов «Полный цикл разработки больших моделей»：
👉 «Учебная зона по разработке больших моделей» @ сообщество Ascend 👈
-
✨ Демонстрация содержания курса ✨
Всё содержание этого руководства основано лишь на личном опыте контрибьюторов, данных из интернета и наработках повседневной научной работы. Все приёмы приведены только для справки и не гарантируют стопроцентной правильности. При возникновении любых вопросов приветствуются Issue или PR. Кроме того, использованные в проекте бейджи взяты из интернета; если они нарушают ваши авторские права на изображения, свяжитесь с нами для удаления, спасибо.
Это руководство на данный момент находится в стадии разработки, и недочёты неизбежны; приветствуются любые PR и обсуждения в issue.
Благодарим следующих преподавателей и студентов за поддержку и вклад в этот проект:
Команда разработки серии руководств «Практикум по большим моделям»:
-
Шанхайский университет Цзяотун: Чжан Чжошэн, Юань Тунсинь, Ма Синьбэй, Хэ Чживэй, Ду Вэй, Чжао Хаодун, У Цзунжу, У Чжэн, Дун Линчжун, Чжан Юйлун
-
Национальный университет Сингапура: Фэй Хао
Команда разработки серии руководств «Полный цикл разработки больших моделей»:
-
Шанхайский университет Цзяотун: Чжан Чжошэн, Лю Гуншэнь, Чэнь Синъюй, Чэн Пэнчжоу, Дун Линчжун, Хэ Чживэй, Цзюй Тяньцзе, Ма Синьбэй, У Чжэн, У Цзунжу, Янь Цзыхэ, Яо Яо, Юань Тунсинь, Чжао Хаодун;
-
Сообщество Huawei Ascend: ZOMI, Се Цянь, Чэн Лимин, Лоу Лихуа, Цзяо Цзэюй