Модуль 2.8: российские модели для разработчиков

Ведущая: Привет-привет! С вами AIStudy — бесплатный курс про искусственный интеллект, который можно слушать за рулём, в метро или на кухне. Записывать ничего не нужно: команды, цены и таблицы лежат на сайте.

Ведущий: Привет! Это пятый выпуск трека «Кодинг с агентами». До сих пор мы в основном говорили о западных инструментах, а сегодня модуль про российские модели для разработчиков: GigaChat от Сбера и YandexGPT от Яндекса.

Ведущая: А зачем они, если есть Claude и другие сильные модели? Многие говорят: бери самое мощное, и всё.

Ведущий: Вот на этот вопрос выпуск и отвечает, причём не лозунгом, а списком причин. Спойлер: иногда российская модель нужна обязательно, иногда она просто удобнее, а иногда лучше взять сразу две.

Ведущая: Какой план?

Ведущий: Шесть частей. Первая: как начать работать с GigaChat. Вторая: YandexGPT и её модели. Третья: как подключить обе к автоматизациям и сделать запасной вариант на случай сбоя. Четвёртая: пять причин, когда российская модель нужна. Пятая: ограничения, сценарии и два терминальных инструмента. Шестая: как выбрать для своего проекта. Команды, ключи и цены зачитывать не будем, они лежат в уроках.

Ведущая: Поехали!

Ведущий: Поехали!

Ведущая: Часть первая. GigaChat. С чего начинается работа?

Ведущий: GigaChat — это большая языковая модель от Сбера, рассчитанная на русский язык, с инфраструктурой в России. Начало такое: заводите аккаунт на портале Сбера для разработчиков, лучше на рабочую почту, подтверждаете её и создаёте новое приложение в разделе про GigaChat.

Ведущая: И что я получу в итоге?

Ведущий: Идентификатор приложения и секретный ключ. Плюс режим доступа: один для физических лиц, второй для организаций с оплатой пакетом, третий для организаций с оплатой по факту использования. И сразу главное правило урока: секретный ключ — это пароль приложения. Его нельзя класть в репозиторий. Хранить надо в переменных окружения или в закрытом файле настроек, который не попадает в гит.

Ведущая: Это мы слышали и про другие ключи.

Ведущий: Да, правило универсальное. Урок повторяет его дважды, потому что на этом спотыкаются чаще всего.

Ведущая: А как программа входит в систему?

Ведущий: Через схему с временным токеном. Приложение отправляет идентификатор и секрет на сервер авторизации и получает токен доступа. С этим токеном уже идут запросы к модели. Он живёт ограниченное время, по уроку обычно около получаса, поэтому его нужно обновлять. А каждый запрос снабжается уникальным номером, который создаётся на вашей стороне. Он нужен, чтобы потом находить конкретный запрос в журналах.

Ведущая: Погоди, а что за российский сертификат? Я слышала, что с ним бывают проблемы.

Ведущий: GigaChat работает через российский удостоверяющий центр. В некоторых окружениях программа его сертификату не доверяет, и тогда вылезает ошибка соединения. Правильный выход: указать программе путь к сертификату. Есть и грязный способ: вообще отключить проверку. Урок разрешает его только для разработки и прямо пишет: в боевой системе проверка включена всегда.

Ведущая: Логично. Эта проверка как раз защищает от подмены сервера.

Ведущий: Дальше первый запрос. Небольшой скрипт на Python отправляет сообщение вроде «Привет, расскажи, что ты умеешь», задаёт температуру и ограничение длины ответа и получает текст. Сам код лежит в уроке.

Ведущая: А что с этим запросом делать дальше?

Ведущий: Урок предлагает четыре упражнения. Создать клиента и отправить сообщение по-русски. Задать один и тот же вопрос лёгкой и профессиональной модели и сравнить ответы. Засечь время ответа и число потраченных токенов. И увеличить лимит длины ответа, а потом спросить что-нибудь посложнее. Так вы почувствуете разницу между моделями на деле, а не по таблице.

Ведущая: А какие у GigaChat модели?

Ведущий: В классическом интерфейсе три размера: лёгкая, профессиональная и максимальная. Лёгкая быстрая, для чатов и простых задач. Профессиональная лучше, для аналитики и обработки текстов, умеет работать с изображениями. Максимальная самая качественная, для поиска по базе знаний и сложных задач, но медленнее. Кроме того, Сбер выпустил более новые флагманы, в том числе с открытыми весами, и отдельную модель для рассуждений в коде и математике. Названия и версии быстро меняются, смотрите их в уроке.

Ведущая: А деньги?

Ведущий: Цифры не читаем, они меняются. Скажу про устройство. Для физических лиц есть бесплатный тариф на год с большим запасом токенов. Для прототипов и учёбы хватает, запросы идут в один поток. Для организаций оплата по факту или пакетом. И урок отмечает свежее изменение: с первого сентября две тысячи двадцать шестого года новые коммерческие клиенты подключают и оплачивают GigaChat через облако Cloud.ru, а напрямую у Сбера остаются действующие клиенты. В Cloud.ru интерфейс совместим со стандартной библиотекой OpenAI и работает по постоянному ключу, без обновления токена каждые полчаса.

Ведущая: Выходит, условия подключения тоже могут меняться на ходу.

Ведущий: Могут, и это нам пригодится в четвёртой части, когда будем говорить о рисках. Итог первой части: секрет держим в переменных окружения, токен временный, сертификат в боевой системе не отключаем, три размера модели под разные задачи, а условия для организаций проверяем заранее.

Ведущий: Часть вторая. YandexGPT. Яндекс работает через своё облако, там всё сложнее?

Ведущая: Шагов чуть больше, да. YandexGPT работает через Yandex Cloud и популярна в России благодаря интеграции с экосистемой Яндекса и хорошей поддержке русского языка. Сначала регистрация, потом организация, платёжный аккаунт с реквизитами ИП или организации, и привязка карты или счёта.

Ведущий: А бесплатный грант на эксперименты? В начале урока он обещан.

Ведущая: Честно: в теле урока про грант и промокоды пока пусто, там пометка, что раздел дополнят после материалов от партнёров. Так что про грант я ничего не обещаю, смотрите актуальные условия у Яндекса.

Ведущий: Хорошо. Как программа входит?

Ведущая: Создаёте сервисный аккаунт. Это как робот-пользователь для вашей программы. Даёте ему роль, которая разрешает вызывать модели. Дальше два пути. Первый, проще для разработки: создать для этого аккаунта API-ключ. Второй: получать временный токен доступа, подписывая запрос специальным ключом. Токен живёт двенадцать часов, и урок просит обновлять его заранее. Подробную подпись урок пока не раскрывает и отсылает к готовой библиотеке.

Ведущий: А сам запрос к модели как выглядит?

Ведущая: Двумя способами. Первый: собственный формат Яндекса. Адрес модели собирается из идентификатора каталога в вашем облаке и названия модели, и к нему добавляются параметры генерации. Второй, и именно его урок рекомендует для разработки: совместимость со стандартным интерфейсом OpenAI. Берёте обычную библиотеку, меняете адрес сервера и ключ, и дальше всё как с западными моделями. Такой приём ещё и облегчает перенос кода между провайдерами. Через него же подключаются LangChain и LlamaIndex.

Ведущий: Слушай, а где тут gRPC? Слово слышал, а зачем оно, не понимаю.

Ведущая: Выбор простой. Для опытов и прототипов берите обычный REST: его легко отлаживать, он работает по обычному вебу. Для боевой системы с высокой нагрузкой лучше gRPC: он быстрее, это бинарный протокол. Минус: отлаживать сложнее, и нужна подготовка описаний. Правило урока: разработка на простом, нагрузка на быстром.

Ведущий: Какие у Яндекса модели?

Ведущая: Три основные: лёгкая, очень быстрая, для чатов и частых вопросов; профессиональная; и новейшая профессиональная, флагман для баз знаний. По таблице урока, у новейшей лучшее качество русского. Все три умеют вызывать функции и совместимы со стандартным интерфейсом. И важная деталь: окно контекста у этой линейки заметно меньше, чем у GigaChat. Очень длинные документы целиком не загрузишь. Длинное окно есть у другой модели с той же платформы, она называется Алиса, и у неё есть облегчённая версия для быстрых сценариев. Точные цифры лежат в уроке.

Ведущий: Про эмбеддинги обещали.

Ведущая: Да. У Яндекса есть отдельная модель, которая превращает текст в набор чисел, то есть в вектор, так что близкие по смыслу тексты оказываются рядом. Версий две: одна для документов, другая для запросов. Это основа для RAG, то есть для поиска ответа по вашей базе знаний.

Ведущий: Как это работает по шагам?

Ведущая: Четыре шага. Первый: кодируете все документы и сохраняете векторы в векторной базе. Второй: когда приходит вопрос, кодируете и его. Третий: находите несколько самых близких документов. Четвёртый: передаёте их текст в запрос к GigaChat или YandexGPT как контекст. Урок даже предлагает упражнение: закодировать пять фактов и найти два самых похожих на вопрос.

Ведущий: А остальная практика?

Ведущая: Ещё три задания. Создать клиента и отправить запрос по-русски. Сравнить скорость ответов лёгкой и новейшей профессиональной модели, и тут не случайно: лёгкая существует ради скорости. И закодировать три разных текста и посмотреть, какие из них ближе друг к другу. Это самый наглядный способ понять, что такое вектор смысла.

Ведущий: Что главное из второй части?

Ведущая: Входа два: API-ключ для простоты или временный токен. Запросы лучше слать в совместимом формате. REST для опытов, gRPC для нагрузки. Эмбеддинги нужны для RAG. И следите за размером окна контекста.

Ведущая: Часть третья. Допустим, обе модели у меня подключены. Как встроить их в настоящие автоматизации?

Ведущий: Урок даёт пять примеров. Первый: n8n и GigaChat. n8n — платформа автоматизации с блоками, почти без кода. Сценарий: разбирать входящие письма. Приходит письмо, один блок запрашивает токен, второй обращается к модели, например просит отнести письмо к теме, потом из ответа достаётся текст, и результат уходит письмом дальше. Идентификатор и секрет берутся из переменных окружения, а не вписываются в блок. Урок честно помечает, что скриншоты и точные настройки допишут позже.

Ведущая: А второй пример?

Ведущий: Dify и YandexGPT: бот вопросов и ответов на русском по вашей базе знаний. Dify — платформа для приложений на основе языковых моделей. Подключаете YandexGPT как собственного поставщика модели. Создаёте базу знаний: загружаете документы, выбираете модель эмбеддингов Яндекса, сохраняете в векторное хранилище. В чате задаёте роль «русскоязычный помощник», подключаете контекст из базы и выбираете модель. Тот же RAG из прошлой части, только собранный мышкой.

Ведущая: А резервирование? Ты обещал запасной вариант.

Ведущий: Это самое важное для боевой системы. Идея: если основной провайдер не отвечает, запрос уходит запасному. Урок строит цепочку из трёх: GigaChat, потом YandexGPT, потом Claude. Порядок можно менять под любой основной. Универсальный клиент перебирает провайдеров по очереди, у каждого свой лимит ожидания, а если недоступны все, возвращает понятную ошибку и не виснет. В ответе клиент сообщает, кто ответил и сколько токенов ушло.

Ведущая: А что с ошибками? Сервер же может не просто молчать, а ответить сбоем.

Ведущий: Урок отдельно говорит об ошибках и лимитах ожидания. Любая ошибка провайдера, будь то сбой сервера или просто тишина, считается поводом перейти к следующему. А ждать вечно нельзя: у каждого запроса есть свой лимит времени, иначе один медленный провайдер подвесит всю систему.

Ведущая: Погоди. А если в запросах персональные данные россиян, а запасной вариант за границей? Разве это не противоречит тому, о чём мы скоро будем говорить?

Ведущий: Хороший вопрос, урок его в этом месте не задаёт. Пока запомните: запасную цепочку нужно строить только из тех моделей, куда вам вообще разрешено отправлять такие данные. Уточните у юриста. К этому вернёмся в четвёртой части.

Ведущая: Что с журналом? Он тоже в уроке?

Ведущий: Это четвёртый пример: обёртка с логированием. Для каждого запроса пишутся время, провайдер, длина, число токенов и примерная стоимость в рублях. Это нужно и для контроля расходов, и для отладки: сразу видно, кто отвечал и во что обошёлся день.

Ведущая: И последний?

Ведущий: Пятый: LangChain. Обе модели поддерживаются в LangChain и в LlamaIndex: GigaChat через официальный партнёрский пакет, YandexGPT через пакет сообщества. У Яндекса поддерживаются и эмбеддинги. И снова про сертификат: отключать проверку можно на разработке, в боевой системе нет.

Ведущая: Что унести из третьей части?

Ведущий: Резерв обязателен для боевой системы. Платформы вроде n8n и Dify дают использовать эти модели почти без кода. Единая обёртка упрощает смену провайдера, а журнал помогает считать расходы. И задание из урока: намеренно отключите основного провайдера и убедитесь, что запасной сработал. Проверять надо не в теории, а на деле.

Ведущая: Там ещё были задания, да?

Ведущий: Да. Добавить журнал запросов в обычный файл. Посчитать общую стоимость десяти запросов к разным провайдерам. И написать небольшую проверку, которая задаёт один и тот же вопрос всем трём провайдерам и сравнивает время и качество. Это быстрый способ выбрать модель по своим задачам, а не по чужим обзорам.

Ведущий: Часть четвёртая. Ради неё всё и затевалось. Когда российская модель действительно нужна?

Ведущая: Урок называет пять критериев. Первый: закон о персональных данных, сто пятьдесят второй федеральный. Суть по уроку такая: при сборе персональных данных граждан России нельзя записывать их сразу в зарубежную базу. Это не запрет любой обработки только в России: после сбора в России действуют правила передачи за границу. Но чужие персональные данные россиян в иностранный чат лучше не класть.

Ведущий: А с западными моделями что не так?

Ведущая: Серверы западных компаний, по уроку, в основном в США и Европе. Значит, придётся думать, какие данные туда отправлять и как их защищать. Дальше всё упирается в конкретный проект и в юриста.

Ведущий: Кому это критично?

Ведущая: Госсектору, финтеху с российскими клиентами, проектам, где пользователи — частные лица из России, и тем, кому нужно документальное подтверждение, где хранятся данные. GigaChat и YandexGPT работают в российской инфраструктуре, и при аудите можно показать подтверждающий документ. Но урок делает оговорку: читайте условия использования. Слово «российская» само по себе не гарантирует, что данные никуда не передаются. А если нужна официальная защита, идите к юристам и рассмотрите шифрование и локальные модели, которые работают у вас.

Ведущий: Понятно. Второй критерий?

Ведущая: Цены в рублях. Западные интерфейсы считают в долларах, курс колеблется, бюджет «плывёт». У российских цены в рублях и платежи местные. Урок считает пример для стартапа с пятьюдесятью тысячами запросов в месяц, и по нему российская модель выходит дешевле. Но честно: цифры в примере примерные, пересчитайте их на ваши реальные тарифы.

Ведущий: Третий?

Ведущая: Качество на русском. Урок сравнивает ответы на вопрос про разницу между «привет» и «здравствуйте» и оценивает: российские модели лучше чувствуют нюансы языка, стилистику и культурный контекст, особенно профессиональные версии. Сравнение идёт по трём признакам: как модель обращается со словоформами, как держит стиль и насколько понимает российский контекст. Важно это для статей, для классификации эмоций в русском тексте, для анализа культурных особенностей, для грамматики и пунктуации. Но заметьте: это оценка автора урока, а не замер на тестах. Проверьте на своих текстах.

Ведущий: Четвёртый?

Ведущая: Доступность и поддержка на русском. По таблице урока, западные интерфейсы из России напрямую недоступны или доступны частично, это зависит от провайдера. А у GigaChat и YandexGPT доступность полная, поддержка и обучение на русском. Документация на родном языке особенно помогает тем, кто только начинает.

Ведущий: И пятый.

Ведущая: Развитие и интеграции. Обе модели поддерживаются в LangChain, LlamaIndex и n8n. По зрению: GigaChat профессиональная и максимальная работают с изображениями, у Яндекса ограниченно. И риски. Российские модели быстро развиваются, но могут внезапно изменить интерфейс, а инструментов с открытым кодом вокруг них меньше. Вывод урока: если нужны новые возможности, держите запасной вариант на западной модели. И вспомните первую часть: подключение для организаций у Сбера поменялось именно этой осенью.

Ведущий: Пять причин: закон, рубли, русский язык, доступность и экосистема.

Ведущая: И ни одна не работает как лозунг. Каждую нужно проверять на своём проекте.

Ведущая: Часть пятая. Хорошо. А в чём минусы российских моделей?

Ведущий: Урок выделяет четыре ограничения. Первое: контекст. У GigaChat и у модели Алиса окно большое, у основной линейки Яндекса заметно меньше, а у западных флагманов, по таблице урока, ещё больше. Поэтому очень длинные документы в основную модель Яндекса не загрузишь. Второе: скорость. По оценке урока, ответы российских профессиональных моделей медленнее самых быстрых западных, и для систем реального времени это нужно проверять. Третье: возможности. Зрение у Яндекса ограничено, поддержка речи тоже. Четвёртое: надёжность. Иногда бывают простои, и формальные гарантии доступности, по таблице урока, не публикуются так, как у крупных западных облаков.

Ведущая: В уроке есть большая сравнительная таблица, больше двадцати параметров. Что видно из неё с одного взгляда?

Ведущий: Три вещи. Первое: по основным функциям модели почти совпадают: генерация текста, вызов функций, а у обеих российских ещё и совместимость со стандартным интерфейсом. Второе: по русскому языку российские впереди, а для кода и аналитики, по оценке урока, сильнее выглядят западные. Третье: по доступности из России, поддержке и условиям использования на русском у российских одни плюсы, у западных минусы.

Ведущая: Расскажи про сценарии, их там пять.

Ведущий: Первый: госсектор. Рекомендация: профессиональная GigaChat. Закон, поддержка, русский язык. Второй: финтех. Основная YandexGPT, запасной вариант в уроке стоит западный. Плюсы: эмбеддинги для RAG из коробки, интеграция с облаком Яндекса, возможна дообучка. Минусы: слабое зрение и окно поменьше.

Ведущая: Подожди. Финтех — это данные клиентов. Запасной вариант за границей?

Ведущий: Резонное замечание. В уроке сценарий написан именно так. Но тут нужно смотреть, какие данные уходят в запасную модель. Если персональные, это противоречит первому критерию. Решайте вместе с юристом.

Ведущая: Хорошо. Что дальше по списку?

Ведущий: Третий: образование. GigaChat или YandexGPT: быстро, недорого, хорошие объяснения на русском. Минус: меньше контекста. Четвёртый: стартап. Урок советует гибрид: разработка с сильной западной моделью, потому что она лучше пишет код, боевой режим на YandexGPT с RAG, а запасной вариант GigaChat. Пятый: очень большая система с жёсткими требованиями к доступности. Там западные модели для основных операций, российские для русского контента и ещё локальная открытая модель про запас. Урок честно пишет: очень дорого и сложно.

Ведущая: А ещё в уроке два терминальных инструмента для российских моделей.

Ведущий: Первый: GigaShell. Это открытый клиент GigaChat для терминала, аналог ShellGPT. Короткие вопросы на русском, генерация команд, кода, сообщений для коммитов из разницы в изменениях, интерактивный режим. Нужен аккаунт Сбера с бесплатным тарифом. Урок честно говорит, что он не заменяет интеграции в редактор вроде Claude Code и Cursor. Зато удобен для повседневных мелочей и прототипов.

Ведущая: А второй?

Ведущий: OpenClaw. Это открытая платформа под лицензией MIT для мультиагентных систем: разные модели работают вместе, каждая в своей роли. Российские модели подключаются через прокси: GigaChat через конвертер запросов, YandexGPT через собственный прокси. Умеет работать с телеграм-ботами, запускать задачи по расписанию и работать на вашей машине. В таблице урока у него написано «данные локально». Уточню: это про сам агент на вашей машине, а запросы к облачной модели через прокси всё равно уходят её провайдеру.

Ведущая: Что главное из пятой части?

Ведущий: Минусы российских моделей конкретные: окно, скорость, возможности, надёжность. Сценарии из урока — подсказка, а не готовый ответ. И в каждом сценарии нужно смотреть, какие данные уходят в запасной вариант.

Ведущий: Часть шестая. Последняя. Как выбрать для своего проекта?

Ведущая: Урок даёт чек-лист из десяти вопросов с ответом «да» или «нет». Вы разработчик для госсектора или финтеха? Ваши пользователи граждане России? Бюджет ограничен? Основной язык работы русский? Работа критична для операций круглосуточно? Нужна поддержка на русском? Нужно работать без VPN? Нужны эмбеддинги и RAG? Нужно зрение? И вопрос про работу в закрытой сети. Считаете «да». Мало ответов «да» — оптимальнее западные модели. От трёх до шести — гибрид: российская модель с запасной. От семи — российская почти обязательна.

Ведущий: Почти?

Ведущая: Урок пишет «обязательна». Но это рабочее правило, а не закон. Когда речь о персональных данных, решает юрист, а не счёт «да».

Ведущий: А схема выбора?

Ведущая: Первый вопрос: данные должны остаться в России? Если да, берёте GigaChat или YandexGPT. Дальше: длинные документы? Тогда крупные версии GigaChat. Важнее скорость и цена? Тогда лёгкие версии. Если данные не обязаны оставаться в России, выбираете по качеству: сильная западная модель.

Ведущий: А если коротко, кого когда брать?

Ведущая: GigaChat: нужны скорость и простота, это госсектор или образование, бюджет минимальный. YandexGPT: нужны эмбеддинги и RAG, вы живёте в экосистеме Яндекса, или это финтех с аналитикой. Помните только про меньшее окно. Западные Claude и GPT: нужно зрение и мультимодальность, высокое качество кода, и вы можете работать с западными сервисами. И гибрид: для надёжности и разных сценариев, но с проверкой, куда уходят данные.

Ведущий: А если хочется не чек-лист, а свою формулу?

Ведущая: Урок предлагает написать небольшую функцию-решатель. Вы задаёте признаки проекта, а она начисляет очки каждому варианту. Госсектор добавляет очки GigaChat и локальной модели, нужны эмбеддинги — добавляет Яндексу, нужно зрение — западным моделям и гибриду. Побеждает вариант с максимумом. Это игрушка, а не истина, но она заставляет явно записать свои приоритеты. А ещё в упражнениях: посчитать месячную стоимость выбранной модели и написать план резервирования.

Ведущий: Давай проверим себя?

Ведущая: Три вопроса про себя. Первый: какие данные проходят через вашу систему? Есть ли там персональные данные граждан России, и что для вас значит «хранить в России»?

Ведущий: Второй: ответьте на вопросы чек-листа для вашего проекта. Сколько получилось «да» и какой подход он подсказывает: западный, гибридный или российский?

Ведущая: И третий: что у вас будет запасным вариантом, и можно ли вам отправлять туда те же данные?

Ведущий: Теперь итог. Первое: российские модели выбирают по причинам, а не по принципу: закон о персональных данных, рубли, русский язык, доступность с поддержкой и экосистема. Второе: GigaChat даёт простой старт, временный токен и секрет в переменных окружения, а у YandexGPT сильная сторона эмбеддинги для RAG, но окно контекста меньше. Третье: подключайте через совместимый интерфейс, делайте запасной вариант и ведите журнал запросов. Четвёртое: у российских моделей есть ограничения, и условия подключения меняются, поэтому следите за обновлениями. Пятое: часто лучший ответ — гибрид, но проверьте, что запасной вариант не нарушает требований к данным, и уточните у юриста.

Ведущая: Код, таблицы, подробные тарифы и задания лежат в уроках на сайте. Ссылки на все четыре урока модуля в описании выпуска.

Ведущий: Дальше в курсе поговорим о продвинутых воркфлоу с агентами. А если хочется попробовать разные нейросети в одном месте, без VPN и с оплатой рублями, это наш сервис arckep.ru. Ссылка в описании.

Ведущая: Спасибо, что слушали!

Ведущий: До встречи!

Ведущая: До встречи!