Создание RAG-приложения с использованием YandexGPT / Воркшоп / Кузьма Лешаков
Вставка
- Опубліковано 1 жов 2024
- Это Кузьма Лешаков, архитектор в Yandex Cloud, и его доклад на Pytup в Нижнем Новгороде - нашей конференции по питон-разработке. Здесь мы обсудили, как применять Python в бизнесе, ML и науке, и рассмотрели новшества в языке.
В своём прикладном воркшопе Кузьма расскажет о возможностях YaGPT и покажет, как поднять необходимую инфраструктуру и дообучить модель. А после загрузить в неё данные и увидеть, как меняются ответы модели с помощью нового датасета.
Обо всех наших митапах и конференциях можно узнать на сайте: events.yandex.ru/
Подписывайтесь на Yandex for Backend в телеграмме: здесь мы рассказываем, что находится под капотом у наших продуктов и как устроена бэкенд-разработка в Яндексе: t.me/yandexfor...
Хорошее видео, насыщенное
К сожалению, ЯндекГПТ непригоден.
Я тестировал самые разные промпты, тестировал и в режиме диалога через request по оф. документации яндекса и способом рассказанным в видео (langchain_community - llm - invoke). Тестировал на десятках вопросов - и собирал оценку в эксельнике.
Вывод: в сравнении с западными LLM, ЯндексГПТ очень слаб для RAG систем - даже весьма простых .
Здравствуйте! Процент верных ответов YandexGPT 3 составляет 63%. С каждой новой версией этот показатель улучшается.
Рекомендации по работе с моделью есть на странице ya.ru/ai/gpt-3. Также доступен обучающий курс: ya.cc/t/QE0rOroH5C6R2D. Это поможет улучшить ваш опыт при работе с YandexGPT :)
@@YandexforBackend Спасибо за ответ и предоставленные ресурсы. Мы будем еще пытаться настроить yandexgpt под наши проекты, быть может получится.