Готовим Open Source LLM: адаптация под ваш домен | Андрей Гурьянов и Олег Радаев | True Tech Day 2.0

Подписывайтесь на True Tech в Telegram: t.me/truetechcommunity
Доклад посвящен использованию Open Source LLM и разделен на две части.
В первой рассказываем, как приводили в чувство RAG для работы с нашим русскоязычным доменом, шаг за шагом поднимая точность ответов с 48% до 96%.
Во второй показываем, как дообучали токенайзер для работы с русским языком, а также делимся, зачем это было нужно и какие метрики выросли благодаря этому.
Андрей занимается видеоаналитикой и увлекается локальными LLM. Олег тюнит языковые модели и пишет магистерский диплом.