Відео

А кто-нибудь знает как перевести pdf книгу локальной нейросетью ? Или это всё ещё не возможно ? Они ведь умеют перевдить текст, понимают формулы. И вывод текста на чёрной теме более читаемый чем бельмо во весь экран на компе и выгорание глаз. Секретные технологии ?

Пожалуйста! фрэмвОООООрков! не Ë! О

Не понял, для чего цикл loop который выбирает инструмент (tool) для агента, когда можно сразу ему передать все инструменты и пусть он сам выбирает

Класс! Круто, что никакие данный БД ни в какой чат не пересылаются и остаются в сохранности, при этом генерятся валидные запросы! 👍

Хм, понятно. От меня 👍🏼

Все ссылки см. здесь: t.me/AiExp01/117

Все ссылки см. здесь: t.me/AiExp01/116

можешь сказать почему не видеть мою карту этот лм студии?

Лайфхаки здесь: t.me/AiExp01/115 все ссылки см. здесь: t.me/AiExp01/112

Константин, спасибо!

Мне еще mermaid диаграммы процессов понравилось создавать, даже диаграмму ганта хорошо рисует

а почему нельзя просто пообщаться с гпт в чате ?

у вас талант, на любом из ваших видио на 3-5 минуте засыпаю...

Все ссылки см. здесь: t.me/AiExp01/114

А как саму модуль дообучить, которую скачал с сайта ollama, не прибегая к дополнительному запуску параллельно еще какого то ресурса. У Ollama уже есть своя возможность обмена по REST API. Скажем забрать Phi3.5 и докидать в ту модель инфы по своим doc или Pdf и юзать напрямую Ollama через REST API.

Спасибо, отличное, исчерпывающее видео

Добрый день, можно ли это завернуть в граф. интерфейс ?

Все ссылки см. здесь: t.me/AiExp01/111

Все ссылки см. здесь: t.me/AiExp01/112

Спасибо. С gpt понятно, пока не получается собрать простой rag + local qwen2.5 + agent + web search

а в чем отличие если просто создать ассистента в гпт с несколькими файлами ?

Все ссылки см. здесь: t.me/AiExp01/110

Вопрос по вашей реализацией RAG. ЧатЖпт занимается генерацией ответа. А кто принимает решение о типе вопроса, и кто занимается выборкой из базы знаний, подготавливает выборку для ЧатаЖпт?

Я думаю эта тема с llm и rag будет только развиваться

Ошибку выдает при загрузке модели не используйте у вас такая же фигня будет

Вроде есть питоновская библиотека, которая делает UML. Ну и mermaid также может юмлки делать.

Добрый день. Каким образом можно обойти ограничения по размеру токенов у чатов GPT?

Спасибо, думаю пригодится

Все ссылки см. здесь: t.me/AiExp01/109

Это весьма интересный способ. Спасибо! А с помощью LM Studio и иных инструментов по типу AnythinkLLM такое реализовать возможно?🤔

GPU (LM Runtime Dependent) Такая надпись при просмотре ресурсов в настройке, слева CPU виден какой-то код, а справа где GPU не видно ничего.. No LM Runtime found for model format 'gguf'! Ошибка при загрузке модели..

Хреново решает простую задачу: Разложение числа на сумму степеней. Всё дальше полный абзац, разлодение делает, но после проверки на калькуляторе оказалось что там другое число получается в сумме.

спасибо, все понятно!

Все ссылки см. здесь: t.me/AiExp01/107

А можно RAG прикрутить? Например чтобы использовался свой стиль/база знаний

дядя, ты не умеешь объяснять. а в тг у тебя нет конкретных ссылок, у тебя сплошные ссылки и какая для чего непонятно. коооонченый ютубер.

Все ссылки см. здесь: t.me/AiExp01/106

Знаю, где учится этот посетитель чата, очень знакомый регламент :)))

можно былоб показать что получилось.

Все ссылки здесь: t.me/AiExp01/105

Все ссылки здесь: t.me/AiExp01/104

Все ссылки здесь: t.me/AiExp01/103

Нужна локальная база.

Все ссылки здесь: t.me/AiExp01/102

Все ссылки здесь: t.me/AiExp01/101

Файл requirements.txt можно взчть отсюда: t.me/AiExp02/2565

Огромное спасибо! Было очень интересно! Я немного не понял - сервер тоже на Windows запускался?? На llama.cpp? А как вы llama.cpp скомпилировал для Windows - поделитесь секретом, пожалуйста!

спасибо, за Ваши видео, я новичок в питоне, возникла ошибка при установки зависимостей(No matching distribution found for torch==2.0.1+cu118No matching distribution found for torch==2.0.1+cu118), весь день мучаюсь в ручную перебираю версии и одна правка за собой другие ошибки тянет, не подскажите, как обновить зависимости, или может у меня одного такая проблема?

Спасибо за все у тебя самый лучший канал по ии с конкретными примерами в отличии от других каналов где в большинстве своем одна вода.

Все ссылки здесь:t.me/AiExp01/98