Peanut Shell平替Cohere Rerank | ChatOllama集成本地化Rerank模型

#ollama #llm #rag #chatollama
推荐一个目前全网价格最实惠的合租平台，ChatGPT，MidJourney，奈飞，迪士尼，苹果TV等热门软件应有尽有 - dub.sh/unibus ，首单9折优惠 - 优惠码 01Coder
如果您喜欢这个视频并希望请我喝一杯咖啡，欢迎前往我的BuyMeACoffee页面
👉 www.buymeacoffee.com/01coder
Rerank是提高RAG质量的常见方法。
Peanut Shell是利用CrossEncoder，基于本地模型的Rerank API。
ChatOllama是我近期创建的一款开源聊天机器人应用，基于大语言模型，支持多种知识库创建和问答场景。
本期视频我将介绍：
- ChatOllama如何集成Peanut Shell API，在本地化知识库中使用本地模型实现Rerank
Peanut Shell
github.com/sugarforever/peanu...
ChatOllama
github.com/sugarforever/chat-...
Ollama
ollama.ai
ChatOllama PR
github.com/sugarforever/chat-...
- 关注我的Twitter: / verysmallwoods
- 关注我的Bilibili: space.bilibili.com/615957867/
- 如果您有任何问题或者建议，欢迎通过邮件联系我：[e-mail]
【ChatOllama合集】播放列表
• ChatOllama
章节
00:00 本期简介 - 本地模型Rerank API与ChatOllama集成
00:44 Peanut Shell API简介
02:00 Cohere Rerank API回顾
02:31 ChatOllama集成Peanut Shell API
05:49 演示 - 基于知识库问答中的Rerank效果
08:45 总结

[@caihengsheng]

提升知识库信息检索质量一直是我们的目标，chatollama不断在引入改进提升，马上体验一下更新。

[@vaelephant]

这更新速度太快了

[@yuna_tseng]

太厲害了

[@pongpong5441]

先赞后看🎉

[@frankgao3323]

请问这个port 怎么改的，我试了半天还是Uvicorn running on 0.0.0.0:8000

[@loong6127]

中文支持效果怎么样呢

[@01coder30]

这还有待评估