通过RAG给本地AI大模型投喂数据创建私有AI知识库

[@韩锐爵士]

鹏哥真是太厉害了，讲得极有条理，简明易懂

[@xiaonanji]

挺不错，如果能做成虚拟文件夹，直接把文档保存在文件夹即可加入大模型，那就更方便了

[@JevilHuang]

带图片和表格的PDF文件，怎么来精准投喂给模型，把图片和表格也给识别出来

[@ilovetrees-k1i]

请教：notebooklm感觉就是一种RAG？😊

[@總張-t3u]

果断关注，先赞后看

[@jasonchen6623]

有個疑問 就是RAG可以幫忙整理文件，輸出摘要或表格等文字，但有沒有辦法也輸出PDF裡面的重要圖片，我希望回答的時候，是圖文並茂的，而我所說的圖，是PDF真實有放的圖，而不是AI亂生成的，有任何一款產品(不管有無免費)，都想了解是否能達成此需求?

[@鹏哥的AI]

目前我知道的都是基于文本的RAG，分析图片的要的算力可能比文本大很多的，不分析图就要给每个图配文本说明，大模型才能知道是什么。

[@rexwang573]

请问：按照你之前的视频部署了本地ollama和open webui，在其他的电脑上可以以网页形式访问到mac上部署的ollama。 那么你这个视频里面提到的anthing llm，里面有内置的chat界面，可以给予上传的素材来进行对话，但是这个anything LLM和之前视频部署的open webui是不是不发生任何关系？ 也就是说我即使在docker里面吧openwebui关闭掉，也不影响anthing上的调试和对话？ 那么，如果我想在其他电脑上，也能使用chat方式和anythingllm做对话（类似之前通过openwebui对话），应该怎样做呢？谢谢

[@鹏哥的AI]

openwebui和anythingllm功能有重叠，都可以聊天，openwebui也有rag功能也可以上传数据。类似不同牌子的手机都能打电话，看你用哪个了。

[@shanx7043]

请问大佬，我现在有大约1000g的各种格式的文件，想要做成我自己的私有知识库，是不是我要把我非语言的资料（如图片，视频，音频，ppt等）全都进行总结，然后把这些总结再加上我的原有文本资料一起上传至向量数据库才可以？😢资料太多我根本看不完…

[@鹏哥的AI]

我理解是这样的，你可以试验一部分先看看效果

[@郭羽-o4d]

1000g文件你认真的吗这不得挂着几天啊

[@masterban3585]

大佬，如果是在ubuntu 上面呢，有没有好的方案

[@鹏哥的AI]

x86架构得有好的显卡，或者用有显卡的云主机

[@今晚打老虎-y9q]

需要什么电脑配置啊？

[@鹏哥的AI]

之前有视频，低配的用低参数1.5b起，玩玩就好，高配可以调高参数，可以像模像样回答一些问题。

[@touyu1090]

可以传csv 或者 其他格式吗

[@鹏哥的AI]

纯文本的应该都行

[@happyli7866]

背景音乐太嘈杂

[@wz-cj1990]

所以沒必要部署docker了是吧?

[@鹏哥的AI]

之前是因为要用openwebui，这个看具体情况

[@Howard-de1gs]

点进这个视频纯粹是因为博主很帅。走了拜拜

[@brucelam2779]

可以與你聯系嗎？付費學習

[@鹏哥的AI]

比较忙，有问题直接留言或者可以加微hawk9977

[@hackett6346]

一个说AI具有思考能力的博主，已经说明这个博主不行了，你还联系他学习啥啊？

[@xicunhan]

咋说呢， 准确度不怎么高。 因为他的语义分析并没到semantic这种程度。 而且响应速度实在是堪忧。

[@kicoyang]

請問你是部署哪種級別的訓練庫？
要不要試試 Mac 96G記憶體 部署70b級別的
你提到的問題感受應該會降低很多

[@hzhikang6304]

为什么要用千问，千问有洗脑风险，只用ollma
3.2

[@samtree4811]

问了ollma王阳明是谁？它告诉我王阳明先是和曹操结婚，后来又和孙权结婚，最后死在了孙权面前。ollma真的可以吗？