一键部署本地私人专属知识库,开源免费!可接入GPT-4、Llama 3、Gemma、Kimi等几十种大模型,零代码集成,1Panel出品。

Поділитися
Вставка
  • Опубліковано 20 вер 2024

КОМЕНТАРІ • 125

  • @陶继川
    @陶继川 5 місяців тому +5

    视频风格有零度大佬的感觉🤣,支持

  • @JoyGag
    @JoyGag 5 місяців тому +8

    找了很多天的本地部署,只有你最全面最完善,点赞

  • @jerryhuang3565
    @jerryhuang3565 Місяць тому

    謝謝分享,很像RAG架構的東西

  • @gw1284
    @gw1284 2 місяці тому

    谢谢介绍,清晰麻利,要试试!支持Ubuntu吗?
    看了博主其它节目都很实用有趣,注册了

  • @tjs-z6l
    @tjs-z6l 3 місяці тому

    学习了,感谢

  • @JeffDoan
    @JeffDoan 3 місяці тому +1

    我试了以下,实际体验很糟糕,模型应该没问题(phi3),但是回答完全错乱

  • @crypto_screw
    @crypto_screw Місяць тому

    这个比gpt4all多了支持docx格式!不知道效果怎么样。部署起来比4all麻烦。

  • @jamesyen7288
    @jamesyen7288 4 місяці тому

    好物呀~~~來測試一下

  • @周小宁-v3x
    @周小宁-v3x 5 місяців тому +3

    求问大佬一下:这种操作是不是相当于机器学习?比如,我导入文档是一堆鲁迅的文章,然后最终我输入一段文字或者给个主题,让AI以鲁迅的风格写一篇文章。还是说,这种操作只是能在给定的文章库里进行诸如总结分析等操作而已?

    • @AIDiscovery2045
      @AIDiscovery2045  5 місяців тому

      是的,可以做到。但这个AI用于搭建个人或者企业的知识问答系统、AI智能客服系统更加合适

    • @artlinehua7087
      @artlinehua7087 5 місяців тому

      请问,是否对电脑配置有要求?

    • @AIDiscovery2045
      @AIDiscovery2045  5 місяців тому

      @@artlinehua7087 6G显存起步

    • @混元手霹雳
      @混元手霹雳 Місяць тому

      知识库里的内容AI智能检索,通过知识库,AI并不能学会什么是鲁迅的风格,当然现在的AI大数据里应该都有鲁迅的风格,我说的是,如果你上传了一些AI数据里里没有的人的写作风格,AI并学不会。

    • @混元手霹雳
      @混元手霹雳 Місяць тому

      因为这些只是知识,就和人一样,你只是多但是不一定会应用,训练大模型还是需要让大模型有个学习过程,比如你可以在后台AI能力那里,帮助AI学习,你可以给AI一些例子,告诉它什么是鲁迅的风格。

  • @fengqingzhang-od2ux
    @fengqingzhang-od2ux 3 місяці тому

    博主,你好,连接上了,请问一下maxkb应用-概览-应用信息的公开访问怎么链接?

  • @back_to_the_future9187
    @back_to_the_future9187 5 місяців тому

    awesome👍

  • @王局志安
    @王局志安 5 місяців тому +3

    越看越想搞,最后止步于显卡,每次都如此。能否讲讲怎样云端部署,尤其colab,毕竟人人都有谷歌。

    • @王刚-l7s
      @王刚-l7s 5 місяців тому

      云平台要花钱的

    • @pori3183
      @pori3183 4 місяці тому

      现在gemini1.5的flash版本api好像是免费的,个人用够了

  • @jerrychan4596
    @jerrychan4596 2 місяці тому

    请问我通过访问远程虚拟机的方式能实现部署本地大模型么?我登录虚拟机后,安装了Ollama,并加载了llama3模型,在cmd里面进行对话,速度非常慢。查看系统资源使用情况,显示显卡完全没参与,不知道是否是没有安装CUDA的原因。看您的这期视频里,Ollama还是直接安装到本地的,MaxKB是安装到Docker里的。被远程访问的那台物理机是Win10 Pro的系统,上面安装了虚拟机环境,然后我用自己的笔记本通过mstsc命令访问那台物理机。不知道这种环境能否实现部署本地大模型。求解惑~~

    • @AIDiscovery2045
      @AIDiscovery2045  2 місяці тому

      有可能是虚机无法真正使用CUDA

    • @jerrychan4596
      @jerrychan4596 2 місяці тому

      @@AIDiscovery2045 谢谢~~好吧~~期待后面能找到解决方法。

  • @mikeyu7271
    @mikeyu7271 5 місяців тому +1

    还请问本地部署的资料库有文件数量限制吗?很多类似应用只能上传10个文件

  • @fengqingzhang-od2ux
    @fengqingzhang-od2ux 3 місяці тому

    博主,你好,maxkb里的知识库-上传文档-智能分段老是不准确分段,所以回答是不是模型回答与本地文档问答豪无关系。

    • @AIDiscovery2045
      @AIDiscovery2045  3 місяці тому

      文档建议用Q-A这种方式,每份文档内容不要太长

    • @fengqingzhang-od2ux
      @fengqingzhang-od2ux 3 місяці тому

      @@AIDiscovery2045qA文档有没有举例

  • @singularity2000
    @singularity2000 5 місяців тому +1

    大佬 😭Win11 docker desktop 如何修改【已创建的容器】的端口映射?比如 我想把localhost:3000:8080改为localhost:8079:8080 怎么操作?

    • @AIDiscovery2045
      @AIDiscovery2045  5 місяців тому

      重新部署时第二个端口填写你想要映射的端口

    • @singularity2000
      @singularity2000 5 місяців тому

      @@AIDiscovery2045 确实只有重新部署一条路了。修改部署好的容器的端口没想到这么难,网上搜了一圈都没搞懂

    • @AIDiscovery2045
      @AIDiscovery2045  5 місяців тому

      @@singularity2000 重新部署也省事,一键部署,重填几个参数。

  • @aliendouglas1186
    @aliendouglas1186 Місяць тому

    图片,扫描的PDF可以OCR识别吗?

  • @dylan-chan90
    @dylan-chan90 4 місяці тому

    有没有可能升级知识库文件大于50个吗?

  • @168kuso
    @168kuso 4 місяці тому

    請問我文本都是繁體中文,可是你教學內的都是簡體回答居多,有其他微調支援繁體中文嗎

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      能否支持多语言,主要取决于使用的LLM模型是否支持该语言文字。

  • @兵刃哥
    @兵刃哥 4 місяці тому

    大哥 你每次win的介绍完了,在介绍Mac啊 照顾下我们呀😅

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      我的Mac跑不动ollama下载的模型😀

    • @兵刃哥
      @兵刃哥 4 місяці тому

      @@AIDiscovery2045 你的不行 可以远程下我们的呀,Mac到底需要多大的配置才行

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      @@兵刃哥 至少M1

    • @兵刃哥
      @兵刃哥 4 місяці тому

      @@AIDiscovery2045 我的是m2 mini 就是打开虚拟环境不知道怎么进入虚拟环境安装

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      @@兵刃哥 source venv\scripts\activate

  • @shudai-bo9hv
    @shudai-bo9hv 3 місяці тому

    你视频效果全部复现了 但是 什么是LeetCode问题 相同的问题不用快捷提问 就很慢
    显存8g的

    • @AIDiscovery2045
      @AIDiscovery2045  3 місяці тому

      如果N卡,安装cuda驱动试试,可能会提高回答速度

  • @AsonCai
    @AsonCai 3 місяці тому

    如果某个文档更新了,本地知识库会不会自动更新?

  • @hooming-z8h
    @hooming-z8h 3 місяці тому

    不需要向量化吗?

  • @dexter_chann
    @dexter_chann 4 місяці тому

    自己部曙後, 怎樣可以讓別的電腦也查詢知識庫?

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      本地访问地址中把127.0.0.1改成你机器的IP地址,如192.168.1.123

  • @kezhu2484
    @kezhu2484 5 місяців тому

    rror code: 500 - {'error': {'message': 'error starting the external llama server: exec: "ollama_llama_server.exe": executable file not found in %PATH% ', 'type': 'api_error', 'param': None, 'code': None}} 提示这个是什么原因呀,怎么解决呢

    • @AIDiscovery2045
      @AIDiscovery2045  5 місяців тому

      ollama重新安装下,别安装在中文目录里

  • @GuodayeAITechLab
    @GuodayeAITechLab 3 місяці тому

    请问如何设置让GPU运行。按视频的操作步骤是CPU在运行

  • @jaxcctv
    @jaxcctv Місяць тому

    请问,这个知识库怎么对接到微信了

  • @fokery1
    @fokery1 4 місяці тому

    可以保存历史聊天记录吗

  • @marine-pg3ib
    @marine-pg3ib 3 місяці тому

    无法添加谷歌gemini 的 api key,出错“校验失败,请检查参数是否正确”

  • @rickylyu6198
    @rickylyu6198 4 місяці тому

    4080 笔记本 64G内存能跑多大的模型?哪里看配置

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      4080是16GB显存配置吧。7B、8B、13B的都可以跑;各种AI绘画、声音克隆、视频生成、AI换脸工具跑起来也都没问题。

  • @chenglongli8601
    @chenglongli8601 Місяць тому

    5个应用限制,能解除么

  • @mforce-ib4xn
    @mforce-ib4xn 3 місяці тому

    大佬,如果maxkb和ollama都运行在docker上,域名该怎么写

    • @AIDiscovery2045
      @AIDiscovery2045  3 місяці тому

      具体我没测试,有个官方的说明文档,可以看下。bbs.fit2cloud.com/t/topic/4165/5

  • @lingwendeng9761
    @lingwendeng9761 Місяць тому

    qwen模型,答非所问!

  • @梁铭昌
    @梁铭昌 Місяць тому

    请问可以有偿安装吗

  • @xinjiang11
    @xinjiang11 4 місяці тому

    请问我提问后模型没有回答知识库里的内容怎么解决?

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      编辑知识库,添加相关文档的问题关联

  • @artlinehua7087
    @artlinehua7087 5 місяців тому +1

    请问,是否对电脑配置有要求?

    • @AIDiscovery2045
      @AIDiscovery2045  5 місяців тому

      如果使用的模型是7B,6G显存;如果在线接入gpt或者其他在线的大模型,普通CPU也能跑

    • @王刚-l7s
      @王刚-l7s 5 місяців тому

      @@AIDiscovery2045 完了 我的4g没用了

  • @haipiday
    @haipiday 4 місяці тому +1

    大佬,怎么更改网页端的logo信息?

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      docker下安装改不了哈

    • @haipiday
      @haipiday 4 місяці тому

      @@AIDiscovery2045 目前只有docker这一种安装方式吗

  • @jianing007
    @jianing007 3 місяці тому

    这这个不能拓展么,比如说 知识库 存到我指定的一个数据库中

    • @AIDiscovery2045
      @AIDiscovery2045  3 місяці тому

      现在不行,这个知识库底层用的是PostgreSQL系统

  • @bigfish1188
    @bigfish1188 4 місяці тому

    能不能用api调用呢

  • @sbyszw7785
    @sbyszw7785 5 місяців тому

    在模型设置里,添加模型,不能下载,提示失败,不知道是怎么回事

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      那可以等ollama命令窗口下载完以后再到MaxKBj里添加;

  • @longlim3418
    @longlim3418 4 місяці тому

    求教大佬,这个支持API吗,我想用其他app来调用

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому +1

      暂不支持。但可以在第三方系统中无缝嵌入知识库的应用网址

  • @richbd5792
    @richbd5792 5 місяців тому +1

    我之前用时感觉智能分段不太好用

  • @Some0ne...
    @Some0ne... 3 місяці тому

    一键部署😂

  • @fengqingzhang-od2ux
    @fengqingzhang-od2ux 3 місяці тому

    QWen -7b 模型的Api域名,怎么输都是错的

    • @AIDiscovery2045
      @AIDiscovery2045  3 місяці тому +1

      如果视频演示的地址不行,试试用本机的IP

    • @fengqingzhang-od2ux
      @fengqingzhang-od2ux 3 місяці тому

      @@AIDiscovery2045博主,你好,我是外行,就差这一步了,其他全部做完了,怎么查看本地IP。

    • @fengqingzhang-od2ux
      @fengqingzhang-od2ux 3 місяці тому

      @@AIDiscovery2045博主,你好,连接上了,请问一下maxkb应用-概览-应用信息的公开访问怎么链接?

  • @mikeyu7271
    @mikeyu7271 5 місяців тому

    6G显卡指的是专用内存还是可以包含共享GPU内存,笔记本专用GPU内存4G,共享GPU内存7.8G可以布置吗?

    • @AIDiscovery2045
      @AIDiscovery2045  5 місяців тому

      可以跑,但稍有点慢。6G指的是专用内存

    • @mikeyu7271
      @mikeyu7271 4 місяці тому

      @@AIDiscovery2045 感谢

  • @thomas08088
    @thomas08088 4 місяці тому

    无法进入输入密码操作界面,求大佬指导

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      打开docker界面,containers里有没有启动成功

  • @moutonyang5652
    @moutonyang5652 3 місяці тому

    我看算力是基于cpu,怎么设置基于gpu?

    • @AIDiscovery2045
      @AIDiscovery2045  3 місяці тому +1

      MaxKB只是调用Ollama推理接口,取决于Ollama推理时是否用使用GPU

    • @moutonyang5652
      @moutonyang5652 2 місяці тому

      @@AIDiscovery2045 谢谢up

  • @boygood-c2n
    @boygood-c2n 4 місяці тому

    文档无权下载

  • @ddwinhzy
    @ddwinhzy 3 місяці тому

    难道有人跟我一样才发现的吗

  • @zhangxiang18
    @zhangxiang18 3 місяці тому

    请问我能否在EC2上部署?

  • @断桥残雪-i2t
    @断桥残雪-i2t 4 місяці тому

    API域名总是显示无效,求解答!

  • @nhmi6707
    @nhmi6707 2 місяці тому

    这个应用确实一般

  • @thomas08088
    @thomas08088 4 місяці тому

    Docker Engine stopped

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      如果开梯子的话,打开dokcer桌面应用,右上角点登录,注册个账号试试。

    • @thomas08088
      @thomas08088 4 місяці тому

      @@AIDiscovery2045 感谢,我用4.28版本完美解决

  • @LeBem-qe4vd
    @LeBem-qe4vd 4 місяці тому

    没显卡是不是跑不起来

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      可以跑,但体验不好,模型回复会非常慢。

  • @乾淨核能
    @乾淨核能 3 місяці тому

    請問硬體配置是?

    • @AIDiscovery2045
      @AIDiscovery2045  3 місяці тому

      最好有独立GPU(6GB显存),没有的话也能运行,回复慢一些

    • @乾淨核能
      @乾淨核能 3 місяці тому

      @@AIDiscovery2045 感謝,另外請教,目前有能夠搭建在google colab,能讀取自建文本產生知識庫的工具嗎?想自己搭建一個有關核能知識的QA聊天機器人,讓民衆可以透過網頁造訪跟她詢問核能知識!
      感謝

    • @AIDiscovery2045
      @AIDiscovery2045  3 місяці тому

      @@乾淨核能 khoj、dify、phidata都可以实现,不过有点复杂

    • @乾淨核能
      @乾淨核能 3 місяці тому

      @@AIDiscovery2045 感謝!!另外請教,在本地運行大語言的CPU最低要求是?

  • @重庆整形
    @重庆整形 4 місяці тому

    删除后 在新建 出现Failed to run image. (HTTP code 500) server error - invalid volume specification: '/run/desktop/mnt/host/d/Maxkb: /var/lib/postgresql/data': invalid mount config for type "bind": invalid mount path: ' /var/lib/postgresql/data' mount path must be absolute

    • @lacovovo
      @lacovovo 4 місяці тому

      和你一样的错误信息,就是这个复制的路径,已经是绝对路径了,但还是不对

  • @leochen238
    @leochen238 4 місяці тому

    提示127.0.0.拒绝连接

  • @muyi8539
    @muyi8539 4 місяці тому

    大神,我苹果电脑,两个api域名都提示失效,怎么办😅

    • @AIDiscovery2045
      @AIDiscovery2045  4 місяці тому

      换成本机的IP试试,一般都是192.168.开头的

    • @muyi8539
      @muyi8539 4 місяці тому

      ​@@AIDiscovery2045 原来重启电脑,忘了打开ollama了!~