没有GPU也不愁,基于Groq API无压力使用Llama 3 8B & 70B 开源大模型

Поділитися
Вставка
  • Опубліковано 24 гру 2024

КОМЕНТАРІ • 31

  • @jason77nhri
    @jason77nhri 6 місяців тому

    感謝分享教學 請問這種方式是不需任何花費,也不會用到GPU嗎? 只是可能不能填寫比較私人或是敏感隱私資料?

  • @xmwinner
    @xmwinner 8 місяців тому +1

    你好,能否出一期最新的chatollama的安装详细教程?谢谢

    • @01coder30
      @01coder30  8 місяців тому

      请参考最新一期视频 ua-cam.com/video/FGHbjtIxDyQ/v-deo.html,对基于Docker的安装部署,做了比较详细的介绍。

  • @suoxin72
    @suoxin72 8 місяців тому

    这个模型对话语气不错,写文章总蹦出英文单词

  • @錘哥雜談
    @錘哥雜談 8 місяців тому +1

    看到一半,关于chatOllama的使用貌似没有视频,只能看git的说明文档。

    • @01coder30
      @01coder30  8 місяців тому

      是视频录制有问题吗?在哪个时间点?

    • @pongpong5441
      @pongpong5441 8 місяців тому

      我看到是正常的

    • @錘哥雜談
      @錘哥雜談 8 місяців тому

      @@01coder30 视频本身没有问题,不过作为第一次看到视频的话,有点费脑。尤其是非专业开发者来说。比如你用的ChatOllama ,而ChatOllama 在github中可以找到,对于油管上大部分人来说这不够,只是给专业程序员指明了方向。我还在往期视频里面找了下ChatOllama 的安装配置,发现很难找到专门视频讲解.....

    • @geliangzhu9146
      @geliangzhu9146 8 місяців тому

      这个chatOllam 还用手把手教?这不是一个docker本机就能跑的吗?

    • @geliangzhu9146
      @geliangzhu9146 8 місяців тому +2

      chatOllama 只是一个chat的前端,可以配置使用云端或者本地的任意模型api,这里只不过引用了grok 的 api ,调用的是LLama3模型。这样说你就明白了吧。chatollama还用单独出视频?

  • @kimjason5294
    @kimjason5294 8 місяців тому +1

    希望把各种 key 加后端配置

    • @01coder30
      @01coder30  8 місяців тому

      逐渐添加中,有兴趣参与到项目中来一起开发吗

    • @kimjason5294
      @kimjason5294 8 місяців тому

      @@01coder30 好哇好哇

  • @changero951
    @changero951 8 місяців тому

    使用这个模型的时候,出现了403的错误,并且返回的html内容中title部分是“Attention Required! | Cloudflare”,请问up该怎么解?

    • @01coder30
      @01coder30  8 місяців тому

      貌似没有遇到过这个错误,要不你再试试?看是否错误已消失?

    • @changero951
      @changero951 8 місяців тому

      @@01coder30 没有消失,或许是网络问题导致的,不过我用其他工具可以正常连上groq的服务,就很迷

    • @gabrielchow
      @gabrielchow 8 місяців тому +1

      被groq封了,仔细看details 会发现写了 you are blocked.

    • @changero951
      @changero951 8 місяців тому

      @@gabrielchow 那挺奇怪,因为我申请到key之后直接配置到chat-ollama中,应该不会因为其他原因被封,最大可能就是网络问题

    • @gabrielchow
      @gabrielchow 8 місяців тому

      @@changero951 我今天也被403了,lobechat查询api details 里面写清楚了you are blocked

  • @andymu1969
    @andymu1969 8 місяців тому

    chatollama可以用于安卓或华为手机吗?

    • @01coder30
      @01coder30  8 місяців тому

      这是个Web应用,手机可以访问。

  • @Harry_Zh
    @Harry_Zh 8 місяців тому

    加个字幕如何?

    • @01coder30
      @01coder30  8 місяців тому

      哈哈,好的。最近懒惰了,尽快加上

  • @garys3673
    @garys3673 8 місяців тому

    groq 限制很多啊

    • @01coder30
      @01coder30  8 місяців тому

      嗯。你是在国内访问吗?

  • @pongpong5441
    @pongpong5441 8 місяців тому