Nvidia擴充TensorRT使用教學,算圖速度提升最多兩倍!!

Поділитися
Вставка
  • Опубліковано 5 жов 2024
  • Discord: / discord
    FB粉專: www.facebook.c...
    成為這個頻道的會員並獲得福利:
    / @jackellie
    抖內JackEllie(本功能沒有任何福利,但謝謝你的錢):
    www.buymeacoff...
    我們的twitch(不定時晚上9點開台): / otakuya2022
    =====================================================================
    本篇為TensorRT使用教學,由Nvidia開發的SD擴充TensorRT,可以在不同的顯卡上獲得性能提升快來試用看看吧!!
    ================================重要提示=====================================
    在轉換TRT模型的時候有可能遭遇CUDA的錯誤,這好像是BUG只需要在預設的腳本中選擇靜態模型 (Static)似乎就不會發生錯誤
    =====================================================================
    TensorRT擴充網址:
    github.com/NVI...
    環境安裝批次檔:
    標準安裝載點 使用方法:放到SD資料夾中與webui-user.bat放在同一個目錄底下執行TensorRT-normal.bat即可。
    github.com/Jac...
    懶人包載點 使用方法:放到懶人包資料夾中與run.bat放放在同一個目錄底下執行TensorRT-novenv.bat即可。
    github.com/Jac...
    #stablediffusion #aidrawing #ai繪圖 #aiart #aigc #tensorrt

КОМЕНТАРІ • 25

  • @dysh-tyc-edu-tw
    @dysh-tyc-edu-tw 10 місяців тому

    LCM完全打敗tensorRT, uNet不能用,AnimateDiff也不能用,還限制出圖大小,每個主模型都要搭配一個trt再佔一個模型大小空間,重點安裝extension還卡一堆錯誤需要修正,
    以上缺點LCM都沒有,速度,我測試後兩者都差不多,我想原理是一樣,只是用LCMLora更加彈性很多

    • @JackEllie
      @JackEllie  10 місяців тому

      兩個原理是不同的最理想當然是都使用XD

  • @AMATISIG
    @AMATISIG 11 місяців тому

    感謝您為國辛勞!!

    • @JackEllie
      @JackEllie  11 місяців тому

      聽起來很像被教召~哈哈哈

  • @edenkuo8544
    @edenkuo8544 10 місяців тому

    算圖高速又快的話建議版主介紹LCM-LORA,真的爆狂的快,操作簡單100倍,出圖也非常精緻。

    • @JackEllie
      @JackEllie  10 місяців тому

      我其實有測試過LCM,但是出圖精緻方面我覺得還不太行...之後應該會另外介紹

  • @jamielin770
    @jamielin770 11 місяців тому +1

    如果有兩顆硬碟,把這個Nvidia擴充TensorRT放到另一個硬碟再建Stable diffusion 來玩應該可以吧!?這樣就不用改C糟的Stable diffusion

    • @JackEllie
      @JackEllie  11 місяців тому

      可以啊但是這個環境建立沒有這麼恐怖啦!!不用太害怕

  • @windstar2006
    @windstar2006 11 місяців тому

    問題還是 使用Lora真的很麻煩.... 而且也沒有好的多lora的砍人法.. 這是我後來沒用的原因.. 而且每個lora都消耗掉一個完整RT模型的容量... 這真的很恐怖...

    • @JackEllie
      @JackEllie  11 місяців тому

      lora_v2版本可以用跟平常一樣的方式,而且尺寸有小一點大概500mb

    • @windstar2006
      @windstar2006 11 місяців тому

      @@JackEllie 那就太好了 希望V2早點能進入正式般
      不過 V2可以同時使用多個LORA了嗎?

    • @JackEllie
      @JackEllie  11 місяців тому +1

      可以喔

  • @AItellstory
    @AItellstory 10 місяців тому

    請問現在安裝SD 還是推薦 ZOTAC RTX 3060 TWIN EDGE 這張顯卡嗎??

    • @JackEllie
      @JackEllie  10 місяців тому

      先申明我沒有指定品牌當時推薦的是RTX 3060 12G,目前的畫因為40的S系列即將發表所以比較難說,但SD用起來CP值最高的依然是3060 12G版本,當然如果你的預算充足我會建議買40系列的顯卡就是了,最好還來DC群問問!!

  • @zoearthmoon
    @zoearthmoon 10 місяців тому

    我剛剛測試
    原圖 640 X 384 放大3倍到 1920 X 1152
    所以我建立 640 X 384 與 1920 X 1152
    這兩個大小的靜態模型
    但是當我啟用 Hire Fix 他還是會說找不到對應模型
    但是不開啟 Hire Fix 又沒問題
    不知道該怎麼解決...

    • @JackEllie
      @JackEllie  10 місяців тому +1

      恩...我之前使用是沒有問題的耶,你可以把內容貼到DC我大概就知道原因了0.0

  • @haimingzhang3417
    @haimingzhang3417 10 місяців тому

    目前只能支持windows安装吗?linux的不行吗?

    • @JackEllie
      @JackEllie  10 місяців тому

      linux應該可以,只是多數用戶用windows而已

    • @haimingzhang3417
      @haimingzhang3417 10 місяців тому

      @@JackEllie 但是下载插件重启的时候,会报错(core dumped) "${python_cmd}" -u "${LAUNCH_SCRIPT}" "$@"。完全启动不起来。大佬有遇到这个问题吗?

  • @jakalop_in_jun
    @jakalop_in_jun 11 місяців тому

    tensorRT能支援animatediff動態模型嗎 ?
    想知道能不能和animatediff結合加速動畫產出的方法 感覺應該可以但不知道方法

    • @JackEllie
      @JackEllie  11 місяців тому

      很遺憾的目前無法支援

  • @jkgowl007
    @jkgowl007 11 місяців тому

    抱歉..請教一個問題
    我要使用ControlNet裡的IP-Adapter控制器
    運行完後顯示
    AttributeError: module 'torch.nn.functional' has no attribute 'scaled_dot_product_attention'
    有人說要更新pytorch..但我不知道要如何更新
    請問前輩我該如何處理??

    • @JackEllie
      @JackEllie  11 місяців тому +1

      聽起來更像是不匹配吧?你對應了不同的模型?這種都需要上DC截圖才比較好找到原因

  • @zhizui
    @zhizui 11 місяців тому

    沙发?