【LLaMA-Factory】開源語言模型微調專案 方便微調各種大型語言模型｜內建WebUI 方便使用｜內建多種訓練方式讓使用者選擇

[@the_walking_fish]

非常抱歉
本集因為時間較長
在剪片時稍微有點來不及
所以字幕在使用AI生成後沒多做檢查、修改
導致內嵌字幕有許多錯字
希望大家多多見諒
(P.S.本來不想做內嵌字幕的，但考量到之前有不少人在明明有 CC 字幕的情況下，還在影片下方留言為什麼沒字幕，所以最終才決定做內嵌字幕)

[@keepgooo]

不曉得是不是因為華語圈的關係

[@資工課程帳號]

2:13 需要虛擬環境
4:39
開始進入 WebUI 介面 調整參數
8:59
簡單介紹記事本

[@米漢堡沒有米]

太神了老哥 已訂閱

[@VenliaChang]

您好，這個影片非常有幫助，感謝🙏

[@資工課程帳號]

8:42
我們在導出的時候 一直出現
一個 NotImplementedError:Cannot copy out of meta tensor,no data! 這樣的訊息 一直執行不下去 想問一下 是 什麼問題？
9:37
想請問 執行的時候
只有上面的連結，沒有下面的連結
是什麼情況？
確定有連線到 A100
而且 Step1 有執行
昨天 llama factory 好像有更新 不知道跟這個有沒有關聯
因為昨天 還用得好好的，今天突然出現這個問題

[@the_walking_fish]

很抱歉第一個問題我沒辦法回答你
因為我目前沒有遇到過
然後第二個問題
我剛剛有測試了
2個連結都能正常出現
你們可以再試一次看看

[@資工課程帳號]

@@the_walking_fish 了解 感謝回覆

[@windyg7261]

更换高端点的电脑后再来试试这个。。🤤

[@shiweiwong5292]

非常有帮助

[@Romulus-k3p]

非常好的视频，感谢！另外请教一个问题，使用llama factory微调过后，模型下载下来。如果要作为一个服务被调用，且能够支持比较好的并发。有什么好的工具或者思路呢，谢谢！

[@keepgooo]

*Google AI Studio 可以使用 Gemini 模型 希望能介紹一下*

[@luciferlu4191]

请问这样做出来了微调后的模型，怎么测试才能判断得到的模型满足需求呢

[@yangjames2800]

像Trelis/openassistant-deepseek-coder這個datasets該怎麼依照格式填入 感謝

[@323werfe]

有偿请求帮忙看看问题，每一步都按照视频上走的，但是最后localhost:7860打不开，谢谢

[@mmmjhccc]

llama factory, 好像現在不支持導出，還有其他方法導出嗎?

[@mmmjhccc]

原來好像是chineseLlama不能，其他可以

[@資工課程帳號]

8:42
我們在導出的時候 一直出現
一個 NotImplementedError:Cannot copy out of meta tensor,no data! 這樣的訊息 一直執行不下去 想問一下 是 什麼問題？
請問您講的東西 是跟這個 有關嗎？

[@mmmjhccc]

@@資工課程帳號 我沒留意，但我轉了百川便可導出

[@hannahh2701]

在输入python src\train.py后报了这个错：train.py: error: the following arguments are required: --model_name_or_path, --output_dir，这是为啥？有大神帮忙解答下不

[@VenliaChang]

我看文件檔現在是這個
llamafactory-cli webui

[@garfieldlavi]

可以請教你是怎麼製作教學影片的嗎？邊錄邊講解嗎？

[@the_walking_fish]

大部分影片我會先寫好搞以及錄音
畫面是測試期間或錄完音後再錄製的

[@polaris-ut2kd]

系統顯示:訓練出錯是什麼原因?有什麼解決辦法

[@mmmjhccc]

有沒有裝CUDA TOOLKIT

[@polaris-ut2kd]

@@mmmjhccc 沒有😅

[@mmmjhccc]

@@polaris-ut2kd 要先安裝

[@鄭博軒-r7i]

老兄突然不能用了