Master ChatGPT Prompt in 13 Minutes
Вставка
- Опубліковано 1 лип 2024
- #chatgpt #prompt #deeplearningai
Hi! Hello everyone, I am EngineerGary, a machine learning engineer.
This video will talk about how to write a good ChatGPT Prompt
Notion link:
engineergary.notion.site/Chat...
OpenAI x Andrew Ng (free for a limited time) course:
www.deeplearning.ai/short-cou...
====
0:00 Opening
0:36 2 types of large language models
1:30 Two Principles of Prompt
1:42 How to make instructions clear and specific?
5:27 How to give the model time to "think"?
8:17 Iterative Prompt Development
8:57 Common 5 applications of ChatGPT
10:02 The meaning of the "temperature" parameter
11:26 Bonus: 2 tips
12:29 Epilogue - Наука та технологія
大家在使用 ChatGPT 的時候有遇過什麼困擾你的問題嗎？歡迎在下面提出來歐！
搜集夠多的話，之後可以來做另外一集解答大家的疑惑～
我要怎麼讓GPT寫的小說不像作文
@@user-fx6cp3zt3g 這個可能可以把你要他寫的小說，多加上風格描述，例如說科幻、懸疑，xx 有名作者的風格，例如說金庸、倪匡之類的，應該會有一些幫助
真的很受用歐!!尤其是 ＂＂＂＂＂＂使用這個符號 加上給予清楚的步驟，來產出需要的內容！
常常遇到的問題就是
＞無法一次把所有內容說完，要一直打＂ｐｌｅａｓｅ ｃｏｎｔｉｎｕｅ＂然後！當全部寫完了，要拼湊起來來能產出一個所要的最後版
＞不知道要如何只是ＣＯＰＹ圈選要複製到外面的文件！由其實透過手機，會把所有畫面的資料都貼上去了！ 往往還要在外面的ＷＯＲＤ檔案或ＦＢ做ＤＥＬＥＴＥ的動作！
再次感謝您～ 真棒！
用三个引号包起来具体是怎么操作，是“““谢谢谢谢谢谢谢谢”””吗
@@lucialu-oz9rx 沒錯歐，引號只是個例子，用別的估計也行，如果要人比較好看的換行的話，shift+enter 可以在對話不要送出就換行
非常感谢！原教程我放在那里三个星期也没有看完 这个一口气就看完了 辛苦了！
表達好清楚 >w< 謝謝分享重要資訊！
感谢给老师的分享，真是非常的棒。
都是有价值的建议 谢谢❤
讲得非常好👍
讲的太棒了！！！
這影片太讚了 已按讚訂閱！
分享的讚！
awesome video ！
我也有去看官方介紹，但是你的舉例讓人覺得很實用易懂，已訂閱
很高興這個影片有幫助到大家了解 prompt 的眉眉角角！謝謝你的訂閱～
感谢分享。。。
角色扮演真的是一個很好用的功能除了寫程式之外你讓gpt扮演一個翻譯官讓翻譯文章能更精確和通順
我還想聽聽你對notion ai的操作 心得 再跟GPT做比較
影片簡單明瞭 好棒 👍🏻
一直覺得GPT用英文操作會比較順，用過中文操作就一直只是瞎盼的感覺，下次一定要試試看你教的方法👍🏻👍🏻👍🏻
很高興影片對你有幫助！
目前確實多數的語言模型，在表現上還是以英文比較好，中文如果像英文那樣給個簡單的 prompt，通常就很容易遇到沒辦法要他回答我們想要的問題。
所以更好的給他 prompt 在中文又會更重要一些！
👍👍👍
給旅有考慮出一期教大家使用fine-tuning 嗎？還是有推薦的教學嗎？
很專業耶！
沒錯，有在準備中歐～
這陣子我已經調得不要不要的了！
相信在未來，AI史上會稱這為羊駝大亂鬥
@@EngineerGary 期待ing
手刀訂閱了！問一個問題，如果跟chatgpt對話比較長，它會忘記較早的對話，此時要怎麼辦？是要放棄目前的對話串，重開新的對話？還是有其他的方法？
目前基本上只有治標的辦法：換成 4 的版本，可以容納更多約 8000 token 或是把之前的內容精簡成比較短的內容後繼續
本質上的問題就是 token 有一個上限，而 3.5 只能放 4096 個 token，目前已經有一些研究想辦法把一次能放入的 token 增加
商用的部分像是 Claude AI 已經有 100000 token 的試用了，或許等 OpenAI 他們釋出更新的版本，這樣長對話的效果會好更多
@@EngineerGary 我目前是用gpt-4的版本, 然後我發現他會忘記較早的對話...... 無論如何,謝謝回覆!!
您好，由於我自己研究所需，目前想要利用ChatGPT幫我閱讀大量文字(約1萬中文字)後，幫我隨機產生不同的Q&A。因ChatGPT 的輸入和輸出都有字數限制，我有嘗試分段輸入讓他記憶，但是回饋給我的Q&A內容幾乎相同。請問我該如何做比較好呢?
嗨～先感謝你留言發問啦！這個問題很好而且不是簡單的任務！
首先你已經知道這麼多字，是沒辦法一次丟進去 ChatGPT 的，
3.5 的版本可以輸入約 4000 個 token，4 目前比較便宜的方案是 8000 個 token，10000個中文字應該會有 20000 多個 token（約略估計）
如果想知道 token 和字的差異，以及怎麼算你手邊的中文字到底有幾個 token 的話，
可以參考之前有做過的一集影片，ChatGPT 揭秘：ua-cam.com/video/nLOV5ZMDG_U/v-deo.html
回到你的問題，下面假設你是用 3.5 的模型 API call，如果是我的話會把任務拆解成這幾個部分：
1. 將文字分段，因為要盡量把 「文字+你給的提示+你預期 ChatGPT 回答」，控制在 4000 token 內，所以分段文字的長度要先考慮好
2. 寫一段提示，目標是要把一段文字做摘要，提示類似這樣：你是一個厲害的記者，擅長將文章內容做總結，總結的內容要越具體越好，給你下面文章內容，請用 xx 字內總結
3. 有了這段文字的總結之後，要他把總結改寫成一個問句，提示類似這樣：你是一個厲害的搜尋引擎，擅長將句子改寫成問題，問題要符合 SEO，給你下面句子，請改寫成 yy 個問題，問題要越具體越好
這樣你就有了一段文章 vs 幾個問句的 QA pairs 了，整個思路大概就是先把你的文字內容濃縮之後，反向產生問句這樣，又因為你是要做 QA，問的問題不可以太一般、模糊，例如說：這篇文章在講什麼？這種問題就沒有什麼資訊量，很難回答。
另外加碼回答，如果你是需要做 QA 訓練的話，那麼你需要準備 negative examples，這時候你就隨機抽其他問句來配一個文章，應該就可以有不錯的效果了！
chatGPT 建議用` `
我正在开发调用呢，很疑惑当我的提问 messages 字数（历史的提问和回答）接近 4000的时候，后面的回答就会很快停下来 [DONE] 了
看起来是所有 提问(包括历史)+回答 的字数总数有限制？
我猜測是 OpenAI 他們會把歷史訊息做一部分精簡之後，塞進你新的一段，這樣才能保有以前的重要訊息
所以他精簡的內容越多，應該就會影響到它生成給你的字數囉！
為什麼會有Tensorflow的衣服XD 有Notion實在太棒了 啾咪
哈哈 衣服好像是以前參加iT邦鐵人賽的獎品！
請問有沒有 Azure OpenAI 的教學
是指說在 Azure cloud 上面使用 OpenAI API 嗎？
看了一下 Azure 上的 API 說明：
learn.microsoft.com/zh-tw/azure/cognitive-services/openai/chatgpt-quickstart?tabs=command-line&pivots=programming-language-python
azure.microsoft.com/zh-tw/pricing/details/cognitive-services/openai-service/
應該跟直接用 OpenAI 的 API 沒有差太多才對！
關於怎麼呼叫 OpenAI API 可以在 ChatGPT 揭秘那集影片，下面我有附上影片內呼叫 API 的 colab 程式碼連結，
那裡應該就可以知道怎麼用囉！
提问：假如我的prompt比较长，加上样本文案，压缩了GPT上下文的长度，它只会给我一个100-200字的回复，让它继续回复就像断片一样，这类问题应该怎么解决呢？
因為 context length 決定了模型可以接受 input+output token 的上限，所以如果你的 context length 沒法加大的話，只能先對於你的樣本文案做壓縮，壓縮的方式就是做內容總結，濃縮一下要點！ 不過最有效的還是換更大 context length 的模型，像是 Claude 系列就都蠻大的
你家的书柜，圣诞节灯，我家都用同款
原來是RAP UA-camr
Yo~Yo~
请问脑图是用什么软件制作的？
是用 xmind 歐！
第一次看影片,介紹得很不錯,但溫度參數我看不懂是什麼意思?
如果是透過網站用 ChatGPT 的話，是不會碰到這個參數的～
透過 API 的開發者，才有這個參數可以調整，官方的 API 文件有簡單說明：platform.openai.com/docs/api-reference/chat/create#chat/create-temperature
簡單的來講，語言模型在生成下一個 token 時，會從好幾個候選 token 挑一個出來，每個 token 的機率是不同的，怎麼挑就是透過溫度這個參數控制的！
溫度=0 的時候，就會直接挑機率最高的 token
溫度越高就越隨機挑選的感覺！
希望這樣有讓你更清楚～
@@EngineerGary 謝謝你的詳解
notion的分享怎么能看呢？
下面的說明欄的 notion 連結點進去應該就有囉！
prompt和article在输入指令中是什么含义？
prompt 就是指示，要丟給 ChatGPT 的文字內容
article 就是你要分析的文章
@@EngineerGary 我在输入的时候是不是只需要把内容一步一步写进去，不需要在前面加上prompt，感谢回复🙏
@@ShuZH_Leo10 我假設你是在 ChatGPT 瀏覽器上聊天使用的話，那一次對話你能放進去多少就多少會比較直接，然後不需要加 prompt 沒錯，那個是用程式呼叫模型，用的變數名稱而已！
程式碼那邊展示的是如果使用 API 呼叫 ChatGPT 的模型的話，會那樣寫～
@@EngineerGary OKOK明白了，谢谢博主
@@ShuZH_Leo10 不會～很高興有觀眾問問題！
notion笔记从哪里获得
在說明欄有歐！
網頁chatGPT
翻譯日文時常常需要一直提示他是個翻譯家
偶爾會跳日文、英文回復
有一招怪招，有時會蠻有效的，可以試試看！
在你的 prompt 最前面加上 #語言代碼，以日文為例的話：#ja
這樣他就會用這個語言回覆你～
不過你所說的問題，確實是目前 LLM 多少會遇到的，主要就是根據他訓練文字資料，偏重在哪一個語系，
那個語系的回答就會比較好，也比較容易不時的跑出來這樣！
T血哪里卖的？
是比賽的獎品～不確定買不買得到！
材料在哪里领取
說明欄的 notion 連結！
🍉
🍌
@@EngineerGary T = 10000000000000000000000000000
@@viamshit ok 都是我了
666
不打鼓改唱RAP?
下次是不是要騎車了
看完了我只學到NO~NO~NO
這樣你已經學走最重要的部分了 可以畢業了
No No No
Yo yo yo
🤡为什么所有的电脑程式都要用英文输入？中文不可以吗？电脑只听得懂英文吗？为什么电脑只听得懂英文？
什么文都可以，所有文字都是字符而已，有中文编程语言，易语言，只是没有市场而已。