chatGPT之Python?API啟用上下文管理案例詳解
chatGPT已經(jīng)爆火一段時(shí)間了,我想大多數(shù)的開(kāi)發(fā)者都在默默的在開(kāi)發(fā)和測(cè)試當(dāng)中,可能也是因?yàn)檫@個(gè)原因所以現(xiàn)在很難找到關(guān)于開(kāi)發(fā)中遇到的一些坑或者方法和技巧。
來(lái)看看小編挑選的這款筆記本你是否有用:
為什么別人的機(jī)器人能聯(lián)想之前的語(yǔ)料,而你的卻像個(gè)每次都只如初見(jiàn)的高冷機(jī)器人?
我也是參考官方文檔去閱讀和理解的,但是有時(shí)候官方文檔以為你很懂了,就沒(méi)有太多說(shuō)明,廢話不多說(shuō)下面我跟大家講一下API調(diào)用時(shí)如何啟用上下文管理的。
官方案例:
# Note: you need to be using OpenAI Python v0.27.0 for the code below to work import openai openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Who won the world series in 2020?"}, {"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."}, {"role": "user", "content": "Where was it played?"} ] )
雖然已經(jīng)給出了格式,但是沒(méi)有很詳細(xì)的說(shuō)明,可能對(duì)于高階開(kāi)發(fā)者一看就懂了,但是我還是想以更口水的方式講解一下這個(gè)上下文管理。
先看一下我一個(gè)簡(jiǎn)單的代碼(還沒(méi)有啟用上下文管理):
import openai openai.api_key = "你的sk-key" msg = [{"role": "user", "content": "你好chatGPT"}] # 結(jié)構(gòu)化數(shù)據(jù)并進(jìn)行提交 completion = openai.ChatCompletion.create( # max_tokens = inf # 默認(rèn)inf 最大令牌數(shù) presence_penalty = 1, # 懲罰機(jī)制,-2.0 到 2.0之間,默認(rèn)0,數(shù)值越小提交的重復(fù)令牌數(shù)越多,從而能更清楚文本意思 frequency_penalty = 1, # 意義和值基本同上,默認(rèn)0,主要為頻率 temperature = 1.0, # 溫度 0-2之間,默認(rèn)1 調(diào)整回復(fù)的精確度使用 n = 1, # 默認(rèn)條數(shù)1 user = ids, # 用戶ID,用于機(jī)器人區(qū)分不同用戶避免多用戶時(shí)出現(xiàn)混淆 model = "gpt-3.5-turbo", # 這里注意openai官方有很多個(gè)模型 messages = msg ) value = completion.choices[0].message.content # chatGPT返回的數(shù)據(jù)
這是一個(gè)最基本的結(jié)構(gòu),其中參數(shù)model和messages是必須要有的兩個(gè)形參。
加入上下文管理的代碼:
import openai openai.api_key = "你的sk-key" msg = [{"role": "system", "content": "你的名字叫玖河AI,你是一個(gè)插件,你的開(kāi)發(fā)者是玖河."}, {"role": "user", "content": "你好chatGPT"}, {"role": "assistant", "content": "您好,有什么需要我?guī)兔Φ膯?wèn)題嗎?"}, {"role": "user", "content": "我的名字叫高啟強(qiáng),我的妹妹叫高啟蘭,我們是兄妹關(guān)系。記住了嗎?"} {"role": "assistant", "content": "好的,您叫高啟強(qiáng),您的妹妹叫高啟蘭,是親兄妹關(guān)系。謝謝您提供信息讓我更了解你們~"}, {"role": "user", "content": "你現(xiàn)在在哪里?"}, {"role": "assistant", "content": "作為一款智能Ai助手,我并沒(méi)有實(shí)際的位置。我只是在云端中運(yùn)行,在等待用戶輸入指令時(shí)保持睡眠狀態(tài)。"}, {"role": "user", "content": "我的妹妹是誰(shuí)?"}, {"role": "assistant", "content": "您之前告訴我,您的妹妹叫高啟蘭。"}, {"role": "user", "content": "你的名字叫什么?"}, {"role": "assistant", "content": "我的名字叫玖河AI是一個(gè)叫玖河的開(kāi)發(fā)者開(kāi)發(fā)的插件"} ] # 結(jié)構(gòu)化數(shù)據(jù)并進(jìn)行提交 completion = openai.ChatCompletion.create( # max_tokens = inf # 默認(rèn)inf 最大令牌數(shù) presence_penalty = 1, # 懲罰機(jī)制,-2.0 到 2.0之間,默認(rèn)0,數(shù)值越小提交的重復(fù)令牌數(shù)越多,從而能更清楚文本意思 frequency_penalty = 1, # 意義和值基本同上,默認(rèn)0,主要為頻率 temperature = 1.0, # 溫度 0-2之間,默認(rèn)1 調(diào)整回復(fù)的精確度使用 n = 1, # 默認(rèn)條數(shù)1 user = ids, # 用戶ID,用于機(jī)器人區(qū)分不同用戶避免多用戶時(shí)出現(xiàn)混淆 model = "gpt-3.5-turbo", # 這里注意openai官方有很多個(gè)模型 messages = msg ) value = completion.choices[0].message.content # chatGPT返回的數(shù)據(jù)
下面啟用上下文管理的數(shù)據(jù)結(jié)構(gòu)和沒(méi)有啟用的數(shù)據(jù)結(jié)構(gòu)略有不同:
① system 代表系統(tǒng)設(shè)定(也就是告訴chatGPT他的角色)
② user 表示用戶
③ assistant 表示GPT的回復(fù)
有幾個(gè)點(diǎn)需要跟大家說(shuō)一下,避免踩坑!
一、msg數(shù)據(jù)的儲(chǔ)存建議使用數(shù)據(jù)庫(kù)形式進(jìn)行儲(chǔ)存,優(yōu)點(diǎn)是能持久數(shù)據(jù),并且調(diào)取數(shù)據(jù)的時(shí)候也非常方便,因?yàn)槲覄傞_(kāi)始只想用json來(lái)儲(chǔ)存,但是折騰了很久還是放棄了,缺點(diǎn)是不方便儲(chǔ)存和調(diào)取,因?yàn)槟阈枰紤]到不同的用戶他們下面的會(huì)話是不一樣的。
二、需要注意的是,提交的數(shù)據(jù)結(jié)構(gòu)順序必須是從上至下的數(shù)據(jù)結(jié)構(gòu),不然chatGPT會(huì)混淆錯(cuò)亂,system可以沒(méi)有,如果你想讓它一直保持這個(gè)設(shè)定的話,那在每次提交的時(shí)候在第一個(gè)列表元素中加入system的數(shù)據(jù)就可以。
三、還有一個(gè)重要的點(diǎn):提交的這些數(shù)據(jù)都會(huì)計(jì)算進(jìn)tokens里面包括chatGPT回復(fù)的時(shí)候(最多4096個(gè)tokens),如果你想讓上下文管理能記憶更多的語(yǔ)料,那么在提交數(shù)據(jù)的時(shí)候就盡可能的增加你們之間對(duì)話的內(nèi)容(同時(shí)會(huì)更快的消耗你的tokens)。
四、截止2023年3月14日前:chatGPT的會(huì)員價(jià)格為20美元/月 ,tokens按量收費(fèi)。通俗的說(shuō)就是想手機(jī)卡一樣,每個(gè)月有月租,通話另外計(jì)費(fèi)。chatGPT Plus會(huì)員的好處就是速度能更快,并且穩(wěn)定,白嫖版的也能用,就是速度會(huì)慢一些而且不穩(wěn)定容易掛掉。
到此這篇關(guān)于chatGPT之Python API啟用上下文管理案例詳解的文章就介紹到這了,更多相關(guān)Python API啟用上下文管理內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
解決Pycharm中import時(shí)無(wú)法識(shí)別自己寫(xiě)的程序方法
今天小編就為大家分享一篇解決Pycharm中import時(shí)無(wú)法識(shí)別自己寫(xiě)的程序方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-05-05Python Pandas數(shù)據(jù)分析之iloc和loc的用法詳解
Pandas 是一個(gè)開(kāi)放源碼、BSD 許可的庫(kù),提供高性能、易于使用的數(shù)據(jù)結(jié)構(gòu)和數(shù)據(jù)分析工具,它是一個(gè)強(qiáng)大的分析結(jié)構(gòu)化數(shù)據(jù)的工具集,基礎(chǔ)是 Numpy2021-11-11python進(jìn)度條顯示-tqmd模塊的實(shí)現(xiàn)示例
這篇文章主要介紹了python進(jìn)度條顯示-tqmd模塊的實(shí)現(xiàn)示例,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-08-08python如何獲取文件當(dāng)前位置和定位某個(gè)位置
這篇文章主要介紹了python如何獲取文件當(dāng)前位置和定位某個(gè)位置,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-11-11Selenium定位瀏覽器彈窗方法實(shí)例總結(jié)
彈出框是自動(dòng)化測(cè)試中一種常見(jiàn)的元素,這種元素通常是客戶端自帶的,下面這篇文章主要給大家介紹了關(guān)于Selenium定位瀏覽器彈窗方法的相關(guān)資料,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-06-06詳解Python中使用base64模塊來(lái)處理base64編碼的方法
8bit的bytecode經(jīng)常會(huì)被用base64編碼格式保存,Python中自帶base64模塊對(duì)base64提供支持,這里我們就來(lái)詳解Python中使用base64模塊來(lái)處理base64編碼的方法,需要的朋友可以參考下2016-07-07PyCharm+Qt Designer+PyUIC安裝配置教程詳解
這篇文章主要介紹了PyCharm+Qt Designer+PyUIC安裝配置教程詳解,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2019-06-06Numpy數(shù)組array和矩陣matrix轉(zhuǎn)換方法
這篇文章主要介紹了Numpy數(shù)組array和矩陣matrix轉(zhuǎn)換方法,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-08-08