2024年06月03日 建站教程
接口调用方式不变,与openai
自身调用方式一致。输入主要有7个参数。
1、model
:模型名称,gpt-3.5-turbo
或gpt-3.5-turbo-0301
。
2、messages
:问题或待补全内容,下面重点介绍。
3、temperature
:控制结果随机性,0.0表示结果固定,随机性大可以设置为0.9。
4、max_tokens
:最大返回字数包括问题和答案,通常汉字占两个token
。假设设置成100,如果prompt
问题中有40个汉字,那么返回结果中最多包括10个汉字。ChatGPT API
允许的最大token
数量为4096,即max_tokens
最大设置为4096减去问题的token
数量。
5、top_p
:设置为1即可。
6、frequency_penalty
:设置为0即可。
7、presence_penalty
:设置为0即可。
8、stream
:控制连续输出或完整输出。
需要注意,上述输入参数增加stream
,即是否采用控制流的方式输出。
如果stream
取值为False
,那么完全返回全部文字结果,可通过response.choices[0].delta['content']
进行读取。但是,字数越多,等待返回时间越长,时间可参考控制流读出时的4字/每秒。如果steam
取值为True时,那么返回结果是一个Python generator
,需要通过迭代获取结果,平均大约每秒钟4个字33秒134字,39秒157字。
本文链接:http://so.lmcjl.com/news/5851/