2024年06月03日 建站教程
接口调用方式不变,与openai自身调用方式一致。输入主要有7个参数。
1、model:模型名称,gpt-3.5-turbo或gpt-3.5-turbo-0301。
2、messages:问题或待补全内容,下面重点介绍。
3、temperature:控制结果随机性,0.0表示结果固定,随机性大可以设置为0.9。
4、max_tokens:最大返回字数包括问题和答案,通常汉字占两个token。假设设置成100,如果prompt问题中有40个汉字,那么返回结果中最多包括10个汉字。ChatGPT API允许的最大token数量为4096,即max_tokens最大设置为4096减去问题的token数量。
5、top_p:设置为1即可。
6、frequency_penalty:设置为0即可。
7、presence_penalty:设置为0即可。
8、stream:控制连续输出或完整输出。
需要注意,上述输入参数增加stream,即是否采用控制流的方式输出。
如果stream取值为False,那么完全返回全部文字结果,可通过response.choices[0].delta['content']进行读取。但是,字数越多,等待返回时间越长,时间可参考控制流读出时的4字/每秒。如果steam取值为True时,那么返回结果是一个Python generator,需要通过迭代获取结果,平均大约每秒钟4个字33秒134字,39秒157字。
本文链接:http://so.lmcjl.com/news/5851/