Python语法如何调用GPT3.5接口

2024年06月03日 建站教程

接口调用方式不变,与openai自身调用方式一致。输入主要有7个参数。

1、model:模型名称,gpt-3.5-turbogpt-3.5-turbo-0301

2、messages:问题或待补全内容,下面重点介绍。

3、temperature:控制结果随机性,0.0表示结果固定,随机性大可以设置为0.9。

4、max_tokens:最大返回字数包括问题和答案,通常汉字占两个token。假设设置成100,如果prompt问题中有40个汉字,那么返回结果中最多包括10个汉字。ChatGPT API允许的最大token数量为4096,即max_tokens最大设置为4096减去问题的token数量。

5、top_p:设置为1即可。

6、frequency_penalty:设置为0即可。

7、presence_penalty:设置为0即可。

8、stream:控制连续输出或完整输出。

需要注意,上述输入参数增加stream,即是否采用控制流的方式输出。

如果stream取值为False,那么完全返回全部文字结果,可通过response.choices[0].delta['content']进行读取。但是,字数越多,等待返回时间越长,时间可参考控制流读出时的4字/每秒。如果steam取值为True时,那么返回结果是一个Python generator,需要通过迭代获取结果,平均大约每秒钟4个字33秒134字,39秒157字。

本文链接:http://so.lmcjl.com/news/5851/

展开阅读全文
相关内容