大模型实战 P5 OpenAI对话接口代码优化
上节课给大家介绍了,OpenAI 接口的基本使用方法。这节课,先给大家补充几个可调参数,然后对 api_key 的存储方式做一点调整。
代码示例
1、可调参数
max_tokens:用于指定生成的文本的最大长度。一个token可以是一个字、一个词或者一个标点符号。
temperature:用于控制生成文本的随机性。范围为0-2,值越大,生成的文本越随机,越有创造性;值越小,生成的文本越确定,越准确。
n:用于指定生成多少个独立的文本片段,也就是多个备选答案。
更多参数,可以根据文档,或者结合 ChatGPT 了解。
2、流式输出
# openai_02_stream.py # stream=True for chunk in response: # print(chunk) content = chunk.choices[0].delta.content if content is not None: print(content, end='')
3、隐藏api_key
在工程化的应用当中,api_key这种敏感信息,一般不会出现在业务代码中的,需要有一个单独的配置文件,来管理这些key。
pip install python-dotenv
# .env OPENAI_API_KEY = 'replace with your openai api key' OPENAI_BASE_URL = 'https://api.openai-proxy.com/v1' # openai_02_stream.py from dotenv import load_dotenv load_dotenv() client = OpenAI()
一般来说,越成熟的产品,使用起来也会越简单,OpenAI 的接口的使用方法,也是特别简单的,目前就给大家讲完了。
下节课,会再给大家补充一个 token 的计算方法,因为涉及到付费,所以需要对每次调用要花多少钱,要心里有数。
本文链接:http://ichenhua.cn/edu/note/684
版权声明:本文为「陈华编程」原创课程讲义,请给与知识创作者起码的尊重,未经许可不得传播或转售!