如何用chat gpt生成prompt chat gpt 使用的模型
淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
- 1 接口调用
- 1.1 生成key
- 1.2 接口功能
- 1.2.1 图片生成 (image generation)
- 1.2.2 对话(chat)
- 1.2.3 中文纠错 (Chinese Spelling Correct)
- 1.2.4 关键词提取 (keyword extract)
- 1.2.5 抽取文本向量 (Embedding)
- 1.2.6 微调 (fine tune)
- 2 如何写好prompt
- 2.1分类任务
- 2.2 归纳总结
- 3.3 翻译
- 2.4 API接口多样性控制
- 3 实用资料
我们可以用OpenAI 提供的API接口实现很多NLP的任务,还可以支持生成图像,提取embedding以及【【微信】】的功能。接下来我们来看下具体怎么调用接口。
首先需要从网址【【网址】】/account/api-keys,生成我们的API key: 获得key后我们就可以调用API接口了。目前OpenAI 的 API 服务提供了一个免费的 API 计算单元 (ACU) 的额度,该额度可以用于测试和试用 OpenAI 提供的服务。免费的额度用完后,需要购买额外的 ACU 才能继续使用 OpenAI 的 API 服务。我们可以从Usage和Billing【【网址】】/account/usage 里去查看我们的免费额度以及进行额度充值:
首先我们需要安装openai
安装好openai以及获得API key后,我们就可以调用接口了,首先我们来看下openai能够提供的模型有什么:
我们可以看出,目前提供的模型有如下: 接下来大概介绍一下我们应该怎样去调用接口,获取我们想要的结果。
prompt=‘a delicious dessert’, 其中返回url地址,我们将地址复制到浏览器中,打开看到如下图: 当prompt=‘母亲在厨房忙碌着’,OpenAI返回的效果图如下: 人物画像细节生成还不够逼真。来试一试中国的古诗词效果, prompt=‘踏花归去马蹄香’ 马蹄上应该画出一些蝴蝶🦋来表达马蹄的花香味啊,不太满意~😞
api接口调用代码如下所示:
结果如下:
我们可以通过合理的写prompt,基于问答形式,让gpt-3.5做NLP任务。比如对中文纠错,我们可以这样写prompt,让chagpt能够做纠错NLP任务。如下所示:
结果如下:
对于不同的prompt,输出的结果差异也较大。所以对于具体的任务场景,我们需要尝试不同的prompt, 根据结果的反馈,不断的调整和优化prompt,从而得到更加准确的结果。
得到结果如下: 是一个1536维度的向量,我们可以基于文本的向量去做很多任务,比如计算两个向量的余弦值,计算相似性分值等。
openAI提供了接口可以用我们自己的数据进行fine tune,得到适应我们自己业务场景的新模型。假如我们需要训练一个适应我们自己领域知识的聊天机器人,我们可以按照下面流程来做fine tune。
- 数据准备
我们可以先把数据转成csv格式,需提供prompt列和对应的completion列,其中prompt相当于问题,completion就是对应的答案,如下是我们要用来fine tune模型的result.csv训练样本内容显示: 然后我们可以用openAI提供的数据处理工具对数据转成json格式的文件
执行完后,我们会得到一个对应的json文件:result_prepared.jsonl
- 模型微调训练 接下来我们就可以用已有的模型 (ada, babbage, curie, davinci) 进行fine tune,官方给出的具体可以用来做微调的模型主要如下: 首先需要指定我们自己的API key:
然后开始训练:
在这里用我们自己的数据result_prepared.jsonl,基于base model: ada模型提交fine tune任务。提交后会返回给我们一个JOB ID,通过这个job id我们可以跟进模型在远程服务器训练情况:
我们可以看到结果如下: 可以看到我们的模型训练好了模型名称叫做:ada:ft-personal-2023-03-27-03-24-09,然后我们就可以试用我们训练好的模型看效果了,测试如下:
其中<YOUR_PROMPT>写入我们要测试的问题就好。
现在我们可以去远程服务器上查看下我们fine tune好的模型是否已经有了:
发现有了刚刚fine tune的模型: 对于分类,实体识别等任务,OPNAI官网也提供了如何做处理数据,让模型做fine tune,详情可以参考官网【【网址】】/docs/introduction/overview
prompt如何表达,对于chatgpt返回的答案会差异很大,通过prompt正确的表达问题,chatgpt才会返回更合适的结果。通过自己这些天的尝试以及官网给的提示,感受就是在写prompt时候,可以通过说明,例子,限制条件,修饰词等具体表达问题,这样chatgpt会给出更加精准的答案。接下来,我们对几种常见的任务,prompt应用如何写。
我们可以对prompt这么构造: 判断content属于A,B,C,D哪一种分类 content: detail 分类:
对应的查询结果如下:
提供了非常强大能力,能够基于学到的广泛知识,给出问题解决方案,合理的建议,实施步骤,商业计划,人物描写等等。所以我们可以合理写prompt,更有意思的答案。
哈哈,看起来不够大胆,于是进一步发问: 给出的这些答案果然更加激动人心。
我们可以将一种语言翻译成我们大多数其他语言。对于翻译任务,我们只需要写prompt表达我们的意愿就是: 将下面内容翻译成英语,日语,德语 content
在调用API接口的时候,我们可以通过设置两个参数=='temperature’和’top_p’来控制生成文本的多样性和可控度==。当temperature较高时,生成的文本会更加随机和多样化,而当temperature较低时,生成的文本会更加保守和可控。top_p参数用于控制生成文本的可控度,它会限制模型生成文本时可以选择的token的数量。具体来说,当top_p越低时,模型只考虑概率分布中累计概率最高的一部分token,而忽略其他低概率的token。这样一来,生成的文本就更加可控,因为只有那些最可能的token才会被考虑。而当top_p越高的时候,生成的文本可能会更加灵活和多样,因为模型会考虑更多的低概率token。每次调用的时候,我们可以设置这两个参数:
大模型训练平台【【网址】】/hpcaitech/ColossalAI 相关资料:中文精选资源清单
谷歌账号能用chatgpt吗
CHATGPT谷歌软件破解版:快捷的工具或潜在的危险?
最近,一款名为CHATGPT的谷歌软件破解版在网络上广泛流传。这个破解版软件被宣传为能够提供更快、更简单的使用体验,并且可以解锁一些谷歌原版软件中收费的功能。然而,我们需要问自己,这个软件真的值得我们信任吗?
我们需要明确一点,破解版软件是非法的,并且这些软件往往存在潜在的安全隐患。它们的作者通常没有经过相应的审核和许可,因此无法保证它们不会携带恶意软件或病毒。此外,它们可能会窃取用户的个人信息或其他敏感数据。因此,如果我们使用了这些破解版软件,我们的电脑和移动设备都可能成为网络攻击的目标。
我们需要认识到,很多所谓的“解锁功能”实际上并不是真正需要解锁的内容,而是谷歌在未来版本中计划加入的新功能。这些破解版软件的作者并没有真正的技术能力,只是通过修改用户界面或者添加一些表面上看起来很有用的功能来欺骗用户。这些附加功能并没有经过谷歌的安全检查和测试,可能会带来各种问题。
即使这些破解版软件能够提供更便利的使用体验,我们也需要认识到,使用它们是非常不负责任的。每个人都有个人责任来保护自己的计算机和移动设备,以及自己的个人信息和数据。使用破解版软件可能会破坏我们的设备,导致数据丢失或泄露。
CHATGPT谷歌软件破解版可能会给用户带来便利,但是这种便利是以安全和隐私为代价的。我们不应该冒险使用这种非法软件,而是应该去购买正版的软件,以保证我们设备和数据的安全。如果我们想要使用谷歌的新功能,我们也可以参加谷歌的测试计划,以便在严格的安全审核和测试后尝试这些功能。只有这样,我们才能真正享受到科技带给我们的方便和快捷的使用体验。