在我的公众号“圆圆的算法笔记”中，为大家整理了数十篇一文贯通干货算法笔记，每一篇笔记详细梳理了一个子方向的顶会工作和它们的关系，涉及序预测、元学习、推荐系统、NLP、多模态、表示学习等多个领域，感兴趣的同学可以公众号后台回复【知乎干货】获取笔记~

NLP已经进入了黑盒大模型时代。特别是ChatGPT出现以后，其语言理解和生成能力已经非常强，目前的调用接口成本也非常低廉。但是整体模型是黑盒的，训练细节和数据外部拿不到，相复现这一套技术基本是不可能的。因此，进入ChatGPT时代，NLP领域中如何使用这种黑盒模型，必将成为后续研究的一个重点方向。

对大型语言模型的应用，核心就是prompt engineering，即如何构造问题，让黑盒模型给出我们想要的答案。这个方向的研究在GPT3时代就已经进行，未来一定会更加重要。今天给大家介绍一篇ICLR 2023的相关工作，如何利用黑盒模型，搭建一套全自动的优质prompt生成流程。

论文标题：LARGE LANGUAGE MODELS ARE HUMAN-LE【【微信】】

下载地址：

demo地址：

对于一个训练任务，每个训练样本可以抽象成一个<Query、【【微信】】>对，我们的目标是生成优质的prompt，将prompt和Query拼接到一起输入到模型中后，让其生成我们期望的【【微信】】。

之前的prompt构造大多是人工设计的，本文提出使用黑盒模型来自动生成。整体的框架如下，通过一些Demonstration输入到黑盒语言模型中，生成候选的prompt集合，再利用黑盒模型对候选进行打分过滤，自动评估每个prompt的效果，选择最优的prompt。

文中提出采用黑盒语言模型生成prompt。核心思路是利用训练数据构造demonstration，将其输入到预训练语言模型中，生成大量的prompt候选。文中提出了以下3种生成prompt候选的方法。

Forward Generation Template：如下图所示，Input和Output输入的是训练数据，其他部分为提示信息，最后是需要生成的prompt。

Re【【微信】】late：如下图所示，利用T5、InsertGPT这种完形填空的方式，生成中间某处的prompt信息。

Customized Prompts：根据不同训练任务构造的个性化提示，下图是TruthfulQA任务中的个性化prompt示例。

在生成prompt的候选后，下一步是评估各个prompt的好坏。文中提出使用Execution accuracy或Log probability来评估prompt好坏，主要就是看使用当前prompt各个样本的打分效果好坏。

评估prompt好坏时，如果遍历整个训练集，会导致效率很低。文中提出一种滑动平均的方法，先采样一个小数据集评估prompt效果，选出比较好的prompt，再在这些选出的prompt中再选另一部分数据评估，循环进行这个过程，每轮的评估结果做滑动平均。

整体的自动生成prompt算法逻辑如下：

考虑到可能存在一些情况，生成的prompt不好，或者候选数量不足，文中提出一种循环生成的方法。核心思路是基于一个已经生成的比较好的prompt，输入到黑盒模型中，指导其生成一些与这个比较好的prompt类似的其他prompt。但是文中后面指出，这种方式对效果的提升不大，在大多数情况下还是原始已经生成的最好的prompt效果更好。

本文进行了几项实验，表明APE框架自动生成的prompt已经达到了人类水平。在zero-shot learning场景下的24个introduction induction任务上，所有任务都取得了打平甚至超过人类的效果。

在few-shot learning场景下，21个任务上使用APE取得了效果提升。

Prompt Engineering在黑盒大模型的背景下越来越重要，目前的ChatGPT就是黑盒大模型，怎么用好它关键在于向他提问的方式，也就是prompt大模型的方式。在ChatGPT一般公司难以复现，且调用接口使用成本很低的背景下，这个方向在NLP领域会越来越重要，非常值得关注。

如何通过chatgpt 进行商业变现 chatgpt能运用在哪些业务场景

比尔盖茨说，ChatGPT的出现不亚于互联网的出现，那么如何通过目前人工智能语言模型Chatgpt实现商业变现呢？

在星球里看到了很多小伙伴很有意思的赚钱方法。

希望感兴趣的小伙伴可以一起玩呀

√需求：商用需求

√操作：协助机器人入驻社群、协助机器人成为在线客服

√优点：高客单

缺点：可能被平台风控

营利性：to B高客单，想象空间大

√需求：利用热点，为自己的产品引流

√操作：在x音、x手、x乎、小x书等制作内容 ・

留钩子，引流到自己的私域

优点：让你拥有更多内容创作的经验

缺点：需要有内容制作的能为

√营利性：小的做单一账号，大的做矩阵

需求：轻松复制粘贴的小项目

√操作：批注册成为百度问答答主，领取问题 ・复制去ChatGPT提问，再粘贴回答给用户 。一条问题的收益3毛-99元

√优点：容易操作

√缺点：项目天花板低 √营利性：自己做赚的少，做培训～

绘画 √需求：大量设计用途需求

操作：使用ChatGPT生成关键词，去MJ绘制出图 优点：需求量大，不缺单子

缺点：ChatGPT和MJ都需要调教，提高熟练度

营利性：足以养活一个小工作室、小公司

√操作：AI+AI+AI，生成短视频 有人已经做了《斗破苍穹》英文版视频发在YouTube

√优点：完全无人化

√缺点：对软件需要熟练度

√营利性：和短视频剪辑相当或更多

√需求：各种垂直需求

√操作：做付费项目，使用ChatGPT完成回答

√优点：变现快

√缺点：需要自己搭建流量端

√营利性：群友通过小红书+AI塔罗牌占卜变现3万

√我甚至在星球发过一个炼丹修仙的案例

操作：写软文、写摘灵、整理成文

优点：容易调价

√缺点：无营利性：我的朋友的新媒体团队使用了工具，效率提升 了5-8倍

√需求：看病、宠物看病

√操作：在线问诊

√优点：需求大、永远存在

√缺点：需要接入平台、需要相关职业资格证

√营利性：大

√需求：新媒体从业者

√操作： √把你的需求描述给ChatGPT，让它写一段vba打开PPT 在自定义功能区启用【开发者工具】，在开发者工具里 点击【【微信】】，新建一个模块把代码粘进去，点击运 行就搞定。出现问题的时候模仿甲方口吻反馈即可，但 一定要指出具体的错误。

优点：非常快速解决肝PPT的问题

缺点：无营利性：提升工作效率，也可咸鱼售卖，一个几十元

√社群里看到的其他成员的使用方式―做自己的对话练习老师（如何和女孩聊天做自己的英文老师 帮忙修正自己的代码bug ……