自从Meta发布「开源版ChatGPT」LLaMA之后，学界可谓是一片狂欢。

先是斯坦福提出了70亿参数Alpaca，紧接着又是UC伯克利联手CMU、斯坦福、UCSD和MBZUAI发布的130亿参数Vicuna，在超过90%的情况下实现了与ChatGPT和Bard相匹敌的能力。

今天，「卷王」UC伯克利LMSys org又发布了70亿参数的Vicuna――

不仅体积小、效率高、能力强，而且只需两行命令就能在M1/M2芯片的Mac上运行，还能开启GPU加速！

项目地址：【【网址】】/lm-sys/FastChat/#fine-tuning

恰在今天，Hugging Face的研究人员也发布了一个70亿参数的模型――StackLLaMA。这是一个通过人类反馈强化学习在LLaMA-7B微调而来的模型。

【【微信】】：真・单GPU，Mac就能跑

距离模型的发布不到一周，UC伯克利LMSys org便公布了【【微信】】的权重。

其中，单GPU运行需要大约28GB的显存，而在仅用CPU的情况下需要大约60GB的内存。

而这次发布的70亿参数版本，则要小巧得多――需求直接砍半。

也就是说，用单个GPU运行【【微信】】，只需14GB+显存；而纯CPU运行的话，则只需30GB+内存。

不仅如此，我们还可以通过Metal后端，在配备了苹果自研芯片或者AMD GPU的Mac上启用GPU加速。

之前在13B模型发布时，有不少网友吐槽道：

我以为的单个GPU：4090

实际上的单个GPU：28GB显存及以上

现在，这个问题也有了新的解决方案――利用8位压缩直接减少一半左右的内存用量，只不过模型的质量会略有下降。

13B模型28GB显存瞬间变14GB；7B模型14GB显存瞬间变7GB，有没有！（但由于activation的缘故，实际占用会比这个高）

对此，LMSys org的研究人员表示，如果遇到内存或显存不够用的情况，可以通过在上述命令中加入--【【微信】】来启用8位压缩。

而且，无论是CPU、GPU还是Metal，是7B模型还是13B模型，通通适用。

python3 -m fastchat.serve.cli --model-name /path/to/【【微信】】/weights --load-8bit

StackLLaMA：超全RLHF训练教程

今天，Hugging Face研究人员发布了一篇博客StackLLaMA：用RLHF训练LLaMA的实践指南。

当前大型语言模型ChatGPT、GPT-4和Claude都使用了人类反馈强化学习（RLHF）来微调模型的行为，以产生更符合用户意图的响应。

在此，HF研究者通过以下方式组合使用，训练了LlaMa模型使用RLHF回答Stack Exchange上的所有步骤：

・ 监督微调 (SFT)

・ 奖励/偏好建模(RM)

・ 人类反馈强化学习 (RLHF)

要注意了！

训练StackLLaMA的主要目标是提供一个教程和指南，介绍如何使用RLHF来训练模型，而不是主要关注模型的性能表现。

换句话说，该模型在生成答案方面非常滑稽，比如问它「我的花园里有一只骆驼，怎样才能把它赶走？」

StackLLaMA最后给出的一个总括「如果以上方法都不奏效，就要召集增援了。如果有不止一个人想抓住这个奇特的小家伙，为什么不召集一个团队呢？齐心协力，集中力量，这个问题应该很快就解决了」。

在进行RLHF时，最重要的是从一个强有力的模型开始。因为RLHF只是一个微调步骤，以便让模型与我们期望的互动方式和响应方式相一致。

当前，Meta开源的LLaMA模型参数大小从7B到65B不等，并且在1T到1.4T的token上进行了训练，是目前开源比较强大的模型。

因此，研究人员使用7B模型作为后续微调的基础。

在数据集选用上，研究人员使用了StackExchange数据集，包括所有的问题和答案（还有StackOverflow和其他主题）。

选用该数据集的好处是，答案伴随着点赞数和接受答案的标签一起给出。

研究人员根据A General Language Assistant as a Laboratory for Alignment论文中描述的方法，给每个答案打分：

score = log2 (1 + upvotes) rounded to the nearest integer, plus 1 if the questioner accepted the answer (we assign a score of ?1 if the number of upvotes is negative).

对于奖励模型，始终需要每个问题两个答案来进行比较。

而有些问题有几十个答案，导致可能存在许多的可选对。因此，研究者对每个问题最多采样十个答案对，以限制每个问题的数据点数。

最后，通过将HTML转换为Markdown来清除格式，使模型输出更可读。

训练策略

即使训练最小的LLaMA模型也需要大量的内存。通过计算7B 参数模型将使用(2+8)*7B=70GB 内存空间。当计算注意力分数等中间值时，可能需要更多。因此，即使在单个80GB的A100上也无法训练该模型。

一种方法是使用更高效的优化器和半精度训练，将更多信息压缩到内存中，但内存仍旧不够用。

另一种选择是使用参数高效微调(PEFT)技术，例如PEFT库，它可以在8位模型上执行低秩适应(LoRA)。

线性层的低秩适应: 在冻结层（蓝色）旁边添加额外参数（橙色），并将结果编码的隐藏状态与冻结层的隐藏状态相加。

以8位加载模型大大减少了内存占用，因为每个参数只需要一个字节的权重。比如，7B LLaMA在内存中是7 GB。

LoRA不直接训练原始权重，而是在一些特定的层 (通常是注意力层) 上添加小的适配器层，因此可训练参数的数量大大减少。

在这种情况下，一个经验法则是为每十亿参数分配约1.2-1.4GB的内存（取决于批次大小和序列长度），以适应整个微调设置。

这可以以较低成本微调更大的模型（在N【【微信】】上训练高达50-60B规模的模型）。这些技术已经能够在消费级设备，比如树莓派、手机，和GoogleColab上对大型模型进行微调。

研究人员发现尽管现在可以把非常大的模型放入当个GPU中，但是训练可能仍然非常缓慢。

在此，研究人员使用了数据并行策略：将相同的训练设置复制到单个GPU中，并将不同的批次传递给每个GPU。

监督微调

在开始训练奖励模型并使用RL调整模型之前，若要模型在任何情况下遵循指令，便需要指令调优。

实现这一点最简单的方法是，使用来自领域或任务的文本继续训练语言模型。

为了有效地使用数据，研究者使用一种称为「packing」的技术：在文本之间使用一个EOS标记连接许多文本，并切割上下文大小的块以填充批次，而无需任何填充。

通过这种方法，训练效率更高，因为通过模型的每个token也进行了训练。

奖励建模和人类偏好

原则上，研究人员可以使用RLHF直接通过人工标注对模型进行微调。然而，这需要在每次优化迭代之后将一些样本发送给人类进行评级。

由于需要大量的训练样本来实现收敛，人类阅读和标注速度固有的延迟，不仅昂贵，还非常缓慢。

因此，研究人员在RL调整模型之前，在收集的人工标注上训练一个奖励模型。奖励建模的目的是模仿人类对文本的评价，这一方法比直接反馈更有效。

在实践中，最好的方法是预测两个示例的排名，奖励模型会根据提示X提供两个候选项，并且必须预测哪一个会被人类标注员评价更高。

通过StackExchange 数据集，研究人员根据分数推断出用户更喜欢这两个答案中的哪一个。有了这些信息和上面定义的损失，就可以修改transformers.Trainer 。通过添加一个自定义的损失函数进行训练。

class RewardTrainer(Trainer):def compute_loss(self, model, inputs, return_outputs=False):        rewards_j = model(input_ids=inputs["input_ids_j"],  attention_mask=inputs["attention_mask_j"])[]        rewards_k = model(input_ids=inputs["input_ids_k"], attention_mask=inputs["attention_mask_k"])[]        loss = -nn.functional.logsigmoid(rewards_j 

chatgpt在国内现在能用吗 CHATGPT可以在国内用吗
potato chat国内能用吗,chatroulette在中国能用吗,cgtn在国内能看吗
ChatGPT在国外爆火，由于ChatGPT对国内用户的一些限制，国内用户无法访问ChatGPT，这对于那些想要使用ChatGPT的国内用户来说，国内ChatGPT怎么用?有没有方法解决这个问题呢?
解决ChatGPT国内使用方法
SDWAN SaaS专线是指一种基于运营商线路的网络加速专线，用户可以通过它访问全球互联网，相比于传统方案，SDWAN SaaS专线具有以下优势：
海外独立IP：基于云技术的，它可以访问全球范围内的互联网资源，不受地理位置的限制，IP独立安全可靠。
高速稳定：SDWAN SaaS专线使用的是全球领先的云服务商提供的网络服务，因此拥有高稳定性和速度。
ChatGPT国内怎么用?
如何使用SDWAN SaaS专线解决ChatGPT国内访问问题?
企业用户可以在云杰通信官网办理SDWAN SaaS专线，建议选择美国IP线路。SDWAN   SaaS专线基于全球节点和骨干网加速，保障海外IP独立安全，同时可以满足多种平台海外运营推广、TikTok养号，支持跨境电商、平台测试、APP发行等场景。
云杰通信&网络综合解决方案提供商，助力企业信息化建设、数字化转型、以及全球化互联。SD-WAN方案可实现全球访问加速、SaaS访问加速、海外视频加速、海外分支组网，有效提升国际间沟通效率，助力中国企业开拓国际市场。服务热线：13631779516，欢迎来电咨询。                  

                    
本文地址：
                        https://www.528683.com//show-401209.html
                    
                    
版权声明：除非特别标注原创，其它均来自互联网，转载时请以链接形式注明文章出处。
                
                                    

                                            

                                                

                                                    
                                                                                                        

                                                        苹果手机注册ChatGPT
                                                    
                                                                                                    
                                            
                                        
                

                    分享到：