我看到很多网友谈及阿赖耶识和如来藏时，赞赏＂种子起现行，现行薰种子＂的说法。但是，很多地方讲的不详细，我有很多疑问，特硐虼蠹仪虢蹋望有缘人给予指点，不胜感激！2个问题：

1、＂起现行＂需要外部刺激吗？还是直接起呢？

这是我首要疑惑之处，意思是记忆体既然是种子聚合体，它起现行时，是否需要一个外部刺激的动力，促使它起现行，还是不需要刺激，时间一到只接就起现行了？我理解有矛盾之处，若说需要刺激，则似乎违反唯识无境之意，外面什么都没有，自然没有刺激物。若说不需要刺激，则不符合常理，任何事都要有个动力才行啊。故疑惑。

2、＂薰种子＂是直接薰?还是演化后再薰?

这是我另一疑惑重点。什么意思呢？起现行，想当于是记忆体向外投射了一个影像A，如果直接薰，就是这个A，直接再转化为一个客体刺激记忆体认知它；如果演化后再薰，则相当于A刹那变成B，B再作为客体刺激(薰)记忆体认知。

直接薰和演化后薰的区别在于：没有人提过是演化后薰，故不确定。如果直接薰，则似乎违背常理，因A是投射的产物，是认知过的，如果回头再来薰，则还是认知A，没有新意，记忆体会不会感到厌烦呢？如转成B再来薰，似乎证明客体自己在变，比较合理，但似乎又违背唯识无境的基础。故向您请教！

NeRF提出了一种名叫神经辐射场（neural radiance field）的方法，利用5D向量函数来表示连续场景，其中5个参数分别用来表示空间点的坐标位置（x,y,z）和视角方向（θ,φ）。

那么这种技术有没有可能用于渲染游戏场景呢？

人在给自己的决策添加随机性时，人脑中的神经元放电过程是确定性过程吗？为什么自我意识看起来好像可以任意地操纵自身决策的随机性大小？确定性的非线性动力学过程可以改变自身的伪随机性（非线性程度）吗？

已经收集了自有领域的数据集了，有没有什么快速的技术路径可以沿用，包括利用Hugging Face等开源模型 进行训练，具体操作有没有什么可实操的文档或者书籍可以借鉴

有的，Wizard of Coast（威世智）旗下的游戏卡牌游戏MTGA就使用了NeRF制作立体卡牌效果（card style）。NeRF出了不到半年就全卡实装了，拖拽卡牌的时候就能看到，这两年card style已经成为核心营收项目之一，不得不感叹大厂的厚重。不过MTGA并不是3D游戏，感觉3D游戏也看不上NeRF。

NeRF生成的时候本身不包含体素信息，没办法实时应用光效和材质，在3D游戏上没法充当渲染器，包括Instant NGP这种性能比较好的改进也只是用于光照条件比较简单的环境，归根结底没有光栅推理的方法都很难取代渲染器。NeRF反而对平面游戏和2.5D比较友好。

点云和特征匹配的DL工具在3D游戏中可以辅助建模，不过主要还是看业内的需求。

可以考虑PEFT(Parameter-Efficient Fine-Tuning)^[1]，PEFT不用finetune模型的全部参数，而只需要finetune模型的少量参数，这提升了计算效率同时减少存储成本。PEFT的另外一个好处是可以一定程度上减少模型过拟合的风险，避免模型出现灾难性遗忘。目前huggingface已经开源了一个PEFT库：

目前该库已经支持如下的方法：

1. LoRA: LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS
2. Prefix Tuning: P-Tuning v2: 【【微信】】parable to Fine-tuning Uni【【微信】】 and Tasks
3. Prompt Tuning: The Power of Scale for Parameter-Efficient Prompt Tuning
4. P-Tuning: GPT Understands, Too

其中LoRA是一种比较用的PEFT方法，它是微软在2021年提出的一种高效fientune语言大模型的方法^[2]，其核心思路是freeze大模型的参数，同时在transformer层中引入可训练的秩分解矩阵（rank decomposition matrices），从而大大减少模型要finetune的参数量：

比如目前很多人利用LoRA在开源的stable diffusion上训练不同风格的模型，比如cvitai上开源的墨心模型，只有144MB参数就可以生成中国水墨化风格图像：

再比如Alpaca-LoRA^[3]采用LoRA来finetune LLaMA模型以实现轻量级ChatGPT：

小虎AI珏爷：ChatGPT背后的技术之理解人类反馈强化学习（RLHF）

小虎AI珏爷：OpenAI ChatGPT前身-InstructGPT：训练语言模型，使其能够根据人的反馈来执行指令

【【微信】】: A Unified Deep Learning System For Large-Scale Parallel Training

在线Chat Demo

【【微信】】/applications/Chat at main ・ hpcaitech/【【微信】】

LLAMA底座模型下载：

LLAMA底座模型下载(Hugging Face)：

提取码:xgOP

Bloomz-7b底座模型下载(Hugging Face)：

bigscience/bloomz-7b1-mt at main

小虎AI珏爷：ChatGPT平替-中文ChatGLM-6B本地部署

小虎AI珏爷：论文阅读：LORA-大型语言模型的低秩适应

Stanford Alpaca-ChatGPT平替

Stanford CRFM

小虎AI珏爷：论文阅读-LaMDA：对话应用程序的语言模型

小虎AI珏爷：ChatGPT-4具备什么技能

小虎AI珏爷：ChatGPT可能的应用场景及Prompt使用方式

小虎AI珏爷：ChatGPT指令模板大全-通用人工智能的觉醒

小虎AI珏爷：论文阅读-PaLM-E：一种体现的多模态语言模型

小虎AI珏爷：论文阅读：Language Models are Few-Shot Learners（巨无霸OpenAI GPT3 2020）

小虎AI珏爷：论文阅读：语言模型是无监督的多任务学习者（GPT2 2019）

小虎AI珏爷：LLaMA：开放高效的基础语言模型（Meta AI-2023）

小虎AI珏爷：OpenAI ChatGPT前身-InstructGPT：训练语言模型，使其能够根据人的反馈来执行指令

小虎AI珏爷：OpenAI默认算法-PPO：近端策略优化算法

Colossal人工智能是基于加州大学伯克利分校杰出教授James Demmel教授和新加坡国立大学总统青年教授Yang You教授的专业知识开发的。自开源发布以来，Colossal AI已多次在GitHub Trending上排名第一，拥有约20000名GitHub stars，并成功被接受为SC、AAAI、PPoPP、CVPR和ISC等国际人工智能和HPC顶级会议的官方教程。

ColossalChat是对 小虎AI珏爷：ChatGPT背后的技术之理解人类反馈强化学习（RLHF）、小虎AI珏爷：OpenAI ChatGPT前身-InstructGPT：训练语言模型，使其能够根据人的反馈来执行指令 的完整实现方案。基础语言模型使用Meta AI的小虎AI珏爷：LLaMA：开放高效的基础语言模型（Meta AI-2023）。

ColossalChat是第一个基于LLaMA预训练模型开源完整RLHF pipline实现，包括有监督数据收集、有监督微调、奖励模型训练和强化学习微调。您可以开始用1.6GB的GPU内存复制ChatGPT训练过程，并在训练过程中体验7.73倍的加速。

它包括以下内容：

• 在线Demo：一个交互式演示，可以在没有注册或等待名单的情况下在线尝试。
• 训练代码：开源完整的RLHF训练代码，包括7B和13B的模型。
• 数据集：开源104K中英文双语数据集。
• 推理：仅需要4GB GPU内存的70亿参数模型的4位量化推理。
• 模型权重：在单个服务器上只需少量计算能力即可实现快速复制。
• 将快速更新和添加其他更大的模型、数据集和其他优化。

ColossalChat只需要不到100亿个参数，就可以在大型语言模型的基础上通过RLHF微调达到中英文双语水平，达到与ChatGPT和GPT-3.5相当的效果。

Meta已经开源了LLaMA模型，该模型提供了70亿至650亿的参数大小。在大多数基准测试中，130亿参数的模型可以优于1750亿GPT-3模型。然而，由于它没有指令调优阶段，因此实际生成的结果并不令人满意。

斯坦福大学的Alpaca通过调用OpenAI的API，以自学的方式生成训练数据。这个轻量级模型只有70亿个参数，可以以很小的成本进行微调，以实现类似于GPT-3.5这样的具有1750亿个参数的大型语言模型的会话性能。

然而，现有的开源解决方案只能被视为RLHF（从人类反馈中进行强化学习）第一阶段的监督微调模型，而后续的调整和微调阶段则不执行。此外，Alpaca的训练数据集仅限于英语，这在一定程度上限制了模型的性能。

然而，ChatGPT和GPT-4令人印象深刻的效果是由于在训练过程中引入了RLHF，这增加了生成的内容与人类价值观的一致性。

基于LLaMA模型，ColossalChat是第一个实用的开源项目，它包括一个完整的RLHF过程来复制类似ChatGPT的模型，也是最接近ChatGPT原始技术路线的项目。

样例

{"prompt": "Task: Find out what are the key topics in the document? output \\"topic 1\\", \\"topic 2\\", ... , \\"topic n\\".\  \  The United States has withdrawn from the Paris Climate Agreement.\  \  ", "completion": "Topic 1<|endoftext|>"}  {"prompt": "Gi【【微信】】, find out if they are prime or not. you can answer \\"prime\\" or \\"not prime\\".\  \  Input: List: 1, 4, 6, 8, 9\  \  Output:", "completion": " not prime<|endoftext|>"}  {"prompt": "Task: What are some of your fa【【微信】】, and why do you visit them often?\  \  ", "completion": "- Stack O【【微信】】ew things, and this is a great place to find answers to 【【微信】】.<|endoftext|>"}  {"prompt": "Should i take this class or not?\  The professor of this class is not good at all. He doesn't teach well and he is always late for class.\  \  ", "completion": "No<|endoftext|>"}  {"prompt": "Gi【【微信】】, find two integers that sum up to a specific target integer.\  \  [1, 2, 3, 4]\  Target: 7\  \  ", "completion": "5 and 2<|endoftext|>"}  {"prompt": "Find out how many times does the word appear in the document. output the number of times.\  The 【【微信】】er the lazy dog.\  \  ", "completion": "3<|endoftext|>"}  {"prompt": "Rank these users according to their social influence.\  User: The new mo【【微信】】. I would recommend it to anyone who likes action movies.\  \  ", "completion": "2<|endoftext|>"}

（SFT指令微调）数据集下载：

yizhongw/self_instruct：

全量数据可以公众号【小虎AI珏爷】回复 【ChatGPT】获取

rm-static样例：