日立软银等多家日企限制使用ChatGPT 以防泄密
淘宝搜：【天降红包222】领超级红包，京东搜：【天降红包222】
淘宝互助，淘宝双11微信互助群关注公众号 【淘姐妹】
日立软银等多家日企限制使用ChatGPT 以防泄密
如今AI对话神器ChatGPT爆火至天际，不过由于担心信息泄露和其他问题，软银、日立等日本公司已开始限制ChatGPT等交互式人工智能服务在商业运作中的使用。
软银上月就使用ChatGPT和其他商业应用警告员工称：“不要输入公司身份信息或机密数据。”尽管软银已经出台了使用交互式人工智能等云服务的指导方针，但鉴于聊天机器人最近受到的关注越来越多，这些规则依旧被反复强调。软银计划制定规则，规定哪些业务可以使用该技术，哪些应用可以被使用。
今年3月1日，ChatGPT开发商Open AI发布了一个应用程序接口，允许企业付费将ChatGPT集成到他们的服务中。Open AI表示，从ChatGPT中收集的数据不会用于提高性能，但其网站显示，当这项服务被免费使用时，“我们可能会使用您提供的数据来改进我们的模型。在这种情况下，被输入的信息，例如正在开发的产品，可以用来回答其他公司的问题”。
除软银外，日立将考虑制定新的道德规则，以规范交互式人工智能的使用以及数据是否被正确使用。该公司计划完善2021年制定的人工智能使用指南。
富士通上月向员工通报了有关ChatGPT和其他交互式人工智能服务的法律和道德问题，包括信息保护。该公司已经成立了一个部门来决定人工智能的使用。2022年2月，富士通成立了一个治理办公室，来处理包含人工智能的产品开发和商业使用中的道德问题。该公司将通过这个办公室提醒公众交互式人工智能的风险。
今年1月，ChatGPT在发布仅仅两个月后用户就超过了1亿。微软上月在必应搜索中整合ChatGPT，推动该搜索引擎日用户在一个月后首次突破了1亿人。而且，这一技术在企业运作中的应用预计也将显著增加。然而，越来越多的人和企业使用交互式人工智能也令人担忧，因为该技术可能会传播虚假信息，引发数据泄露，导致一些公司禁止使用该技术。
日本瑞穗金融集团、三菱日联金融集团和三井住友银行已禁止在公司运营中使用ChatGPT和其他服务。瑞穗的限制措施会阻止员工从工作终端访问该网站，目的是“防止因员工不当使用导致客户和金融交易等重要信息泄露”。IT公司NEC也禁止员工使用ChatGPT。
日本情报安全大学院大学研究科教授后藤厚宏(Atsuhiro Goto)表示：“交互式人工智能可以在个人电脑上轻松使用，这让员工变得不那么谨慎，存在机密数据被意外输入并在公司外部使用的风险。这些服务应该由一个专门的内部团队进行测试，以澄清使用规则和可以输入的信息。”
松下控股集团公司Panasonic Connect在采取措施防止数据泄露等问题后，开始使用交互式人工智能创建文件。为了降低数据泄露的风险，该公司与软件的联合开发者微软达成了一项协议，不将内容用于人工智能培训等次要目的。同时，员工们也被警告不要输入个人信息。 返回搜狐，查看更多
责任编辑：
斯坦福搞出来个“草泥马”，ChatGPT的平替？
斯坦福cee,斯坦福ugvr,斯坦福的llm,斯坦福jure本文来自微信公众号：量子位 （ID：【【微信】】），作者：梦晨、金磊，原文标题：《斯坦福“草泥马”火了：100美元就能比肩GPT-3.5！手机都能运行的那种》，题图来自：视觉中国
一夜之间，大模型界又炸出个big news！
斯坦福发布【【微信】】（羊驼，网友口中的“草泥马”）：只花100美元，人人都可微调Meta家70亿参数的LLaMA大模型，效果竟可比肩1750亿参数的GPT-3.5（text-da【【微信】】）。而且还是单卡就能运行的那种，甚至树莓派、手机都能hold住！
还有一个更绝的“骚操作”。
研究所涉及到的数据集，是斯坦福团队花了不到500美元用【【微信】】的API来生成的，所以整个过程下来，就等同于GPT-3.5自己教出了个旗鼓相当的对手AI。（薅羊毛高手……）
然后团队还说，用大多数云计算平台去微调训练好的模型，成本也不到100美元：复制一个GPT-3.5效果的AI，很便宜，很容易，还很小。
而且团队还把数据集（秒省500美元）、代码统统都给开源了，这下子人人都能去微调个效果炸裂的对话AI：
项目在GitHub发布才半天时间，便已经狂揽1800+星，火爆程度可见一斑。
Django联合开发者甚至对斯坦福的新研究用“惊天大事”来形容：
不仅如此，斯坦福团队还搞了个demo，在线可玩的那种。
话不多说，我们现在就来看看这个“草泥马”的效果。
比肩da【【微信】】的“草泥马”Aplaca
在斯坦福官方的演示中，他们先小试牛刀地提了一个问题：什么是羊驼？它和美洲驼的区别是什么？
草泥马Aplaca给出的答案较为干练：羊驼是一种小型骆驼科动物，原产于秘鲁、玻利维亚、厄瓜多尔和智利；它比美洲驼小，羊毛更细，也没有驼峰。
而后又简单的介绍了二者群居生活的不同。
同样的问题若是交给ChatGPT（GPT3.5-turbo），则答案就不会像“草泥马”Aplaca那般简洁：
对此，团队给出的解释是：【【微信】】的答案通常比ChatGPT短，反映出text-da【【微信】】的输出较短。
而后团队演示了让“草泥马”【【微信】】写邮件：写一封E-mail祝贺被斯坦福大学录取的新生，并提到你很高兴能亲自见到他们。
“草泥马”【【微信】】对于这个任务也是信手拈来，直接给出了一个像模像样的邮件模板：
难度再次进阶，团队这次提出了让“草泥马”【【微信】】写论文摘要的需求：写一篇经过深思熟虑的机器学习论文摘要，证明42是训练神经网络的最优seed。
“草泥马”【【微信】】给出的答案从内容上来看，非常符合大多数论文的摘要形式：试图回答什么问题、用了什么方法、结果如何，以及未来展望。
当然，也有迫不及待的网友亲自下场试验，发现“草泥马”【【微信】】写代码也是不在话下。
不过即便“草泥马”【【微信】】能够hold住大部分问题，但这并不意味着它没有缺陷。
例如团队便演示了一个例子，在回答“坦桑尼亚的首都是哪里”的问题时，草泥马【【微信】】给出的答案是“达累斯萨拉姆”。
但实际上早在1975年便被“多多马”取代了。
除此之外，若是亲自体验过“草泥马”【【微信】】就会发现，它……巨慢：
对此，有网友认为可能是使用的人太多的原因。
笔记本、手机、树莓派都能跑
Meta开源的LLaMA大模型，刚发布几周就被大家安排明白了，单卡就能运行。
所以理论上，基于LLaMA微调的【【微信】】同样可以轻松在本地部署。
没有显卡也没关系，苹果笔记本甚至树莓派、手机都可以玩。
在苹果笔记本部署LLaMA的方法来自GitHub项目llama.cpp，使用纯C/C++做推理，还专门对ARM芯片做了优化。
作者实测，M1芯片的MacBook Pro上即可运行，另外也支持Windows和Linux系统。
还是这个C++移植版本，有人成功在4GB内存的树莓派4上成功运行了LLaMA的70亿参数版本。
虽然速度非常慢，大约10秒生成一个token（也就是一分钟蹦出4.5个单词）。
更离谱的是，仅仅2天之后，有人把LLaMA模型量化压缩（权重转换成更低精度的数据格式）后成功在Pixel 6安卓手机上运行（26秒一个token）。
Pixel 6使用谷歌自研处理器Google Tensor，跑分成绩在骁龙865+到888之间，也就是说新一点的手机理论上都能胜任。
微调数据集也开源
斯坦福团队微调LLaMA的方法，来自华盛顿大学Yizhong Wang等去年底提出的Self-Instruct。
以175个问题作为种子任务，让AI自己从中组合出新的问题以及生成配套答案实例，人工过滤掉低质量的，再把新任务添加到任务池里。
所有这些任务，之后可以采用InstructGPT的方法让AI学会如何遵循人类指令。
几圈套娃下来，相当于让AI自己指导自己。
斯坦福版【【微信】】，就是花了不到500美元使用【【微信】】 API生成了5.2万个这样的示例搞出来的。
这些数据同样开源了出来，并且比原论文的数据多样性更高。
同时还给出了生成这些数据的代码，也就是说如果有人还嫌不够，可以再去自行扩充微调数据，继续提高模型的表现。
微调代码也会在【【微信】】官方支持LLaMA后放出。
不过【【微信】】最终的模型权重需要Meta许可才能发布，并且继承了LLaMA的非商用开源协议，禁止任何商业用途。
并且由于微调数据使用了【【微信】】的API，根据使用条款也禁止用来开发与【【微信】】形成竞争的模型。
One More Thing
还记得AI绘画的发展历程吗？
2022年上半年还只是话题热度高，8月份Stable Diffusion的开源让成本下降到可用，并由此产生爆炸式的工具创新，让AI绘画真正进入各类工作流程。
语言模型的成本，如今也下降到了个人电子设备可用的程度。
最后还是由Django框架创始人Simon Willison喊出：大语言模型的Stable Diffusion时刻到了。
本文来自微信公众号：量子位 （ID：【【微信】】），作者：梦晨、金磊
