gpt 学习模型 gpt开源模型训练
微软宣布开源DeepSpeed Chat，训练速度可提升15倍以上。
当地时间4月12日，微软宣布开源系统框架DeepSpeed Chat，帮助用户训练类似于ChatGPT的模型。与现有系统相比，DeepSpeed Chat的速度快15倍以上，可提升模型的训练和推理效率。
来源：微软
ChatGPT是OpenAI于去年11月推出的聊天机器人，其训练基础是为RLHF（Reinforcement Learning from Human Feedback)，即基于人工反馈进行强化学习。
对于想要开发类似于ChatGPT模型的研究人员而言，难题之一是市面上缺乏支持端到端的RLHF系统框架。为此，微软开源其系统框架DeepSpeed Chat，帮助数据科学家和研究者更易于使用ChatGPT类型的模型。
据介绍，DeepSpeed Chat能够简化ChatGPT类型模型的训练过程、强化推理体验。其中的DeepSpeed-RLHF系统能够在推理和训练两种模式之间进行切换，使复杂的RLHF训练速率更快、易于大规模推广。
根据微软，DeepSpeed-HE比现有系统快15倍以上，且成本更低。在微软云Azure上，该系统只需9小时即可训练一个OPT-13B模型，只需18小时即可训练一个OPT-30B模型，且这两种训练分别花费不到300美元和600美元（OPT为脸书母公司Meta发布的语言模型）。
此外，面对于拥有1750亿参数的模型，DeepSpeed-HE的训练时间只需不到一天的时间。
对于微软开源DeepSpeed Chat，海外知名科技社区Hacker News的用户总结道，微软不仅向OpenAI投资了100亿美元，同时还为公众提供一种免费工具，帮助他们研发OpenAI同款产品。也有用户认为，微软选择开源DeepSpeed Chat，是为了在业内获得领先优势。
还有用户认为这一系统框架前景可期，“我可以预见，未来每家公司都会拥有自己的‘AI模型助理’，其能够定期对公司内部数据进行培训或更新。公司的电子邮件、slack/team消息、文档等或许都将成为AI模型的数据来源。”
来源：Hacker News
微软和OpenAI的合作可以追溯到2019年，在这一年OpenAI获得了微软10亿美元的投资，并对微软独家授权部分AI技术，双方合作替微软云Azure开发人工智能技术。
今年2月初，微软推出搭载ChatGPT同源功能的新版必应（Bing），使得该软件的全球下载量在一夜之间猛增10倍，并蹿升至苹果App Store应用商店最受欢迎的免费应用榜中的第十位。返回搜狐，查看更多
责任编辑：
中国支付清算协会移动支付 中国支付清算协会个人收款码解读
中国支付清算协会名单,中国支付清算协会会员名单,中国支付清算协会是什么级别单位,中国支付清算协会会员查询支付行业也关注到使用ChatGPT有可能造成的数据风险。昨天，中国支付清算协会公众号发布公告，倡议支付行业从业人员谨慎使用Chat-GPT等工具。
公告表示，已有部分企业员工使用ChatGPT等工具开展工作。但是，此类智能化工具暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全，提升支付清算行业的数据安全管理水平，中国支付清算协会向行业发出倡议。
倡议提出，支付行业从业人员要全面评估使用ChatGPT等工具处理工作内容的风险，依法合规使用ChatGPT等工具。此外，要严格遵守国家及行业相关法律法规要求，不上传国家及金融行业涉密文件及数据、本公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。
金融行业分析师表示，Chat-GPT运行逻辑是通过大量的文本收集、数据训练回答客户问题。这意味着，即使用户是无意识的行为，也非常有可能造成个人信息和数据的泄露。
（原标题：支付行业倡议谨慎使用ChatGPT）
来源：北京日报
实习记者 夏骅
流程编辑：u008返回搜狐，查看更多
责任编辑：
