庆云古诗词

庆云古诗词

gpt 学习模型 gpt开源模型训练

互联资讯 0

淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】


原标题:人人都能GPT!微软开源DeepSpeed Chat帮用户训练模型

微软宣布开源DeepSpeed Chat,训练速度可提升15倍以上。

当地时间4月12日,微软宣布开源系统框架DeepSpeed Chat,帮助用户训练类似于ChatGPT的模型。与现有系统相比,DeepSpeed Chat的速度快15倍以上,可提升模型的训练和推理效率。

来源:微软

ChatGPT是OpenAI于去年11月推出的聊天机器人,其训练基础是为RLHF(Reinforcement Learning from Human Feedback),即基于人工反馈进行强化学习。

对于想要开发类似于ChatGPT模型的研究人员而言,难题之一是市面上缺乏支持端到端的RLHF系统框架。为此,微软开源其系统框架DeepSpeed Chat,帮助数据科学家和研究者更易于使用ChatGPT类型的模型。

据介绍,DeepSpeed Chat能够简化ChatGPT类型模型的训练过程、强化推理体验。其中的DeepSpeed-RLHF系统能够在推理和训练两种模式之间进行切换,使复杂的RLHF训练速率更快、易于大规模推广。

根据微软,DeepSpeed-HE比现有系统快15倍以上,且成本更低。在微软云Azure上,该系统只需9小时即可训练一个OPT-13B模型,只需18小时即可训练一个OPT-30B模型,且这两种训练分别花费不到300美元和600美元(OPT为脸书母公司Meta发布的语言模型)。

此外,面对于拥有1750亿参数的模型,DeepSpeed-HE的训练时间只需不到一天的时间。

对于微软开源DeepSpeed Chat,海外知名科技社区Hacker News的用户总结道,微软不仅向OpenAI投资了100亿美元,同时还为公众提供一种免费工具,帮助他们研发OpenAI同款产品。也有用户认为,微软选择开源DeepSpeed Chat,是为了在业内获得领先优势。

还有用户认为这一系统框架前景可期,“我可以预见,未来每家公司都会拥有自己的‘AI模型助理’,其能够定期对公司内部数据进行培训或更新。公司的电子邮件、slack/team消息、文档等或许都将成为AI模型的数据来源。”

来源:Hacker News

微软和OpenAI的合作可以追溯到2019年,在这一年OpenAI获得了微软10亿美元的投资,并对微软独家授权部分AI技术,双方合作替微软云Azure开发人工智能技术。

今年2月初,微软推出搭载ChatGPT同源功能的新版必应(Bing),使得该软件的全球下载量在一夜之间猛增10倍,并蹿升至苹果App Store应用商店最受欢迎的免费应用榜中的第十位。返回搜狐,查看更多

责任编辑:



中国支付清算协会移动支付 中国支付清算协会个人收款码解读

中国支付清算协会名单,中国支付清算协会会员名单,中国支付清算协会是什么级别单位,中国支付清算协会会员查询

原标题:中国支付清算协会:倡议支付行业从业人员谨慎使用Chat-GPT等工具

支付行业也关注到使用ChatGPT有可能造成的数据风险。昨天,中国支付清算协会公众号发布公告,倡议支付行业从业人员谨慎使用Chat-GPT等工具。

公告表示,已有部分企业员工使用ChatGPT等工具开展工作。但是,此类智能化工具暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全,提升支付清算行业的数据安全管理水平,中国支付清算协会向行业发出倡议。

倡议提出,支付行业从业人员要全面评估使用ChatGPT等工具处理工作内容的风险,依法合规使用ChatGPT等工具。此外,要严格遵守国家及行业相关法律法规要求,不上传国家及金融行业涉密文件及数据、本公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。

金融行业分析师表示,Chat-GPT运行逻辑是通过大量的文本收集、数据训练回答客户问题。这意味着,即使用户是无意识的行为,也非常有可能造成个人信息和数据的泄露。

(原标题:支付行业倡议谨慎使用ChatGPT)

来源:北京日报

实习记者 夏骅

流程编辑:u008返回搜狐,查看更多

责任编辑: