庆云古诗词

庆云古诗词

chatgpt-4和chat gpt区别 open ai gpt3和chatgpt哪个厉害

互联资讯 0

淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】

chatgpt,chatgpt官网,chatgpt国内能用吗,chatgpt怎么用

破解「CloseAI」,ChatGPT克隆羊问世!0门槛实现「自研」,从此大语言模型不再只是少数大公司的「金手指」。

此前,OpenAI不Open的事件,已经引发了坊间的诸多争议。

光放出基准和测试结果,不提供训练数据、成本、方法,是真的要「赢家通吃」了。

眼看大语言模型似乎要被巨头公司垄断,如今忽然杀出一个初创公司,给了OpenAI一枪――用60亿参数的「Dolly」实现了和ChatGPT相似的能力。

没错,我们现在只需要准备一些高质量的训练数据,再随便拿一个开源的大语言模型,训练30分钟后,就能得到一个ChatGPT「平替」!

对此,Databricks自豪地表示,Dolly的发布,就是自己在人工智能技术民主化道路上打响的第一弹。

由于ChatGPT需要消耗大量的数据和算力资源(利用数万亿个单词训练,消耗大量GPU),所以这类大语言模型注定只能被少量巨头所掌握。

和「CloseAI」相反,Meta在今年3月向学术界发布了一组高质量(但不是指令跟随的)语言模型LLaMA,每个模型的训练时间超过了80,000个GPU小时。

随后,斯坦福大学基于LLaMA构建了Alpaca,但不同之处在于,它利用一个包含50,000个问题和答案的小数据集进行了微调。令人惊讶的是,这使得Alpaca具有了类似于ChatGPT的交互性。

而Dolly正是受到了Alpaca的启发。

更有趣的是,拥有60亿参数的Dolly并没有利用现在最新的模型,而是选择了一个2021年发布的开源模型――GPT-J。

由于Dolly本身是一个模型的「克隆」,所以团队最终决定将其命名为「多利」――有史以来第一个被克隆的动物。

与当前的大型语言模型(如GPT-3)相比,Dolly允许用户使用更小、更专业的模型,「复刻」ChatGPT的能力。

毕竟对于那些细分用户来说,能够利用针对本行业进行过精调的模型,可以大大增加性能和准确性。

尽管Databricks与OpenAI并无直接竞争关系,但它似乎想通过证明构建类似ChatGPT这样的服务并非看起来那么困难,来抢占OpenAI的风头。

尤其是,OpenAI采取了「规模越大越好」的方法来开发语言模型,并对其工作越来越保密。

Databricks除了将Dolly作为开源软件发布外,还强调Dolly只有60亿个参数(在训练过程中微调的语言模型部分),而OpenAI的GPT-3模型有1750亿个参数。(OpenAI并未透露GPT-4的参数数量)。

根据InstructGPT论文中描述的指令跟随能力,对Dolly进行评估后发现,它在很多能力上的表现和ChatGPT十分类似,包括文本生成、头脑风暴和开放式问答。

在这些例子中,值得注意的不是生成文本的质量,而是在一个小型的高质量数据集上,微调一个旧的开源模型所带来的指令跟随能力的巨大改进。

比如,写一条Databricks官宣大规模语言模型Dolly发布的推特。

可以看到,原始的60亿参数模型(GPT-J)所生成的内容驴唇不对马嘴,而Dolly则给出了一个完全可用的推文――

不仅内容符合要求,而且还贴心地加上了标签,以及提醒你记得加入发布的链接。

对于这一题,ChatGPT给出的答案也很符合期待,相比于Dolly,ChatGPT给出的推文包含了更多评述性词句,并且标签也更加精准具体,但整体差距不大。

当要写一条出售Nikon D-750相机的广告时,可以看到,GPT-J所生成的内容基本就在胡编乱造,像是在写小说一样杜撰购买和出售相机的剧情……

而Dolly则根据Nikon D-750相机的特点及优势,给出了一则吸引人的相机转卖广告语,但遗憾的是像素参数不对。

ChatGPT在这一题上也是圆满完成任务,广告语中突出该款相机的优势,文末仍然贴心地加上了标签。

最后一题:给Edgar Allan Poe(爱伦・坡)写一封情书。

对此,古早的GPT-J直接拒绝回答,究其原因竟然是――爱伦・坡已经去世了,你不能给死人写情书。

而Dolly则成功地完成了任务,效果对比起来堪称「涅」。

而这种「创造性」问题,显然是ChatGPT的强项,它洋洋洒洒地写了300多个字。

在事实性问题的问答测试上,团队选择了下面这个:「向我解释一下核裂变和核聚变之间的区别。」

先不管对错,GPT-J全篇都是在讲太阳如何如何,虽然提到了「聚变」这个词,但完全无视了「裂变」。

而Dolly第一句就直接点题――核裂变和核聚变的区别在于释放能量的方式,随后简单解释了他们的不同。

相比之下,ChatGPT给出的回答明显要更加翔实。

当让它们头脑风暴,给出应该阅读的五本科幻小说的名单,GPT-J则只是在喃喃自语,像是沉浸在了拖延阅读而产生的愧疚情绪中,完全回避了这个提问。

Dolly则一如既往的表现稳定,按照指令给出了5本科幻小说的书名及其作者。

ChatGPT对于该问题给出了更加丰富的回答,不仅包括书名和作者,还对每一本书的内容、类型作了简要评述和介绍。

对于很多公司而言,宁愿自己建立一个不那么强的模型,也不愿将数据发送给那些只提供API的大语言模型供应商。

其中一个重要原因便是,这些问题和数据集是公司最敏感和专有的知识产权,直接将其交给第三方显然是不靠谱的。

此外,公司自身可能在模型质量、成本和期望行为方面有不同的权衡,一种可定制化的语言模型更加符合需求。

现在,Dolly的发布给了他们希望――即便是一个「过时」的开源大型语言模型 (LLM),也能通过30分的训练,赋予它神奇的类似ChatGPT的指令跟随能力。

不难想象,大语言模型或许很快就不是AI巨头公司独占的玩法了!

正如公司CEO Ali Ghodsi所说,「我们的信念是,让全世界的每个组织都能利用这些技术。」

【【网址】】/blog/2023/03/24/hello-dolly-democratizing-magic-chatgpt-open-models.html

https://【【微信】】.com/ai/databricks-debuts-chatgpt-like-dolly-a-clone-any-enterprise-can-own/

本文来自微信公众号“新智元”(ID:AI_era),作者:新智元,36氪经授权发布。


比尔盖茨看好人工智能 盖茨谈ai技术

比尔盖茨看好健康产业,比尔盖茨看好元宇宙,比尔盖茨说说,比尔盖茨挂了没

3 月 28 日消息,AI 工具已经席卷了世界,许多商界领袖也注意到了这种趋势。微软联合创始人比尔?盖茨(Bill Gates)最近撰文称“AI 时代已经到来”。对此,特斯拉首席执行官埃隆?马斯克(Elon Musk)评论称,盖茨对 AI 的理解十分有限,现在依然如此。

自从 AI 研究公司 OpenAI 去年 11 月份发布聊谈机器人 ChatGPT 以及最近更新的 GPT-4,所谓的生成式 AI(AIGC)正迅速扩展到各个领域。商界领袖对 ChatGPT 等 AI 产品的评价褒贬不一。盖茨等人认为,像 ChatGPT 这样的工具可以通过提高员工的工作效率来解放他们的生活时间。但在马斯克等人看来,AI 是“文明未来的最大风险之一”

美国当地时间周一,HorizonVC 投资人桑迪?科里(Sandy Kory)发推文,引用了盖茨文章中的一句话:“自 2016 年以来,我始终在与 OpenAI 团队保持着联系……”,这句话透露出盖茨在这段时间里始终密切关注着对 AI 技术的进展。科里后面又补充说:“像盖茨这样的人如此看好 AI,这是件大事。值得注意的是,微软长期以来也一直在密切关注这一趋势。”

随后,马斯克在推特上跟帖了这条推文。他写道:“我记得与盖茨的早期会面。他对 AI 的理解十分有限。现在依然如此。”

在上周发表的博客文章中,盖茨预测了 AI 将如何改变就业、气候变化、医疗保健和教育等领域。他写道:“自 2016 年以来,我始终在与 OpenAI 团队保持联系,最近一次是在去年 9 月份。”目前尚不清楚,2022 年的那次会议是否是盖茨以微软兼职顾问的身份参加的。盖茨在 2000 年时卸任微软首席执行官,后于 2020 年离开微软董事会。

马斯克曾是 OpenAI 的联合创始人,他是 2015 年承诺向 OpenAI 提供 10 亿美元资金的几名硅谷高管之一。但在 2018 年,马斯克于离开 OpenAI 董事会。自那以来,他一直对该公司持批评态度,特别是其与微软的关系。今年 2 月,马斯克表示,OpenAI 最初成立时是一家开源的非营利性组织,但现在已经成为“一家由微软控制的、封闭源代码追求最大化利润的公司”。

微软在 2019 年向 OpenAI 投资了 10 亿美元,这一合作关系使其获得了 OpenAI 的技术许可。自那以后,微软又宣布计划对该公司进行“多年、高达数十亿美元”的投资,甚至还与 OpenAI 合作推出了新版本的必应搜索引擎。

但盖茨并不总是 OpenAI 的坚定支持者。据报道,当微软首次考虑与该公司合作时,他对后者的技术表示怀疑。知情人士表示,在 2019 年合作之前,盖茨非常专注于分析 OpenAI 的技术,他对 AI 理解人类语音并将其置于特定语境中的能力表示怀疑。

与此同时,马斯克对 ChatGPT 吸引了超高人气感到“愤怒”。据称,2018 年初,萨姆?阿尔特曼(Sam Altman)和其他 OpenAI 联合创始人拒绝了马斯克独自运营公司的提议。

马斯克和盖茨的恩怨由来已久。这两位亿万富翁第一次发生分歧是在 2020 年,当时他们对新冠肺炎疫情的严重程度存在分歧。同年,在盖茨称其决定买保时捷 Taycan 而不是特斯拉后,马斯克承认他“与盖茨的对话并不令人满意”。这位特斯拉 CEO 还指责盖茨做空特斯拉股票,甚至还拿盖茨的体重开玩笑。

马斯克和盖茨都没有回应置评请求。