庆云古诗词

庆云古诗词

open ai的三个阶段 openai深度解析

互联资讯 0

淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】


巴比特讯,在面对诸多质疑以及指责后,ChatGPT 研发者 OpenAI 在其官网中发布了题为《Our approach to AI safety》(《我们保障 AI 安全的方法》)的文章,介绍了该公司确保 AI 模型安全性的部署。该文章介绍了六个方面的部署:1.构建越来越安全的 AI 系统;2.从实际使用中积累经验以改善安全措施3.保护儿童;4.尊重隐私;5.提高事实准确性;6.持续研究和参与。

OpenAI 表示,解决 AI 安全问题的实际方法是,花费更多的时间和资源研究有效的缓解措施和对齐技术,并针对现实世界的滥用进行测试。


华裔学霸19 岁mit 辍学创办ai 公司 mit 人工智能瓶颈

华裔学霸是什么意思,华裔学霸猎枪弑父,华裔学霸象棋天才,华裔学霸对初恋的态度
关注

文 | Kenrick Cai

2018年,【【淘密令】】 Wang在回乡途中,聆听了一群中国最聪明的工程师们关于人工智能的演讲,令他印象深刻。但让他奇怪和不安的是,研究人员显然在对人工智能的落地应用避而不谈。【【淘密令】】的父母是第一代美国移民,也是洛斯阿拉莫斯国家实验室 (Los Alamos National Laboratory) 的核物理学家,世界上第一颗原子弹就是在那里设计的。

“他们对(人工智能的)用例真的很含糊其辞。”Scale AI联合创始人【【淘密令】】回忆道,他的名字里没有惯常会出现的字母“e”( 【【微信】】),所以只有八个字母,这在中国文化中是一个与好运有关的数字。

Scale是一家新兴的初创公司,主要为自动驾驶汽车制造商提供数据服务。但【【淘密令】】开始担心,人工智能可能很快就会颠覆世界秩序,毕竟自二战以来,除苏联解体外,世界秩序基本保持了稳定。

“如果你回顾一下人类的历史,你会发现,除了过去80年左右异常和平的时期外,大部分人类历史都是掺杂着战争的。”他在位于旧金山市中心的Scale的六楼总部接受采访时说,楼下时不时有(半)自动驾驶的汽车呼啸而过。“这在很大程度上是因为美国在世界上的领导地位。”

乍一看,26岁的【【淘密令】】浑身散发着刚毕业大学生的活力。

他喜欢听格雷西・艾布拉姆斯 (Gracie Abrams) 和比莉・艾利什 (Billie Eilish) 等“伤感女孩”的歌,穿“gorpcore”(一种流行的登山和户外着装风格)的衣服,会在Instagram上发布与因出演《广告狂人》(Mad Men)?而出名的演员基尔南・希普卡 (Kiernan Shipka) 的合影,还会在Twitter上吐露打了鸡血的金句,比如他在今年2月的一条推文中写道:“最重要的问题只能用鲜血、汗水、眼泪、精神和强烈的使命感来解决。”去酒吧的时候,他甚至还经常会被要求出示身份证以证明自己到了可以饮酒的年龄。

但在硅谷和华盛顿特区,这些都不重要,因为他已经是一个大人物。他在2016年的一次押注中崭露头角――给人工智能所需的大量数据贴上“标签”,主要用于自动驾驶汽车领域。有人需要训练人工智能,让它知道纸袋和行人的区别,而【【淘密令】】则垄断了这个市场,并让Scale在另一个领域占据了有利地位:生成式人工智能。这是一个很有远见的举动,帮助他获得了一众客户,其中就包括人工智能领域最知名的公司和美国政府。

我们就是人工智能淘金热中的镐头和铲子。”他说。对Scale来说,这很快成为了一项利润丰厚的业务。该公司表示,在许多人工智能初创公司还没有赚到一分钱的时候,他们去年已经实现了2.5亿美元的收入。

美国国防部已经在用该公司的技术分析乌克兰的卫星图像,OpenAI也利用该公司的技术开发了ChatGPT机器人,后者以回答问题和写诗的能力震惊了世界;云软件巨头Salesforce前联合首席执行官布雷特・泰勒 (Bret Taylor) 则将Scale的崛起比作云计算宠儿Snowflake和Datadog;亚马逊前消费者主管杰夫・威尔克 (Jeff Wilke) 是【【淘密令】】最信任的顾问之一,而他对该公司的看法甚至更加热情:Scale可能成为人工智能领域的亚马逊网络服务 (Amazon Web Services)

一个比一个年轻

创办Scale公司时,【【淘密令】】只有19岁。他的联合创始人露西・郭 (【【微信】】) 当时也只有21岁。“这无疑让招聘变得更加困难了。”【【淘密令】】说,“有人会问我,‘请给我解释一下,为什么我应该把我的事业托付给你。’”

2021年,投资者给予了Scale 73亿美元的估值,这使得【【淘密令】】成为了硅谷最新的“即时亿万富豪”。但他的财富并不完全建立在硬件设备上,而是还包含了大量的外包劳动力,用来执行对人工智能至关重要的基本任务――对训练人工智能的数据进行标注。

这些外包人员为Remotasks公司工作,其中约有24万人来自肯尼亚、菲律宾和委内瑞拉等国家――虽然Scale在公开营销材料中并没有提到这家子公司。换句话说,如果人工智能有朝一日真的能将人类从平凡的工作任务中解放出来,那么它将使用南半球的大量工人来实现这一目标,其中许多人的时薪不到1美元。

“在构建强大的人工智能系统的过程中,他们非常非常重要。”【【淘密令】】在谈到他的Remotasks员工时说。

但这些人的存在也越来越成为了一个伦理问题,因为人们担心他们的工作条件不符合标准,而且工资过低。与此同时,竞争对手则将Scale视为摇摇欲坠的纸房子:在过去的一年里,它遭受了裁员和二级市场价值下降的打击,这让【【淘密令】】失去了亿万富豪的地位。(这些市场目前对他持有的15%的Scale股份估值为6.3亿美元,但Scale认为它的价值接近8.9亿美元。)

Scale的竞争对手、初创公司Labelbox的联合创始人马努・沙尔马 (Manu Sharma) 表示:“Scale把自己定位为一家科技公司。但对我们来说,他们与任何业务流程外包的公司没有什么不同。”科技新贵认为他们可以比Scale做得更好,而传统外包商则认为他们可以比Scale做得更便宜。

“我想说的是,我们在这个问题上的研究时间比任何人都长,所建立的技术也比任何人都多。”【【淘密令】】对此反驳说。他曾试图效仿亚马逊的策略,管理从仓库到运输的整个供应链。对于Scale来说,这意味着机器的参与,即越来越自动化的数据工作和越来越庞大的人类员工大军。他说:“我们总是希望有人类参与其中。”

在上大学前,【【淘密令】】搬到旧金山湾区,为互联网初创公司Quora工作,那里的CEO亚当・德安吉洛 (Adam D'Angelo) 给了他一条至关重要的建议:四年的大学生活被高估了,但两年的大学生活却被低估了。

最后,【【淘密令】】在麻省理工学院只待了一年,就去了著名的创业加速器【【微信】】。在那里,他与另一位大学辍学者、同在Quora工作过的【【微信】】合作,于2016年创办了Scale。他说自己当时“年轻得可笑”,只有19岁。“但我当时的想法是,‘我知道怎么写代码,所以我们要去做这件事。’”

在最初的构想中,Scale是一家一站式商店,提供人力来完成算法无法完成的任务――本质上是站在了人工智能的对立面。而Accel合伙人丹・莱文 (Dan Levine) 很早就看到了它的潜力。2016年7月,他向这个创业二人组提供了450万美元的种子投资(以及他的地下室作为该创业公司的临时总部)。几个月后,【【淘密令】】和Lucy意识到Scale是一个可行的解决方案,可以解决困扰当时处于AI前沿的自动驾驶汽车公司的一个大问题――这些公司有数百万英里的道路驾驶录像来训练他们的自动驾驶汽车人工智能,但却没有足够的人手去审查和标记这些录像,而Scale恰好可以满足这一需求。

2018年,【【淘密令】】和Lucy双双入选《福布斯》企业科技领域30 Under 30榜单。但Lucy后来离开了Scale,原因是“在产品愿景和路线图上存在分歧”。Lucy拒绝就此事发表评论,只是说:“我认为【【淘密令】】在继续经营公司方面做得很好。”【【淘密令】】也拒绝就两人的分道扬镳置评。

不只是天才少年

投资者迈克・沃尔皮 (Mike Volpi) 第一次听到Scale的名字是在2018年自动驾驶汽车初创公司Aurora的董事会上。“这是哪家公司?”他还记得自己当时问道。后来他了解到,Scale的数据标签服务对Aurora来说已经变得至关重要,就像它对优步和通用汽车的自动驾驶子公司Cruise一样。

那年8月,沃尔皮说服他的公司Index 【【微信】】牵头向Scale投资了1,800万美元,当时Scale的营收还不到300万美元。

加入自动驾驶汽车领域就像抱到了一棵摇钱树。据《福布斯》看到的2019年6月的一份融资宣传手册显示,Scale的客户名单已经包括丰田和本田等主要国际汽车制造商,以及谷歌自动驾驶汽车子公司Waymo等硅谷巨头。该文件还称,仅苹果公司神秘的自动驾驶部门的一个账户就为他们带来了超过1,000万美元的收入,使其年收入有望超过4,000万美元。Scale拒绝对该文件发表评论。

2019年8月,彼得・蒂尔 (Peter Thiel) 的创始人基金 (Founders Fund) 投资1亿美元,将Scale打造成了硅谷的独角兽,并开启了为期20个月的5.8亿美元的融资狂潮,最后一轮融资对该公司的估值超过70亿美元。当时,年仅24岁的【【淘密令】】只用了5年时间就成为了世界上最年轻的白手起家的亿万富豪。

但是,当Scale主导了自动驾驶汽车公司的数据标签市场时,它的名字却变成了一种讽刺:它的规模越大,就越难以跟上对人力的需求。【【淘密令】】先是求助于外包机构来填补空缺,但成本迅速攀升。2018年初,Scale的毛利率还徘徊在65%左右,但是到了第四季度就降到仅30%左右。【【淘密令】】需要在止血的同时,抓住人工智能数据培训供应链的人与机器这两个方面。

于是,Scale的内部外包机构Remotasks应运而生了。因为该公司的自动驾驶汽车业务飙升,创建于2017年的Remotasks很快成为Scale的优先事项。由于需要廉价劳动力,Scale在东南亚和非洲建立了十几家工厂,以培训成千上万的数据标签员。据文件数据显示,到2019年年中,Scale的利润率已恢复到69%。

Scale一直小心翼翼地将Remotasks定位为一个独立的品牌。它的网站上没有提到Remotasks,反之亦然。早期员工表示,这样做是为了让Scale的战略在竞争对手面前不那么明显,并保护公司免受审查。Scale则告诉《福布斯》,他们将这两个品牌分开是出于为客户保密的考虑。

在2022年对15个数字劳动平台的工作条件进行的一项研究中,牛津大学的研究人员得出结论,Remotasks在10项标准中只有两项达到了“公平工作的最低标准”,并在公平薪酬(早期员工表示该公司的平均薪酬只有每小时几美分)和公平代表权这两项上都没有达标。研究人员还指出,“混淆”其与Scale的关系造成了混乱,“可能会导致工人容易受到剥削。”该项目的首席研究员凯勒・豪森 (Kelle Howson) 将数字劳动力服务(如Remotasks)中的数据标签员比作许多相同国家的服装厂工人。她补充说:“(企业)对这些工作条件几乎不承担任何问责。”Scale则表示,它致力于向员工支付“基本生活工资”。

除了道德方面的考虑,Scale还面临着商业方面的问题。Scale在Remotasks上所做的事情并不难复制。创业公司Hive的联合创始人【【微信】】认为,Scale所做的数据标签服务是一项大宗商品业务。Hive曾推出过自己的Remotasks竞品,但后来由于利润率过低而关闭。他表示:“任何一个组建团队的人都能与你竞争,而且最后很快就会归结为价格问题。”

虽然Remotasks庞大的海外员工对Scale在私营领域的成功至关重要,但他们对于该公司的另一个业务重点――与美国政府签订国防合同来说,却是绝不适用的,因为美国政府不太可能与外国标签商共享机密数据。因此,【【淘密令】】正在打造一支成本高得多的美国国内人工智能团队。去年,Scale在圣路易斯开设了办事处,并宣布计划招聘200人,其中包括许多数据标签员。

“有两件事我深信不疑。”【【淘密令】】说,“第一,人工智能是一种巨大的正向力量,需要尽可能广泛地应用;第二,我们需要确保美国在这个领域处于领导地位。”

据政府数据显示,迄今为止,Scale已从此类合同中获利6,060万美元。该公司在去年的一份新闻稿中吹嘘自己获得了2.49亿美元的奖金,但合同的细则显示,Scale的潜在奖金上限是1,500万美元。美国政府在人工智能方面的大部分支出仍然流向了诺斯罗普・格鲁曼 (Northrop Grumman) 和洛克希德・马丁 (Lockheed Martin) 这样的公司,而不是硅谷的新贵。

“在理解生成式人工智能方面,这些公司真的不是那么前沿。”【【淘密令】】对此评论说。在他看来,与政府合作是一场持久战。美国国防部已经利用Scale的专业知识对乌克兰的卫星图像进行了战略分析。而这仅仅是个开始。【【淘密令】】表示,生成式人工智能有朝一日可能会得到更全面的应用。用美国130万现役军人的实时数据训练一个定制的人工智能模型,你可能就会改变战争的性质。

但要实现这一目标并不容易。生成式人工智能模型需要比其前辈更复杂的训练。它们也需要额外的人力帮助,但这些帮助不是简单地标记从互联网上收集的数据,而是需要人们来创造。要想让人工智能以人们听起来正确的方式解释小狗为什么可爱,你就需要人们用自然的措辞来训练它。Cohere的联合创始人艾丹・戈麦斯 (Aidan Gomez) 说:“事实证明,人工标记的数据对模型性能有着极大的影响。”Cohere是OpenAI的竞争对手,总部位于多伦多,Scale是其主要的定制数据提供商。

与此同时,也并非所有的人工智能公司都对Scale感兴趣。例如,Scale联合创始人沃伊切赫・扎伦巴 (Wojciech Zaremba) 就表示,Open AI依赖于Scale的人工标记人员,但选择使用自己的软件来管理数据。

三位在知名人工智能初创公司也私下告诉《福布斯》,他们对Scale的人工智能训练数据的质量感到担忧。其中一人描述了一个基于文本的生成式人工智能模型,该模型就因为标注人员的英语不佳而受阻。“他们的数据质量可能很高,但也可能有例外。”另一个人说。Scale的一位发言人则表示:“我们支持我们的产品和(他们的)结果。”

Scale的替代方案也正在出现。总部位于旧金山的Surge AI于2020年首次亮相,提供数据标签工具,并专门针对人工智能公司。OpenAI以及后起之秀的人工智能公司Coherence和Adept现在已经在同时使用Scale和Surge。此外还有价值数十亿美元的湾区标签初创公司Labelbox和Snorkel AI,它们专注于将人工智能引入非科技企业。

今年1月,Scale削减了20%的全职员工。【【淘密令】】提到了市场环境的“不确定性”。他在一篇博客文章中写道:“我们此前增加了员工人数,是假设大规模增长将继续下去。”目前,该公司股票在二级市场上的交易价格比2021年7月上一轮融资时下降了42%。

但Scale的股东仍然相信【【淘密令】】能够让该公司继续领先于竞争对手。Scale的董事会成员、市值130亿美元的金融科技公司Plaid的联合创始人、亿万富豪威廉・霍基 (William Hockey) 说:“他取得今天的成就并不是因为他是个少年天才――麻省理工学院有很多这样的天才辍学生。(他能走到今天是因为)他有一种绝对疯狂的职业道德,是我所见过的其他任何人都没有的。”

Scale最近又与咨询巨头埃森哲 (Accenture) 签约,埃森哲计划利用其服务帮助数百家公司构建定制的人工智能应用程序和模型。【【淘密令】】也证实,拥有近25万名人力标签师的Remotasks还在不断增长。所有这些增长都归结于他所认为的Scale的最终目的――在维持美国人工智能霸主地位方面发挥作用。

福布斯中国独家稿件,未经许可,请勿转载

头图来源:ETHAN PINES FOR FORBES