原标题：要不要限制 AI？我们把与 GPT-4 有关的观点收集全了

《三体》中的降临派、拯救派和幸存派分别代表着不同的观念和立场。借用这三个概念，我们可以将对 AI 看法的人划分为 AI 降临派、AI 拯救派和 AI 幸存派。

AI 降临派：

这一派的人认为 AI 的发展将为人类带来巨大的好处，甚至取代人类成为地球的主导力量。他们相信 AI 可以解决人类的许多问题，如气候变化、资源分配、疾病治疗等。AI 降临派的人通常对 AI 技术非常热衷，支持无限制地发展和应用 AI 技术，期待 AI 在未来改变世界。

AI 拯救派：

这一派的人认为 AI 是人类发展的关键，但需要在一定范围内受到监管和引导。他们认为，通过合理的政策制定和伦理道德约束，可以确保 AI 技术的安全和可持续发展。拯救派关注 AI 对社会和个人产生的影响，期望在维护人类利益的同时，让 AI 成为人类的得力助手。

AI 幸存派：

这一派的人对 AI 技术持怀疑甚至担忧的态度。他们认为 AI 技术的发展将可能导致一系列问题，如失业、隐私侵犯、安全威胁等。幸存派的人认为，人类应该小心应对 AI 技术的发展，寻求与 AI 和谐共生的方法。他们强调 AI 的潜在风险，提倡谨慎和审慎的态度来平衡 AI 技术的利弊。

这三派的划分并没有严格按照《三体》原著的定义（原著中降临派要毁灭全人类，拯救派想要拯救三体人，幸存派要出卖人类利益为后代谋求苟活的空间），而是以人们对 AI 的接受程度以及欲施加的监管力度进行划分。

降临派（欢迎 AI 降临）接受程度最高，拯救派（用 AI 造福人类）次之，幸存派（在 AI 时代幸存）最保守，以便于我们理解立场。

让我们看看在这一周内，三派有哪些观点碰撞。

本文封面由 MidJourney 生成

降临派

吴恩达：暂停 AI 开发不可行

本周， 一封上千人签署的公开信火遍了全网 ，一家名为未来生命研究所（Future of Life Institute）的机构呼吁全球应该至少暂停六个月开发比 GPT-4 更强大的模型，以让有关的监管手段能够跟上。

人们在该信上看到了许多知名人士的签名，包括图灵奖得主 Yoshua Bengio、马斯克、史蒂夫 ・ 沃兹尼亚克、Skype 联合创始人、Pinterest 联合创始人、Stability AI CEO 等人。

该信爆火后，人们发现部分知名人士的签名实际上是网友冒签的，所谓千人签名的真实性存疑。

不管怎么说，这封公开信还是激起了人们关于是否要封禁 AI 研究的讨论。

著名计算机科学家、Google Brain 的联合创始人吴恩达在社交媒体上发表了他对这封信的看法。

他认为，让有关部门暂停他们尚未了解的新兴技术，往好了说是反竞争，往坏了说是开了一个糟糕的先例。

以下是他的观点原文：

要求在 6 个月禁止开展比 GPT-4 更进一步的研究是一个可怕的想法。我看到许多新的应用在教育，医疗保健，食品……这将帮助许多人。继续改进 GPT-4 会对这些领域有所帮助。我们要权衡 AI 创造的巨大价值和现实的风险。

除非有关部门介入，否则没有切实可行的方法来实施暂停并阻止所有团队扩大 LLM（大语言模型）。让有关部门暂停他们不了解的新兴技术是反竞争的，树立了一个可怕的先例，是糟糕的创新政策。

负责任的人工智能很重要，而且人工智能有风险。目前主流的媒体报道称，人工智能公司正在疯狂地发送不安全的代码，这种说法是不正确的。绝大多数人工智能团队（遗憾的是，并非所有人工智能团队）都认真对待人工智能和安全问题。

暂停 6 个月不是一个切实可行的建议。为了提高人工智能的安全性，有关透明度和审计的规定应该变得更加切实可行，产生更大的影响。让我们在推进技术进步的同时，在安全方面作更多的投资，而不是扼杀进步。

Jim Fan：我们应该欣赏 GPT-4

针对大语言模型的安全性，英伟达 AI 科学家 Jim Fan 提出了一个有意思的观点。

他认为按照 AI 的行为规范，那么大部份人类也是「不安全」的，许多大语言模型在安全性和公正性上已经表现地很好，我们不应该一味地批评它们。

以下是他的观点原文：

按照 GPT 的「伦理与安全」指导方针，我们大多数人也表现得不理性、有偏见、不科学、不可靠，总的来说――「不安全」。事实上，我们对人工智能的要求更高。这是件好事，我完全支持做更多。但有些事不吐不快。

我指出这一点的原因是为了让大家了解安全校准工作对于整个研究团体来说是多么困难。大多数的训练数据本身就是有偏见的、有毒的、不安全的等等。实际上，创造一个安全的人工智能助手是违反人类数据分布的。

从某种意义上说，许多生产型 LLM（Claude，Cohere，GPT）在安全性和公正性方面都是「超人」，尽管它们并不完美。对我们来说，下意识地批评失败案例比欣赏挑战（和成就）更加容易。

拯救派

Sam Altman：确保 AGI 惠及全人类

生命研究所的公开信将 OpenAI 拉入了舆论的风暴之中，OpenAI 的 CEO Sam Altman 在 Twitter 上却表示他依然很平静，并提出了建立 AGI（通用人工智能）的三个要点。

以下是他的观点原文：

我们需要为了 AGI 美好的未来而付出的努力

1、调整超级智能的技术能力

2、充分协调大多数主要 AGI 的工作

3、有效的全球监管框架，包括民主治理

此前，Sam Altman 在 Lex Fridman 的采访播客曾表示自己会对 OpenAI 的技术感到害怕，他表示：

当人们认为这是一个巨大的飞跃时，我会说，我有点害怕，我觉得这很奇怪。

我认为一点都不害怕的话才是疯狂的，我同情那些非常害怕的人。

Sam Altman 更关心的是「虚假信息问题或经济冲击」，而不是如何用算法制造「超级智能」。他认为有些公司并不会像 OpenAI 一样设置如此严格的安全栅栏，并担心因此导致 AI 失控造成不良的社会影响。

马云：ChatGPT 只是 AI 时代的开始

马云回国后来到云谷学校，聊到了 ChatGPT 对教育领域的影响。马云表示，ChatGPT 这一类技术已经对教育带来挑战，但是 ChatGPT 这一类技术只是 AI 时代的开始。

以下是他的观点原文：

我们要用人工智能去解决问题，而不是被人工智能所控制，虽然人的体力、脑力比不过机器，但机器只有「芯」，而人有「心」。工业时代是知识驱动，知识的竞争；数字时代，是智慧驱动，是创造力和想象力的竞争，是领导力、担当力、责任的竞争，是独立思考的竞争。

幸存派

Gary Marcus：什么都不做是不对的

纽约大学心理学和神经科学的荣誉退休教授 Gary Marcus（他同时还是 AI 畅销书《Rebooting.AI》的作者）一直对 LLM 保持批评的态度。

当生命研究所的公开信发布后，Gary Marcus 可以说是该观点最坚定的支持者。

面对该公开信受到的质疑，Gary Marcus 做出了一段很长的回应，以下是他的观点原文：

很多针对 6 个月禁止培训超大型 #LLM 的攻击都没有抓住要点。

这么多的利害关系，这里有一个 Twitter # long gread 整理出什么才是真正重要的:

很多对这封信的攻击都集中在赞助人身上，而不是署名人。大多数签名的人（如我，约书亚 ・ 本吉奥等）与 FLI 没有任何关系。评判这封信应该看它写了什么，而不是谁写的。这里真正的新闻不是埃隆 ・ 马斯克签署了协议，而是这么多不是天生盟友的人（比如本吉奥和我，因 2019 年的激烈辩论而闻名）出于共同关心而走到了一起。

提出一个不同的选择并没有错，而大多数批评这封信的人也没给出一个恰当的解决办法。

什么都不做是不好的。几乎所有人，甚至包括 OpenAI 在内，都承认其存在严重的风险，但迄今为止，有关部门或行业都没有采取什么切实措施来减轻这些风险。

并不是所有签署了这封信的人都主要关心长期风险; 我们中的许多签署了这封信的人至少同样担心短期风险。

这封信并没有呼吁禁止人工智能。没有要求永久禁止。它没有呼吁禁止 GPT-4。它没有呼吁禁止绝大多数人工智能研究，只是在一个非常具体的项目上短暂停顿了一下，该项目的技术已经「知道」存在风险，却没有已知的解决方案。实际上需要更多的研究。有人看过那封信吗？

我个人没有改变；我仍然认为 LLM 是不可靠的，仍然认为它们表达事实的能力非常糟糕。我不认为它们接近 AGI。但这并不意味着他们没有撕裂我们社会结构的潜力``特别是考虑到当前的混合情况：难以置信的广泛和快速部署、企业不负责任、缺乏监管以及一直存在的不可靠性。

Eliezer Yudkowsky：暂停还不够，我们应该把 AI 永远关闭！

Eliezer Yudkowsky 是著名的人工智能科学家和作家，同时也是机器智能研究所（MIRI）的联合创始人，MIRI 致力于确保超人工智能对人类具有友善的价值观。

未来生命研究所的公开信爆火之后，Eliezer Yudkowsky 在《时代（Time）》上发表了一篇名为《Pausing AI De【【微信】】't Enough. We Need to Shut it All Down》文章。

在开头提到他并没有在上面签名，因为这封信低估了形势的严重性，提出的要求太少，无法解决问题。

文中提到了当人工智能变得比人类更聪明之后可能造成的危害，Eliezer Yudkowsky 提出了一个相当消极的观点：

我们还没准备好。我们没有在任何合理的时间内做好准备。没有计划。人工智能能力的进步是巨大的，远远领先于人工智能排列的进步，甚至领先于理解这些系统内部到底发生了什么的进步。如果我们真的这么做（放任其发展），我们都会死的。

Eliezer Yudkowsky 在前不久接受 Lex Fridman 的采访时再次警告，人类没有第二次校准人工智能的机会，如果人类失败，人类就将灭亡。

点击「在看」

是对我们最大的鼓励返回搜狐，查看更多

责任编辑：

非农在即美股行情 非农较乐观最新预期

非农利好美股收涨,美国非农对股市的影响,美国非农数据对股市行情影响,非农美国

1、加拿大就数据安全问题开始调查OpenAI公司；2、道达尔能源与伊拉克政府达成协议 将推进约100亿美元投资计划；3、苹果将在印度开设首家官方零售店 位于该国金融中心孟买。

财联社4月5日讯（编辑 马兰）周三美股盘前，最新公布的美国ADP数据显示出美国经济增长走向急剧放缓的势头。

ADP数据素有“小非农”之称，通常作为美国劳工部非农就业报告的前瞻指导。3月ADP就业人数仅增加14.5万人。远远低于预计的21万人，也远远低于2月的26.1万人。

这一经济数据似乎再次加强了市场对于美联储会否进一步加息的怀疑。需要注意的是，克利夫兰联邦储备银行行长梅斯特在周二表示，联邦基金利率年前应升至5%以上，鉴于目前利率为4.75%，这代表着美联储还将进一步加息。

截至发稿，道指期货下跌0.04%，标普500指数期货下跌012%，纳斯达克100指数期货下跌0.04%。

另一方面，由于科技业多名重磅人物联名发信要求暂停人工智能的研发，加上意大利、英国等国家发布了一些针对ChatGPT的限制规定，导致市场对人工智能企业疑虑重重。

截至发稿，AI概念股C3.ai盘前下跌3.01%，其在周二跌超26%，创上市以来的最大日内跌幅。另一只AI股票SoundHound盘前也下跌4.93%，BigBear.ai则下跌4.10%。

欧洲方面，欧央行可能在5月初加息50个基点，欧央行管理委员会成员霍尔兹曼本周早些时候表示，这样的举措“仍有可能”。

ING 的分析师在一份报告中表示，这“提醒人们欧洲央行的紧缩周期落后于美联储，欧洲央行放松政策的速度将慢得多”。

此外，受到德国2月制造业订单超预期影响，加上法国2月工业产出率高于预期，较1月的降幅出现明显改善，市场情绪得到提振。

这些数字为欧洲陷入困境的制造业带来了希望，该地区近来工业的表现一直不如服务业。尽管如此，欧洲市场的风险情绪依然脆弱，投资者对大西洋两岸出现衰退的可能性持谨慎态度。

欧股周三开盘后小幅走高，但脆弱情绪下，欧股普遍下跌。截至发稿，德国DAX30指数下跌0.56%，法国CAC40指数下跌0.29%。英国富时100指数上涨0.29%。

公司消息

【加拿大就数据安全问题开始调查OpenAI公司】

据报道，加拿大隐私专员办公室（OPC）4日宣布开始调查ChatGPT背后的公司OpenAI，涉及“指控OpenAI未经同意收集、使用和披露个人信息”的投诉。意大利数据保护局（Garante per la Protezione dei Dati Personali）上月底暂时禁用ChatGPT，并对该工具涉嫌违反隐私规则展开调查。该机构认为，3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息予以告知，缺乏大量收集和存储个人信息的法律依据。

【道达尔能源与伊拉克政府达成协议 将推进约100亿美元投资计划】

道达尔能源4月5日发布声明称，该公司同伊拉克政府达成协议，将推进一项价值约100亿美元的投资计划，旨在促进伊拉克的石油、天然气和电力生产。根据协议，伊拉克国有的巴士拉石油公司将在“天然气增长综合项目“（Gas Growth Integrated Project）中持有30%股份，卡塔尔能源将持股25%，道达尔能源则将持有45%的股权。

【机构：Q1特斯拉在美充电桩安装量仍占主导】

根据电动车研究公司E【【微信】】的数据，今年第一季度，特斯拉在美国设置了1292个充电桩，占据了最大的市场份额，安装量是EVGo的5倍多。

【苹果将在印度开设首家官方零售店 位于该国金融中心孟买】

苹果将很快在印度开设首家官方零售店。该公司周三发布了一张该门店的概览图，但并未给出确切开业日期。该门店将位于印度金融中心孟买的高档商区Bandra Kurla Complex。据报道，苹果还将在印度新德里开设一家官方零售店。

【俄方称不应对“北溪”恢复供气过于乐观】

当地时间4日，德国安联保险公司和慕尼黑再保险集团宣布为“北溪”天然气管道续保，对此，很多欧洲国家的专家称，未来“北溪”管道可能会恢复对欧洲供应天然气。对此，俄罗斯总统新闻秘书佩斯科夫表示，俄方对这一问题表示关切，但不应对“北溪”管道恢复供气过于乐观。他还表示，因涉及多方利益，针对“北溪”管道遭破坏的行径仍需要进行公开透明的国际调查。

【阿布扎比国家石油公司最快下月将海运物流子公司IPO 拟筹集近10亿美元资金】

知情人士称，阿联酋阿布扎比国家石油公司（ADNOC）计划最快5月将其海运和物流子公司ADNOC Logistics & Services上市，寻求筹集近10亿美元资金。ADNOC L&S从阿布扎比向其国际客户运送原油、成品油、干散货和液化天然气。

【韩电池材料制造商Ecopro或将斥资2万亿韩元扩产】

知情人士称，韩国电池材料制造商Ecopro集团计划扩大其在韩国的生产规模。据了解，Ecopro在浦项市已拥有一个530万平方英尺的工厂，它将在该工厂投资3.2万亿韩元，每年生产27万吨阴极活性材料，用于电动汽车电池。知情人士称，该公司正在考虑另一个面积约为700万平方英尺的场地，将建设一个电池回收设施，并生产前驱体等上游产品，预计将花费约2万亿韩元。

美股时间段值得关注的事件（北京时间）

4月5日

21:45 美国3月Markit服务业PMI终值

22:00 美国3月ISM非制造业PMI

22:30 美国至3月31日当周EIA原油库存&当周EIA战略石油储备库存