gpt-4怎么超越人类极限 美国如何评价gpt-4
文章转载来源：华尔街见闻
作者：卜淑情
在新一轮AI全球竞赛爆发之际，一封呼吁暂停大型AI研究的公开信在科技圈掀起轩然大波。
这封公开信矛头直指OpenAI，呼吁暂停开发比GPT-4更强大的AI系统至少6个月。
图灵奖得主Yoshua Bengio、马斯克、苹果联合创始人Ste【【微信】】、Stability AI创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信，目前已经有近13000人签名。
令人意外的是，OpenAI CEO Sam Altman的名字也曾赫然在列，但后来被证实为假签名，Altman称并没有计划呼吁暂停人工智能的开发。
近期，OpenAI 已经公布了GPT-4模型，其起草诉讼书、通过标准化考试和根据手绘草图建立工作网站的能力震惊四座。
然而，就当所有人的注意力集中在签名的AI大佬身上时，我们注意到这封公开信背后的生命未来研究所（Future of Life Institute，FLI）可一点都不简单。
FLI是什么样的组织？
先简单介绍一下FLI，它是一家专注于变革性科技的非盈利组织。
顾名思义，FLI研究的对象是“生命的未来”，以“引导变革性技术造福生命，远离极端大规模风险”为使命。
FLI官网写着：“我们认为，开发和使用强大技术的方式将是决定未来生命前景的最重要因素，因此我们的使命是确保技术继续改善等前景。”
FLI工作包括资助各种研究项目，组织和赞助相关会议和讲座，以及向公众普及科技领域的最新发展和挑战。
FLI成立于2014年，创始人为科技界人士和哲学家，比如Skype联合创始人Jaan Tallinn，麻省理工学院（MIT）物理系教授Max Tegmark，牛津大学哲学教授Nick Bostrom。
FLI的拥趸除了学术界翘楚之外，还有全球首富马斯克，甚至是美国知名演员摩根・弗里曼也榜上有名。
而提到FLI，就不得不提它的姊妹机构牛津大学人类未来研究所（Future of Humanity Institute，FHI），后者自称关注解决人类及其前景的宏观问题。
巧合的是，牛津大学哲学教授Nick Bostrom同时也是FHI的创始人和主任。
仅有两字之差的机构名称，同样宏大的宗旨，关键的人物任职，均表明两者有着特殊的联系――长期主义。
Bostrom是长期主义的提出人，FHI研究助理、开放慈善项目官员Nick Beckstead、牛津大学哲学教授William MacAskill都对这一理论有所贡献。
长期主义影响力有多大？
除了FLI和FHI之外，长期主义还是全球优先事项研究所（Global Priorities Institute， GPI）和全球优先事项研究前瞻基金会（Forethought Foundation for Global Priorities Research）的研究重点。
前者由牛津大学哲学教授Hilary Greaves领导，后者由牛津大学哲学教授William MacAskill管理，他也在FHI和GPI任职。
长期主义还是慈善巨头有效利他主义（Effecti【【微信】】，EA）运动的主要理论支撑之一，这一组织由FHI研究员、《悬崖：世界末日和人类的未来》作者Toby Ord联合创立，MacAskill现担任主席。
MacAskill创作的有关长期主义的书籍《我们欠未来什么》，在硅谷广受赞誉，马斯克曾称其“与我的哲学非常吻合”。
马斯克还是Bostrom的忠实拥护者，他经常引用Bostrom的研究成果，还曾通过FLI向FHI捐赠了150万美元。
除此以外，贝宝（PayPal）联合创始人【【淘密令】】曾向机器智能研究所（Machine Intelligence Research Institute）捐了一大笔钱，这一机构对长期主义深信不疑，宣称要从超级智能机器手中拯救人类。
长期主义不仅受到科技大佬的赏识，其影响力甚至渗透到了欧美政界。
总部位于华盛顿的安全和新兴技术中心（Center for Security and Emerging Technologies，CSET）希望将长期主义者安置进美国政府高层，帮助塑造国家政策。
CSET由前FHI研究助理Jason Matheny建立，他曾是拜登政府的美国国家安全专家，现担任美国知名智库兰德公司的CEO。
Ord曾为世卫组织、世界银行、世界经济论坛、美国国家情报委员会、英国首相办公室、内阁办公室和政府科学办公室提供过建议，他还曾为联合国秘书长的一份报告做出了贡献，在这篇报告里特别提到了长期主义。
关键在于，长期主义可能是除了全球顶尖学府和硅谷以外，很少有人听说过的最具影响力的意识形态之一。
但更可怕的是，这种世界观可能是当今世界上最危险的世俗信仰体系。
长期主义是什么？
首先需要注意的是，Bostrom提出的长期主义并不等同于关心长期前景或后代福祉。
远不止这些。
长期主义把个体的人比作人类整体。
这是什么意思？
长期主义者认为，人类有自己的“潜力”，一个超越每个人的潜力，如果不能实现这种潜力将是极其糟糕的。
长期主义的核心教条，是从伦理上讲，没有什么比实现人类作为“源于地球的智慧生命”物种的潜力更重要的了。
在长期主义者看来，这一点至关重要，甚至还创造了一个听起来很吓人的术语――“世界末日”。
这一术语是指人类潜能被破坏的任何可能性，以及任何实际上破坏了这种潜能的事件的“存在主义灾难”。
长期主义为什么很危险？
一言以蔽之，将实现人类潜力这一事业的重要性提升到高于一切的水平，可能会显著增加现实中的人――眼下和不久的将来还活着的人――遭受极端伤害甚至死亡的可能性。
比如，长期主义者认为不需要关注全球气候变化。
因为气候变化不会损害人类在未来数万亿年的长期潜力，即使它会让岛屿消失，让数以亿计的人流离失所，面临严重的生存危机。
如果从宇宙的角度来看这种情况，那么即使是在未来2000年里使人口削减75%的气候灾难，也只不过是沧海一粟。
Bostrom在谈到两次世界大战、艾滋病和切尔诺贝利核事故时，称“这样的悲剧事件对人们来说是受到实时影响的，但从大局来看，即使是最严重的灾难也仅仅是生命大海上的一片涟漪”，只是“人类的小失误”。
这意味着，如果未来发生灾难，只要它不对人类整体构成直接的生存风险，那么人类就不应该太担心，即使是对个人来说可能是悲惨的。
Ord则认为，人类的首要任务是，到达“人类存在安全区”，即“存在风险”较低的地方。
据他估计，气候变化导致生存灾难的几率只有千分之一，比本世纪超级智能机器毁灭人类的几率低了整整两个百分点。
Ord曾承认，气候灾难“有可能造成文明无法挽回的崩溃，甚至是人类完全灭绝”，同样对现实中的人类（尤其是南半球的人类）造成绝对巨大的伤害，但与人类在宇宙中的长期潜力相比，它的影响几乎可以忽略不计。
如果人类将“发挥潜能”当成第一要务，那么应该用什么样的手段去确保不偏离这一方向呢？
Bostrom本人认为，人类应该认真考虑一个全球性的“入侵式监听系统”，实时监听地球上的每个人，增强预警能力。
他说，国家应该使用先发制人的暴力或战争来避免存在性灾难，并认为拯救数十亿现实中的人类的生命仅等同于微微降低存在风险。
举例来说，即使有百分之一的可能性拯救1054个未来人类的生命，那么将生存风险降低一个百分点的一亿亿分之一，其价值也相当于拯救十亿人类生命的1000亿倍。
这种危险的世界观还存在其他根本性问题。
比如，长期注意与实现“生存安全”根本不相容，换句话说，要真正降低未来人类灭绝风险的唯一途径可能是完全放弃长期主义。
来看看长期主义者所说的人类“长期潜力”。它主要由三部分组成：超人类主义、空间扩张主义以及与哲学家所谓的“总体功利主义”密切相关的道德观。
超人类主义，指人类应该用先进的技术来重新设计我们的身体和大脑，创造一个由彻底增强的“后人类”组成的“优越”种族。
比如，我们可以对自己进行基因改造以完全控制我们的情绪，或者通过神经植入物访问互联网，或者甚至可以将我们的思想上传到计算机硬件以实现“数字永生”。
将超人类主义和长期主义联系起来，根据Bostrom 和Ord的说法，成不了所谓的后人类会阻碍人类实现巨大而光荣的潜力，这将是“存在主义灾难”。
空间扩张主义，指的是我们必须尽可能多地殖民未来的光锥（时空中的面）：即理论上我们可以进入的时空区域。
根据长期主义者的观点，我们未来的光锥包含了大量可利用的资源，他们称之为负熵的“宇宙禀赋”。
Ord写道，单单银河系的直径就有15万光年，包含了超过1000亿颗恒星，其中大部分都有自己的行星。要实现人类的长期潜力，我们只需要最终到达附近的一颗恒星，建立一个足够坚实的立足点，创造一个新的繁荣社会。
但为什么要这么做？让新的后人类文明洒满宇宙有什么重要的？
这就不得不提第三个组成部分：总功利主义，这里简称为“功利主义”。
一些长期主义者坚称他们不是功利主义者，在一些人眼中，这只是一种烟雾弹行为。
比如，EA运动可能只是披着利他主义外衣的功利主义。
这项运动被称为EA运动之前，Ord等早期成员曾认真考虑过称之为“有效功利主义社区”。
功利主义并不在意价值是如何在时间和空间中分配的，重要的是总净额。
比如，假设现在有1万亿人，每个人的生命价值为1，那么总价值为1万亿，而如果现在有10亿人，每个人的生命价值为999，那么总价值为9990亿。在功利主义者眼中，第一个世界的价值更高。
这里的推测基于这样一个观点，即人只是价值的“容器”，本身并没有价值，人类存在的意义仅限于“容纳”了价值，更多的人意味着更多的价值。
简而言之，在功利主义者看来，人的存在是为了价值最大化，而不是为了造福人民。
这就是为什么长期主义者痴迷于计算未来有多少人可以存在。
Bostrom曾估计未来世界人类数量将达到1054，这一数字在他2014年出版的《超级智能》一书中更高，为1058。
最后总结一下长期主义者眼中的人类长期潜力：通过数字化技术增强的人类遍布银河系。
为了长期主义者的目标，人类不能把资源浪费在解决全球贫困问题和全球气候变暖上，反而应该把更多精力放在超级智能机器上，建立一个全球监视系统，发动“先发制人”的战争。
Beckstead甚至认为，人类应该优先考虑富裕国家人民的生活，而非贫穷国家人民，因为前者对未来的影响绝对更加重要。
为了实现价值最大化，人类必须开发越来越强大、越来越危险的技术；如果做不到这一点，本身就将是一场生死存亡的灾难。不过，技术并不是导致全球性问题日益恶化的根本原因，也不是停止创造更多技术的理由。
有人认为，人类需要先进的技术逃离可能在未来十亿年内被太阳毁灭的地球，但在此之前，滥用技术更有可能导致人类灭绝。
最后，你怎么看长期主义？
财经早餐2021.04.26星期一 财经早餐2021.09.02星期四
财经早餐2021-27星期三,财经早餐雅馨图片,财经早餐官网,财经早餐是哪家公司的每日金曲：奚缘 -《一起去看风和日丽 》
? 文旅部：4月5日，全国国内旅游出游2376.64万人次，较去年清明节当日增长22.7%；预计实现国内旅游收入65.20亿元，较去年清明节当日增长29.1%。清明节假日期间，全国共有14952家A级旅游景区，其中正常开放12635家，占A级景区总数的84.5%。
? 中物联：3月中国大宗商品指数为103.4%，环比上升0.6个百分点，两连升至2020年8月以来的最高点。供需双侧联动上升，特别是商品库存压力得到缓解，显示国内大宗商品相关企业生产经营活动正在显露积极的迹象。预计4月国内大宗商品市场仍将维持稳中向好的态势，商品价格整体仍有一定的上行空间。
? 北京日报：今年北京高校硕博毕业生预计约为16.08万人，本科毕业生预计约为13.61万人。北京硕博毕业生人数首次超过本科毕业生，相差近2.5万人。正值“金三银四”就业季，专家提示，研究生和本科生在求职中各具优势，切忌盲目追求高学历。
宏观经济
1、央视新闻：当地时间4月3日至4日，世贸组织货物贸易理事会举行会议。中国在此次会议上，对“美国、日本和荷兰之间关于芯片出口限制的协议”提出关切。认为该协议违背了世贸组织的公开透明原则，破坏了世贸组织规则的权威性和有效性，要求美国、日本和荷兰向世贸组织通报该协议和后续措施，并呼吁世贸组织加强对这些措施的监督。
2、证券时报：一季度地方债发行2.1万亿元，其中新增地方债发行1.67万亿元，双双创出历史新高。今年地方债发行呈现三大特点，发行继续前置，新增地方债提前批额度已发完63%；新增专项债增加新基建投向，但当前占比尚小；超长期债券占比有所上升。考虑到提前批额度发完大部分、剩余批次额度下达较晚，二季度新增地方债发行规模将回落，尤其4、5月比较明显。
3、每经网：据悉，加拿大隐私专员办公室宣布开始调查ChatGPT背后的公司OpenAI，涉及“指控OpenAI未经同意收集、使用和披露个人信息”的投诉。意大利数据保护局上月底暂时禁用ChatGPT，并对该工具涉嫌违反隐私规则展开调查。
4、北京商报：沙特主权财富基金PIF的子公司Savvy正在寻求开发、发布和收购一流的游戏，支持沙特的游戏产业。沙特政府要投入380亿美元，希望发掘成为下一个电游产业中心的潜力。
5、世贸组织：预计2023年，全球商品贸易量将增长1.7%，低于2022年2.7%的增长率，也低于过去12年来2.6%的平均增长水平。
6、美国：3月，ADP就业人数增加14.5万，预估21万，前值24.2万。
地产动态
1、经济日报：房地产行业仍然是“大行业”“好行业”。随着今年年初市场出现复苏态势，一些房地产企业正在从资金链吃紧状态和经营困境中走出，对于房地产市场和行业的信心正在恢复，房地产市场温和复苏的态势有望进一步巩固。
2、万科A：3月，实现合同销售面积264.7万平方米，合同销售金额426.3亿元；1-3月，累计实现合同销售面积625.7万平方米，合同销售金额1013.8亿元。
3、微软：将放弃在英国伦敦新建办公大楼的计划，并定期审查投资组合，以确保其满足员工和长期业务的需要。微软在英国雷丁的办公室租约将于2026年到期，按原计划将由新的伦敦办公室取代。
股市盘点
1、界面新闻：目前已披露业绩数据的10家券商资管子公司中，八成都面临规模收缩、业绩下滑的困境。从资管规模来看，行业整体规模收缩。2022 年末，证券公司资产管理业务合规受托资金规模9.76万亿元，同比下降 9.69%。
2、大华股份：目前，公司对大模型的技术研究尚处于预研阶段，相关技术仍主要用于公司内部训练与标注工作，视频大模型在行业应用落地时间及落地效果存在不确定性。
3、我爱我家：持股7.73%的公司股东五八有限公司拟通过集中竞价、大宗交易或两种方式相结合的方式减持公司股份数量合计不超过6454.07万股，减持比例不高于公司总股本的2.74%。
4、佳沃食品：获股东惠通基金举牌，通过其旗下2只私募基金产品以集中竞价方式进行了增持，总计增持公司股份达22.37万股，增持比例为0.13%。此次权益变动完成后，惠通基金持有公司875.12万股股份，占公司总股本5.02%。
财富聚焦
1、澎湃新闻：作为行业风向标的国内电池级碳酸锂价格跌至22.4万元/吨，较去年11月末58万元/吨的高位已经跌去逾60%。据悉，面对近日每天跌近1万元/吨的碳酸锂价格，江西宜春四大云母提锂企业中一半已经选择了停产。25万元/吨的碳酸锂价格，被业内认为是不少宜春云母提锂企业的利润盈亏点。
2、财联社：美国国债收益率近期日内涨跌幅频繁达到10多个甚至数十个基点，使得已经备受冲击的债券投资者的处境更加艰难。此前，投资者曾憧憬2023年债市将恢复正常，但眼下不得不抛弃如此想法，转而寻找灵活机动的投资，以驾驭2008年以来最为动荡的市场。
3、飞猪：今年清明假期当天出行的旅游商品预订量同比去年增长近6倍，其中一日游相关商品占比超5成。假期亲子游增长尤为明显，预订量同比增长超10倍。带娃“刷”博物馆，逛游乐园，以及包含踏青赏花、采摘采茶、露营等体验在内的生态研学，成为今年清明假期亲子游的三大主流。
4、财经早餐：热点出不停，追踪你想听。IGBT到底有多缺？缺货问题何时能解决？缺货潮给国产企业带来哪些机会？财友们快快划到文末查看今天的财秘追踪#IGBT缺货愈演愈烈
行业观察
1、发改委：近期，有人自称发改委全国统一大市场规划司特派专员，开展发放统一大市场建设卡、招聘全国统一大市场优秀宣传员等活动。在此郑重声明，发改委内部没有“全国统一大市场规划司”相关机构，从未组织过上述活动。
2、央视新闻：清明假期，各地探亲、祭祖、踏青等旅客较为集中，铁路客流保持高位运行。4月5日全国铁路预计发送旅客970万人次，开行列车9569列。4月1日至3日，全国铁路发送旅客3525万人次，日均发送1175万人次。各地中短途旅客持续高位，国铁上海局、广州局铁路客流都创下今年以来单日新高。
3、卓创资讯：4月钢铁行业成品库存增加，出口订单减弱明显。制造业本身订单支撑力度也在减弱的情况下，钢铁行业订单增长较为缓慢，叠加钢铁行业生产指数的缓慢增长来看，钢铁行业或仍然处在供需双增，但增长均较为缓慢的情况。
4、CINNO Research：2022年中国半导体项目投资金额高达1.5万亿元，半导体产业延续高投资态势。细分到半导体材料领域，按项目类别来看，硅片投资占比最高，占比约为34.7%，投资金额超1000亿元；投资超200亿元的项目分别为SiC/GaN、IC载板、电子化学品及电子特气等项目。
5、Omdia：2022年大尺寸显示面板出货片数年同比下降8.2%，出货面积年同比下降3.1%。预计2023年大尺寸显示面板出货片数年同比增长0.8%，出货面积年同比增长3.5%。
6、财经网：通用汽车超过福特汽车成为第一季度美国第二畅销的全电动汽车生产商，仅次于特斯拉。通用汽车前三个月销售了20670辆电动汽车，福特同期电动汽车销量为10866辆。
7、澎湃新闻：4月3日，在日本北海道网走市能取湖饲养的扇贝幼贝中约有1.8亿粒死亡，占生产计划量的九成。3月下旬，就已经确认到幼贝大量死亡的消息，相关机构进行了水质和病理的检查，但未发现原因。
8、克拉克森：3月，韩国船企接单量为80万修正总吨，以33%的市占率位居全球第二，中国以39%的市占率位居世界第一。第一季度，韩国船企以44%的市占率，超过中国的37%市占率排名全球首位。
公司要闻
1、中国电科：关注到多个网络平台根据网传“CETC成都事业部（413）”和“CETC-软件开发课（27）”两个微信群聊天记录，发布和传播有关中国电科的不实信息和言论。上述微信群聊天记录所涉单位和人员，非集团公司所属成员单位和员工。对于传播、扩散虚假不实信息的行为，集团公司将保留追究法律责任的权利。
2、鸿海：3月营收4003亿元新台币，月减0.43%，年减21.11%，为历年同期第三高。第一季度营收1兆4627亿元新台币，季减25.26%，年增3.87%，创历史同期新高。
3、36氪：苹果将很快在印度开设首家官方零售店，该门店将位于印度金融中心孟买的高档商区Bandra Kurla Complex。据报道，苹果还将在印度新德里开设一家官方零售店。
4、财经网：亚马逊在其视频游戏部门裁掉了大约100名员工，影响到了Prime Gaming、Game Growth和该公司圣地亚哥工作室的员工。据悉，亚马逊只发布了一款内部开发的游戏――在线角色扮演游戏《新世界》，该游戏在2021年9月推出后，玩家数量急剧下降。
环球视野
1、共同社：日本政府将修改旨在加速去碳化、普及氢能源的基本战略。被视为下一代能源的氢的供应量，将从当前的200万吨扩大到2040年的1200万吨左右。日本官方和民间将在今后15年里投资共计15万亿日元，在政府主导下完善去碳化环境。
2、财联社：据悉，麦肯锡正逐步停止破产咨询服务，此前其为陷入困境的借款人提供咨询服务的工作引发了多起诉讼和政府调查。从事破产咨询工作的合伙人，要么将离开公司，要么转而从事其他类型的工作。
3、波罗的海干散货指数：上涨3.53%，报1525点。
金融数据
1、亚洲：日经225指数收跌1.68%，报27813.26点；韩国KOSPI指数收涨0.59%，报2495.21点。
2、美股：道指收涨0.24%，报33482.72点；纳指收跌1.07%，报11996.86点；标普500收跌0.25%，报4090.38点。
3、欧洲：英国富时100收涨0.37%，报7662.94点；德国DAX30收跌0.53%，报15520.17点；法国CAC40收跌0.39%，报7316.30点。
4、黄金：COMEX 6月黄金期货收跌0.13%，报2035.60美元/盎司。
5、原油：WTI原油5月合约结算价跌0.12%，报80.61美元/桶；布伦特原油6月合约结算价跌0.06%，报84.99美元/桶。
・ IGBT缺货愈演愈烈・
? 证券时报：全球知名元器件分销商富昌电子公布了2023年半导体产品Q1货期，当前英飞凌、IXYS、安森美、ST等主流功率器件原厂的IGBT产品及其相关配件交期均较长，在50周左右徘徊，最高达54周，超过一年，MOSFET的交期也类似，货期处于长周期区域。供给方面，IDM厂商扩产较为缓慢。英飞凌德国新厂需等到2026年才能正式量产，安森美2023年产能已全部售罄。业内人士指出，在2022年下半年全球IDM的IGBT，已基本敲定2023全年供货。
? 上证报：IGBT具有高频、高电压、大电流，易于开关等优良性能，被业界誉为电力电子装置的“CPU”和新能源“芯片”，电动车之所以具备碾压燃油车的加速体验，和这枚“心脏”的作用不无关系。随着车用、工业应用所需用量大增，而产能扩增缓慢，客户认证需时间，加上特斯拉释出大砍碳化硅用量75%消息，让可能成为替代方案之一的IGBT更受追捧。据媒体报道，IGBT缺货问题至少在2024年中前难以解决。此前亦有消息指出，部分厂商IGBT产线代工价上涨10%。
? 国金证券：海外大厂对IGBT扩产态度较为保守，不能及时满足市场需求，令国内企业“有机可乘”。2021-2023年间的IGBT扩产将由中国企业主导，全球芯片短缺，导致英飞凌、三菱、富士电机等IGBT芯片供应商产品供不应求，中国IGBT企业则趁机透过低售价、及时客户服务与稳定的供应链，成功打进下游客户，并逐渐拉升产能以提高市占率。2022年上半年，斯达半导和比亚迪分别占据我国车规级IGBT市场份额的二、三名。
? 东亚前海证券：一方面，我国是全球最大的IGBT需求市场，产业具有较大的发展前景，但我国IGBT自给率不足20%，国产替代仍有较大的提升空间；另一方面，本土IGBT产品性能已经逐渐成熟，且部分产品性能可对标海外IGBT大厂产品，加速国产化IGBT产品市场渗透，逐步切入高端市场。得益于IGBT产品更新迭代缓慢，给予本土IGBT企业技术追赶时间，部分企业已实现技术突破，并快速抢占市场。
今日分享
你是四月早天里的云烟，黄昏吹着风的软，星子在无意中闪，细雨点酒在花前。――林徽因
