open ailab,open ai codex,ai opentype,open ai gpt-3

4月6日消息，美国当地时间周三，OpenAI发帖，详细介绍了其确保AI安全的方法，包括进行安全评估、改进发布后的保障措施、保护儿童以及尊重隐私等。该公司表示，确保AI系统的构建、部署和安全使用对实现其使命至关重要。

以下是OpenAI帖子的全文：

OpenAI致力于确保强大的AI安全，让尽可能多的人受益。我们知道，我们的AI工具为当今人们提供了许多帮助。世界各地的用户向我们反馈，ChatGPT有助于提高他们的工作效率、增强他们的创造力，并提供量身定制的学习体验。但我们也认识到，与任何技术一样，这些工具也存在真正的风险。因此，我们正在努力确保在各个系统层面上的安全性。

打造更加安全的人工智能系统

在推出任何新的人工智能系统之前，我们都会进行严格的测试，征求外部专家的意见，并通过人工反馈的强化学习等技术来改善模型的表现。同时，我们还建立了广泛的安全和监控系统。

以我们最新的模型GPT-4为例，完成训练后，我们在整个公司范围内进行了长达6个月的测试，以确保其在公开发布之前更加安全可靠。

我们认为，强大的人工智能系统应该接受严格的安全评估。监管是必要的，以确保这种做法被广泛采纳。因此，我们积极与各国政府接触，探讨最佳的监管形式。

从实际使用中学习，提高保障措施

我们尽力在系统部署之前预防可预见的风险，但实验室中的学习永远有限。我们广泛研究和测试，但无法预测人们会如何使用我们的技术，或滥用它。因此，我们认为从实际使用中学习，是创建和发布越来越安全的人工智能系统的关键组成部分。

我们谨慎地将新的人工智能系统逐步发布给人群，并采取实质性的保障措施，并根据我们吸取的教训不断改进。

我们提供自己服务和API中最强大的模型，以便开发人员可以直接将技术集成到他们的应用程序中。这使我们能够监控滥用行为并采取行动，同时制定应对措施。这样，我们可以采取实际行动，而不仅仅在理论上想象如何应对。

实际使用中的经验也促使我们制定了越来越细化的政策，以应对对人们构成真正风险的行为，同时仍然允许我们的技术以更有益的方式使用。

我们认为，社会需要更多时间适应日益强大的人工智能，每个受其影响的人都应该在人工智能的进一步发展方面拥有发言权。迭代部署有助于不同利益相关者更有效地参与人工智能技术的对话中，而拥有使用这些工具的第一手经验至关重要。

保护儿童

我们的安全工作关注重点之一是保护儿童。我们要求使用我们的人工智能工具的人必须年满18岁或以上，或者在父母同意的情况下年满13岁或以上。目前，我们正在研究验证功能。

我们不允许我们的技术用于生成仇恨、骚扰、暴力或成人等内容。与GPT-3.5相比，最新的GPT-4对受限制内容请求做出响应的可能性降低了82%。我们已经建立了强大的系统来监控滥用行为。GPT-4现在可供ChatGPT Plus的订户使用，我们希望随着时间的推移能让更多人体验它。

我们已经采取重大措施，最大限度地减少我们的模型产生伤害儿童内容的可能性。例如，当用户试图将儿童安全虐待材料上传到我们的图像生成工具时，我们会阻止它并向国家失踪和受剥削儿童中心报告此事。

除了默认的安全防护，我们与非营利组织可汗学院(Khan Academy)等开发机构合作，为他们量身定制了安全措施。可汗学院已经开发了一款人工智能助手，它可以作为学生的虚拟导师，也可以作为教师的课堂助手。我们还致力于开发允许开发者为模型输出设置更严格标准的功能，以更好地支持需要此类功能的开发者和用户。

尊重隐私

我们的大型语言模型是在广泛的文本语料库上进行训练的，其中包括公开可用的内容、获得授权的内容以及由人类审核人员生成的内容。我们不利用这些数据来销售我们的服务或广告，也不用它们来建立个人档案。我们只是利用这些数据来让我们的模型更好地为人们提供帮助，例如通过与人们进行更多对话来提高ChatGPT的智能水平。

尽管我们的许多训练数据中包括可以在公共网络上获得的个人信息，但我们希望我们的模型了解的是整个世界，而不是个人。因此，我们致力于在可行的情况下从训练数据集中删除个人信息，微调模型以拒绝个人信息的查询请求，并响应个人从我们的系统中删除其个人信息的请求。这些措施将我们的模型生成包含个人信息的响应的可能性降至最低。

提高事实准确性

现今的大型语言模型，基于之前的模式和用户输入的文本，可以预测下一个可能要使用的词汇。但在某些情况下，下一个最有可能出现的词汇实际上可能存在事实性错误。

提高事实准确性是OpenAI和许多其他AI研究机构关注的重点之一，我们正在取得进展。通过利用被标记为不正确的ChatGPT输出的用户反馈作为主要数据来源，我们提高了GPT-4的事实准确性。相比于GPT-3.5，GPT-4更可能产生符合事实的内容，提高幅度达到40%。

当用户注册使用该工具时，我们努力做到尽可能透明，以避免ChatGPT可能给出错误回复。然而，我们已经认识到，要进一步降低误解的可能性，并教育公众了解这些AI工具目前的局限性，还有很多工作要做。

持续的研究和参与

我们认为，解决AI安全问题的一个切实可行方法是，投入更多的时间和资源来研究有效的缓解和校准技术，并针对现实世界可能被滥用的情况进行测试。

重要的是，我们认为提高AI的安全性和能力应该同时进行。我们迄今为止最好的安全工作来自于与我们最有能力的模型合作，因为它们更擅长遵循用户的指示，更容易驾驭或“引导”它们。

我们将越来越谨慎地创建和部署能力更强的模型，并将随着AI系统的发展而继续加强安全预防措施。

虽然我们等了6个多月才部署GPT-4，以更好地了解其功能、好处和风险，但有时可能需要更长的时间来提高AI系统的安全性。因此，政策制定者和AI开发商需要确保AI的开发和部署在全球范围内得到有效监管，这样就没有人会为了保持领先而采取捷径。这是一项艰巨的挑战，需要技术和制度创新，但我们渴望为此做出贡献。

解决AI安全问题还需要广泛的辩论、实验和参与，包括为AI系统的行为设置界限。我们已经并将继续促进利益相关者之间的合作和开放对话，以创建更安全的AI生态系统。

太一控股集团： 马斯克与OpenAI从联合、分手再到对手

香港太一控股集团,太一控股集团成都分公司,太一控股集团上市了吗,太一控股集团招聘

原标题：太一控股集团： 马斯克与OpenAI从联合、分手再到对手

Chat GPT

在全球掀起AI革命新浪潮的ChatGPT，迎来了反对的最强音。29日，一封“呼吁暂停AI研究”的公开信犹如一枚重磅炸弹，引发了舆论的轩然大波。

网友们发现，这封公开信的领头签署人就是马斯克，顿时搬来了小板凳，准备吃瓜。也不怪网友这么八卦，毕竟马斯克跟OpenAI的恩怨情仇由来已久。

一、联合

出资1亿美元参与创建OpenAI

2015年，亚马逊的创始人靠着电商的风口成了全球首富，市场纷纷押注下一个接力风口，比如AI、元宇宙、智能可穿戴设备、新能源汽车等。

当时，谷歌刚刚收购DeepMind（推出AlphaGo的公司），被视为最有可能率先开发出通用人工智能的企业。为了防止谷歌垄断这项技术，一群人工智能发烧友决定成立一家非营利性机构，致力于使先进人工智能的好处民主化。

2015年11月，获得10亿美元作为启动资金的OpenAI高调成立，并承诺发布其研究成果，开源其所有技术。

OpenAI的创始团队拉出来一看，好家伙，全明星阵容哇！

奥特曼和马斯克出任OpenAI联席董事长，出资者包括布罗克曼、LinkedIn联合创始人雷德・霍夫曼、Paypal联合创始人彼得・泰尔、YC联合创始人杰西卡・利文斯顿，以及AWS和印度IT公司Infosys等。技术大牛有Ilya Sutskever, 【【微信】】, James Greene等。

虽然起步挺高，但OpenAI一开始的发展并不顺利。OpenAI推出了一些产品，但反响一般般。

反观谷歌，先是推出了AlphaGo打败了李世石跟柯洁，后来又发布了深度学习框架TensorFlow、SyntaxNet等，成绩斐然，占据了人工智能的高地。

搞AI太费钱了，谷歌每年都要烧掉几亿美元来研究，而OpenAI的10亿美元启动资金只是承诺，并没有实际到账。再加上OpenAI的定位是非营利组织，投资者看到没钱挣，自然也不会给它投钱。

资金不足加上巨头压迫，有些技术大牛看不到希望，就离开了这个团队。

【【微信】】

二、分手

夺权失败后负气离开

雪上加霜的是，早期最大的金主马斯克在2018年突然宣布离开董事会，他给出的理由是“避免与特斯拉产生任何利益冲突”，但最近曝出的内幕是夺权失败。

当时马斯克是诸多发起人中名气最大的，但他手头还有特斯拉跟其他公司，所以一开始把OpenAI的管理工作交给了奥特曼。

2018年初，马斯克跟奥特曼说，OpenAI严重落后于谷歌，不如让他来掌控OpenAI并亲自运营。但这一提议被拒绝了，骄傲的马斯克一气之下离开了董事会，跟奥特曼公开决裂。

马斯克想着，既然老板没当成，那原先承诺的钱也没必要给了。不仅如此，他还挖走了OpenAI最优秀的研究专家Andrej Karpathy，让其负责特斯拉的自动驾驶项目设计。

马斯克的离开给奥特曼敲响了警钟，OpenAI再这样下去，不仅没钱继续研究，连人才也招不到。于是他宣布创建一个盈利实体来筹钱，成立了OpenAI LP，并设置了100倍的回报上限。同时他依旧选择不持有新营利性实体的股权。

在改革后，OpenAI迎来了新的金主爸爸，获得了微软10亿美元投资（后来又持续追加了上百亿的投资）。有了微软的资金跟云计算服务，OpenAI的发展突飞猛进，自然语言模型GPT持续迭代。

2022年11月，OpenAI推出了人工智能对话聊天机器人ChatGPT。这是一款“人工智能历史上里程碑式的产品”，它凭借大算力、大规模数据训练、基于人类知识的强化学习等方式突破AI技术瓶颈，获得超预期的用户体验效果与市场反响。

上线仅两个月，ChatGPT月活用户破亿，是史上用户增长速度最快的消费级应用程序。

ChatGPT的爆火，给谷歌的搜索业务造成了致命威胁，谷歌股价大跌后，仓促推出“Bard”应战。与此同时，OpenAI在新一轮融资中，估值已经接近300亿美元。

但这一切，都与马斯克无关了。

三、竞争

持续批评与相互对抗

最近，马斯克多次公开批评OpenAI，火药味十足。有人说，这是马斯克看到ChatGPT爆红后心有不甘。也有人认为，马斯克只是恨铁不成钢。

马斯克都说了些什么？

“OpenAI最初是作为一个开源非盈利机构来抗衡谷歌，我才将其命名为OpenAI，但现在他们却变成了一家封闭的、追求最大利润的、被微软有效控制的企业。这完全和我的初衷相悖。”

“我还记得与盖茨早期会面时的情景。他对人工智能的理解是有限的。现在仍然如此。”

对于世界首富马斯克来说，追求金钱是次要，他更关注自我价值和权力。用他的话来说，就是希望自己成为“人工智能在现实世界应用的无可争议的领导者”。

事实上，马斯克很早就开始投资AI领域，包括个人投资DeepMind、联合创办OpenAI，创办脑机接口公司NeuraLink，特斯拉进军自动驾驶等。

由于看不惯OpenAI越来越“违背初心”，马斯克打算另起炉灶。最近他接触了人工智能研究人员，希望成立一个新研究实验室，开发ChatGPT的替代品。

在被马斯克接二连三地吐槽之后，一向温和的奥特曼终于忍不住出声回怼：“马斯克是我心目中的英雄，尽管他在推特上是个混蛋（jerk），但我还是很高兴世上有他这一号人物。”

与此同时，OpenAI宣布投资挪威人形机器人公司1X，引发了人们对于GPT模型和机器人结合的无限遐想。吃瓜网友更关注的是，OpenAI进军特斯拉的机器人领域，遭受挑战的马斯克会做出什么反应。

四、封杀

想把AI关进笼子里？

近期，OpenAI推出了支持图像的GPT-4。人们震惊于它的强大的同时，网上突然流传一封联名信，宣称要封杀更高级的ChatGPT。

在这封联名信上，超过1000位大佬呼吁，AI的发展应该“关进笼子里”，以风险可控为前提，由各种监管所规制。全球各大研究机构应立即停止训练比GPT-4更强大的AI系统，暂停期至少6个月，为监管的就位换取时间。

目前已签名的业界大佬包括，特斯拉CEO马斯克、图灵奖得主Yoshua Bengio、Stability AI首席执行官Emad Mostaque、苹果联合创始人Ste【【微信】】，以及《人类简史》作者Yu【【微信】】等。

有人对此提出质疑，是不是看OpenAI发展的太快了，竞争对手怕卷不过，就开始使绊子。

实际上，马斯克一直秉持AI威胁论。他认为，人工智能的安全问题应该受到监管，即便发展慢一点也无所谓。早在2017年，马斯克就指出了人工智能是人类文明的危险，其威胁程度要远高于车祸、飞机失事、毒品泛滥、核武器等。

马斯克的担心无不道理，最近各大实验室在AI竞赛上卷到红了眼，这种失控程度，连OpenAI的CEO奥特曼都感到害怕。他近日在接受采访时表示，强大的AI杀死人类有一定可能性。

AI需要政府和社会共同参与监管，用户反馈和规则制定对抑制AI的负面影响非常重要。

前几天，欧洲*组织发出警告：ChatGPT或被用于升级犯罪技术，包括网络钓鱼、散布虚假信息等。

不过，潘多拉之盒已经打开，科技巨头们甚至是国家层面，已经展开如火如荼的AI竞赛。在AI巨轮滚滚向前的趋势之下，不是想停就能停得下来的。

更加智能化的GPT4.5将在9月推出，届时或将引发更加激烈的讨论。

撰稿 | 柳歌

编辑 | 上

编审 | Leyla返回搜狐，查看更多

责任编辑：