淘宝搜：【天降红包222】领超级红包，京东搜：【天降红包222】
淘宝互助，淘宝双11微信互助群关注公众号 【淘姐妹】
3月10日消息，据报道，面对埃隆・马斯克对ChatGPT的抨击，美国人工智能研究公司OpenAI联合创始人兼总裁格雷格・布罗克曼（Greg Brockman）承认，这家初创公司“犯了一个错误”。
马斯克曾是OpenAI的联合创始人，但后来与该公司断绝了关系。他经常批评OpenAI实施保护措施以阻止聊天机器人回复一些可能被视为具有冒犯性的内容。
“我们犯了一个错误：我们实施的系统并没有反映出我们的价值观，”OpenAI总裁布罗克曼表示，“我认为我们解决这个问题的速度不够快。所以我觉得对我们是合理的。”
用户批评ChatGPT称，它生成的回复内容带有政治偏见。
上个月，Twitter上流传的一段ChatGPT聊天对话截图显示，该聊天机器人拒绝生成关于美国前总统唐纳德・特朗普的正面的诗歌，并表示它所设置的程序不是用来生成关于“党派、偏见或政治的”内容。但当同样的提示内容把乔・拜登换成特朗普时，这个聊天机器人却输出了一首热情洋溢的诗。对此，马斯克批评道，聊天机器人拒绝创作关于特朗普的诗是“一个严重的问题”。
马斯克此前曾批评过这项技术，称“训练人工智能醒来――换句话说，训练人工智能撒谎――的危险是致命的。”
现在，越来越多的用户涌向人工智能聊天机器人，包括ChatGPT和必应近期推出的由OpenAI提供技术支持聊天机器人，它们的局限性和缺陷逐渐暴露出来。为此，一些公司为这项技术增加了护栏防护。
在微软发布了基于人工智能技术的必应聊天机器人后的一个月时间里，微软对聊天机器人设置了对话限制，用户每天最多可以提出50个问题，每次最多可以问5个问题。此后，该公司放宽了这些限制。
ChatGPT也正在逐步改善中――从布罗克曼的评论来看，聊天机器人这个平台似乎还会继续发展。
“我们的目标是让人工智能不偏向任何特定的方向，”布罗克曼称，“我们希望OpenAI的默认特点是平等对待各方。这到底意味着什么很难具体操作，我认为我们还没有完全做到这一点。”
openai公司创始人是谁 openaiceo下一轮技术革命
open ai公司,open 公司,open ai lab 这家公司好不好,openjaw是一家什么公司
【新智元导读】写代码是我在这个世界上最喜欢的事。但即便如此，「人」仍然是我关注的焦点: 走到这一步的旅程是一个社会化的故事，而不是一个纯粹的技术故事。我对 Ilya，Sam，Elon 以及其他所有让 【【微信】】 成为可能的人都心怀无比的感激。
近日，【【微信】】总裁兼董事长Greg Brockman等人官方发文称，【【微信】】正式发布ChatGPT API，允许开发者将该技术集成到他们的应用程序中。Greg Brockman是【【微信】】团队的杰出代表。在成为【【微信】】的CTO之前，他原本对AI和机器学习知之甚少。学生时代，他曾先后就读于哈佛大学和麻省理工学院，毕业后加入【【微信】】担任创始工程师兼CTO，后经引荐结识了Sam Altman，由此一发不可收拾地开启了AI之旅。在【【微信】】成立初年的博文中，他用平静的语调讲述了【【微信】】创立之初，团队从相识到相知的一点一滴。本文素材综合自Greg Brockman从2015年至2019年写作的博文。- 在加入【【微信】】之前，Greg曾于2013年初正式担任 CTO，
- Greg与Sam Altman的相识源于前老板的介绍。一通电话，让Greg坚信Sam是共谋事业的人。于是才有了后来众星云集的晚宴
（Greg以及Elon Musk、Sam、IIya等人同时出席）。
- 从那以后，Greg和Sam开始着手招募团队。Greg意识到，当时团队缺少一个核心要素：一个在人工智能技术方面拥有远见卓识，可以让众人跟随取得非凡突破的人，后来证明IIya Sutskever正是最合适的人选。
- 企业文化（同时重视工程和研究），和日常小技巧（每日举办一个读书会）
- 早期人员招募方面，门外汉Greg吃了很多闭门羹。而改变的临界点是，后者十分认同【【微信】】将学术界的开放性和使命与私营企业资源相结合的做法。正是John的加入，才后续引起了Andrej Karpathy等人的注意。
- 创始团队的正式offer是在一次团建中发出的。接受offer截止到当年的12月1日，因为要在赶在12月初的NIPS顶会上启动。
- 技术攻坚阶段，技术负责人一边要做实际技术工作，一边还要管理比较困难于是他决心从IIya身上接管所有和研究无关的琐碎任务。而有趣的是，在后来的工程攻坚阶段，二人角色互换了，IIya反过来接管了行政管理任务。
软件系统搭建阶段，Greg排除干扰，从早到晚工作，但他强调，工作要以输出质量，而不是小时来衡量。
如果上午或下午有大块的会议，晚上高效代码将会筋疲力尽。
因此Greg把会议只安排在清晨或午饭后，每天不超过三次，长会议不超过两天一次
。
- 2018年，经过九个月的不懈努力以及利用假期时间疯狂“补课”，他终于成为了一名机器学习的实践者。他认为，最大障碍其实是从头学起。大多数优秀的程序员和懂数学知识的人也可以做到。
- Greg组织带领团队完成了包括Gym工具包在内的【【微信】】早期项目，以及现如今的Foundry开发者平台和ChatGPT API项目等等。
- 过程中需要维护基础设施和大型代码库，来快速行动、创新并不断抵达新的高度。
成功背后，感情生活也是重要支撑，和妻子（当时的女友）在一起的第一个假期，他一头扎进机器学习当中，废寝忘食，女友毫无怨言地陪伴着他。
Gap year开始认真学习编程，灵感源自图灵《计算机器与智能》
在高中时，我积极参加化学奥林匹克竞赛，还在国际化学奥林匹克竞赛中获得银牌。在上大学之前，我休假一年，并花了相当多的时间，试图写一本高中化学教科书，并将它亲切地称为「化学进展」（A Chemical Progressionhttps://gregbrockman.com/pdfs/a-chemical-progression.pdf）。后来我被计算机分散了注意力，忘记了这本书，但我希望有一天能完成它。但与此同时，我在高中时所做的一些化学研究也已经发表了（https://pubs.rsc.org/en/Content/ArticleLanding/2013/NR/C3NR01287E）。我是在高中毕业后的gap year开始认真学习编程的。我读了图灵的《计算机器与智能》一文（Computing Machinery and Intelligence，是艾伦・图灵（Alan Turing）所写的AI开创性论文。该论文发表于1950年的《 Mind》，是第一个向公众介绍图灵测试概念的论文，并提出了「机器会思考吗？」的问题。），并受到书中一个观点的启发，写代码可以帮助写代码的人去理解他原本都不理解的事物。那时候我已经在编写一个聊天机器人了，这能有多难呢？我设法建造了一个可以令人信服地谈论天气的东西，但是没怎么真正发挥作用。我很快就搁置了我对聊天机器人的追求，决定专注于创造能产生真正影响力的系统，这种理想延续至今。在大学期间，我发现了一个吸引我进入AI领域的切入点：编程语言。编译器或静态分析器能够以一种我不太能理解的方式「理解」程序，然后将这种理解应用于非常有用的事情（比如迅速生成代码或验证正确性），这让我非常激动。 我一直想花时间认真研究编程语言。但是我也总是被新的创业点子(通常是相当糟糕的)和新的合作伙伴(通常是相当不错的)分散注意力。我从哈佛大学开始，后来又到了麻省理工学院，试图不断地去接触一些能从他们身上学习并一起打造一些有用的东西的人。博士三年级那年，我发现在学校里面尝试创业是没有意义的。于是我打算多会见一些创业公司的人，逐渐摸索出什么可行，什么不可行。与此同时，我终于开始了我的编程语言研究，从一位教授那里获得了研究资金，并招募了一些朋友参与一个静态缓冲区溢出检测项目。几周后，Palo Alto一家尚未成立的初创公司联系了我。通常情况下，这封电子邮件会躺在垃圾箱里，但这次却是例外。我和这个团队的人一拍即合，我知道这些人正是我一直在寻找的人。所以就这样我离开了学校，并没有来得及让当时研发的缓冲区溢出检测器正式工作。那家创业公司现在叫做 【【微信】】。我帮助它从4人扩大到250人的规模，公司的业务遍布四大洲；在我离开后的一年里，它继续扩张，一度超过450人。当我要离开【【微信】】的时候，我感觉公司所处的状态很好，不管有没有我，公司都会继续做很好的事情。我最关心的是和优秀的人一起工作，创造奇迹``但开发者基础设施并不是我想在余生中致力于解决的问题。而有一个问题我愿意奉献余生，那就是让人类社会进阶至安全的能达到人类水平的AI。很难想象还有什么比成功打造AI更令人惊奇和有正向的影响力了，只要通过正道的方式实现。在我最终决定离开【【微信】】之前，【【微信】】的CEO Patrick Collison让我去找 Sam Altman 谈谈。他说Sam有一个很好的局外人的视角，他可能会对我下一步该怎么做有很好的建议。和Sam谈了不到五分钟，我就告诉他，我已经准备好离开了。他问我下一步什么打算，他能帮我做什么。我回答，人工智能是我的首要目标(而且绝对是我的毕生追求)。然而，我还不确定现在是否是合适的时机，或者对我来说最好的贡献方式是什么。他说：「我们一直在考虑通过 YC 建立一个人工智能实验室。我们应该保持联系。」在这次谈话大约一两周后，我就离开了 【【微信】】，开始深入研究人工智能，试图更好地理解这个领域正在发生的事情。甚至包括不时查看一下Hacker News上相关的帖子，围绕人工智能和深度学习的兴奋讨论和活动越来越多。在接触这个领域的过程中，我怀着一种健康的怀疑态度，我想在彻底投身之前，确定事情是否真的work。我的第一个目标是弄清楚深度学习到底是什么。事实证明，这件事出人意料地困难。例如， deeplearning.net 网站上说「深度学习是机器学习研究的一个新领域，它的引入是为了使机器学习更接近其最初的目标之一：人工智能」``这种说法听起来很令人兴奋，但并不是很具体。幸运的是，我有一些在 AI 专家的朋友，包括Dario Amodei 和 Chris Olah。我问他们一些建议，他们给了我一些很好的初学者资源。其中最有用的是Michael Nielsen的书《神经网络与深度学习》（http://neuralnetworksanddeeplearning.com/），读完之后，我在 Kaggle 上实践了自己的新技能。在参加的第一场比赛中，我甚至一度是第一名！Neural Networks and Deep Learning by Michael Nielsen
一路走来，我不断遇到AI领域顶级聪明的人，并与我大学里最聪明的一些朋友重新取得联系，比如Paul Christiano和Jacob Steinhardt，他们现在都在这一领域工作。这是一个强烈的信号。我挖得越深，就越相信AI的影响力早已蓄势待发。组队
那年的6月，Sam问我是否已经想好下一步该怎么办了。我告诉他，我目前的计划是在明年内成立一家人工智能公司。我们在电话中聊到，他提及他们正在推进 YC 人工智能项目；我问Sam实验室的目的是什么，他说: 「建造安全的人类级别的人工智能。」在那一刻，我知道他是合适的合作伙伴，共谋下一个公司。直到今天，都很少有人敢明确尝试构建人类水平的人工智能。我意识到有时候，只需要一个足够大胆的人来宣布一个目标，然后合适的人就会加入他们。具体缘分的促成来源于一次晚宴。2015年8月，【【微信】】还只是一个想法，当时在一次晚宴上，有Elon Musk、Sam Altman、IIya Sutskever，我还有其他几个人一起。我们每个人参加晚宴的时候都带着自己的想法，但是当时Elon和Sam已经有了一个颇为清晰的愿景，即打造安全的人工智能，并致力于造福人类。我也想尽我所能为这个想法做出贡献，于是Sam和我开始召集一个团队将这个想法变成现实。但当时我们缺少一个核心要素：一个在人工智能技术方面拥有远见卓识的人，一个我们可以跟随他的直觉和想法去取得非凡突破的人。IIya Sutskever显然是世界上最合适的人选。IIya一度被描述为用机器学习（有时也通过绘画）来表达自己的艺术家。Geoff Hinton曾经告诉我，触发计算机视觉深度学习革命的 AlexNet，要归功于Alex Krizhevsky 的 GPU 编码技术和 Ilya 的信念，后者认为，深度神经网络必将在 ImageNet 上获胜。我一直觉得，和熟识多年的合伙人共同创办一家公司才算靠谱。但神奇的是，我和IIya 8月下旬在山景城一起吃了顿饭，我当时就觉得这事儿成了，虽说我们7月份才刚认识。IIya和我进行了一次极其深度的交流。我不太了解机器学习研究，他也不太了解工程学和团队建设，但我们都仰慕彼此的成就，希望互相学习。我们的想法相辅相成。IIya认为，顶尖的研究人员会愿意在一个致力于为世界创造最佳研究结果的 AI 组织工作，而我长期以来一直认为，将私营企业的资源与学术界的使命相结合，是解决棘手问题的方法。如果不加干预，人工智能就会像自动驾驶一样，一旦潜力得到证明，就会开始技术竞赛。我和IIya一起工作期间，我们一起讨论工作规划和战略，工作文化（我们想雇佣的人，同时重视工程和研究），和日常小技巧（每日举办一个读书会）。我们和 Alan Kay 共进晚餐，他给我们讲了Palo Alto研究中心的建造过程和「生活在未来」的故事，使用的硬件在十年内只需花费1000美元。饭后，IIya恰如其分地总结了这顿饭: 「我只听懂了他说的50% ，但这一切都太鼓舞人心了。」但是那顿饭确实帮助我们验证了许多假说，是什么造就了一个结合了工程和研究的有影响力的组织。因为当时IIya还在谷歌，还不能帮【【微信】】招人。于是从8月到11月，创建团队的工作落到了我肩上。我对于AI完全是个新手，也不知道应该怎样去找到以及招募优秀的研究人员。我开始把注意力集中到参加那次7月份晚宴上的人，却没有办法拉到任何人加入【【微信】】。我的下一步是通过我的人脉关系网，挨个从认识的人那里寻求推荐。这和我以前做的招聘工作截然不同。在以往的创业公司，最大的挑战是向候选人推销公司的使命，但是对于【【微信】】来讲，这个使命很容易引起共鸣，挑战在于如何说服候选人相信这个未成形的组织。在该领域，密集的人脉关系网帮了我很大忙。一个朋友给我介绍了Andrej Karpathy和【【微信】】 Zaremba，他们都对我持怀疑态度，因为我是个门外汉。Yoshua Bengio把Durk Kingma介绍了给我，后者倒是很有兴趣。改变的临界点是，一个朋友的朋友把我介绍给了John Schulman，他立即意识到，这个将学术界的开放性和使命与私营企业资源结合在一起的组织，正是他想要的，于是选择了加入。正是他的支持引起了Andrej和【【微信】】的注意。招聘工程师倒是容易些。Tre【【微信】】是一位机器人专家，也是 YC 的合伙人，他一直在和Sam讨论我们正在计划的疯狂想法。【【微信】】 在我们成立赞助机构 YC Research 之后提出了申请：我们甚至都还没有宣布我们正在研究AI，但是她光是看到YC Research的架构就表示深受启发，并很兴奋能够在任何需要的地方贡献一份力。到当年11月初的时候，创始团队已经初具规模，但是仍然需要让大家走一个正式加入的流程。于是在Sam的建议下，我们把所有的候选人都叫到了一起外出团建。大家都发自肺腑地一见如故，空气里都弥漫着想法和愿景。正是在这次团建过程中，Andrej提出了「宇宙」平台的雏形――Universe：一个用于训练解决通用问题AI 的基础架构。我们的小货车堵在了回去的路上，但是因为大家相谈甚欢，几乎都没注意。我们向每位团建参与者都发了offer，接受offer的截止日期设在了当年的12月1日，这样我们就能够在12月初的 NIPS 机器学习顶会上正式启动。于是逐渐到了「决策月」（closing month）。Sam、Elon还有我，与每一位潜在的员工都深入聊了聊。我们的首要任务是要告诉人们，公司真的要正式启动了。每个候选人都接受了，除了一个工程师，他决定彻底放弃人工智能。【【微信】】正式启动
在《人月神话》（Mythical Man Month）这本书中，Fred Brooks引用了美国科幻作家Robert Heinlein写作的关于殖民月球的故事。故事讲到，该项目的总工程师经常被繁琐的操作类任务分散注意力，比如搞定卡车或者电话等等，直到他接手一份报告，该报告的工作就是把所有非技术性的任务从他的工作范围内移除。《人月神话》，作者：计算机科学家Fred Brooks这个故事另我印象深刻，因为这正是运营AI项目需要注意的。技术负责人一边要做实际的技术工作，一边还要发号施令。我不知道何时组织会需要我的工程技能，但是与此同时，我下定决心，要帮助IIya接管所有和研究本身无关的琐碎任务。1月4日，团队开始在我们公司的第一间办公室开始工作，也就是我自己的公寓里。在一次讨论中，John和IIya想转过身在白板上写点什么，却发现我的公寓里没有白板。我马上给他们买了一块白板和其他所需的办公用品。在一月剩下的时间里，我的主要任务
版权声明：除非特别标注原创，其它均来自互联网，转载时请以链接形式注明文章出处。
