信息量很大!“ChatGPT之父”国会首秀:可让开发AI模型公司持牌、可建国际监管机构
淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
每经编辑 毕陆名
当地时间周二(5月16日),“ChatGPT之父”山姆・阿尔特曼(Sam Altman)首次在美国国会作证,他呼吁美政府对人工智能(AI)技术进行更严厉的监管,并表示他掌管的OpenAI以及谷歌等同行都应当承受压力。Altman呼吁国会对AI系统采取安全标准。
据澎湃新闻5月15日报道,阿尔特曼在最新的访谈中表示,可以建立一个类似于国际原子能机构的AI机构,让每个人都参与到对极其强大的AI训练系统的全球监管机构中来。在访谈中,奥特曼还谈到了自己如何使用ChatGPT,开源AI与闭源AI各自的特点与发展路径。他认为,带有人类反馈的强化学习(RLHF)不是正确的长期解决方案。
提议颁发AI开发许可
在这场美国参议院司法委员会举行的听证会上,Altman做开场白时就指出:“我们认为,对于减少日益强大的模型的风险而言,政府的监管干预至关重要。”
他认为,美国政府可以监管AI行业的一种方式是,为开发功能最强大的AI系统的公司,实行持牌制度。如果有公司要开发和发布超出能力阀值的AI模型,政府可以将发放牌照和测试的要求结合起来,对他们予以监管。
他还提到一种可能采取的解决方案,建立一个国际性的监管方委员会,由美国领导。
Altman称:“我最担心的是(AI行业)会对世界造成重大伤害”。他说,AI可能被用于操纵选民以及有针对性的假消息是他“最关心的一些领域”,尤其是因为美国“明年将面临选举,而这些(AI)模型正在变得更好。”
同时,阿尔特曼还说道,ChatGPT-4将使一些工作实现自动化,同时将带来新的工作机会。他还透露,目前公司并没有训练GPT-5,未来六个月也没有这方面的计划。
据财联社5月17日报道,与之前准备好的证词一致,阿尔特曼对监管政策的初步建议主要集中在“AI开发许可”上。如此一来,只有获得过许可的企业,才能发布新的人工智能模型并进行一系列测试。
一同出席听证会的IBM首席隐私和信任官克里斯蒂娜.蒙哥马利认为,应该要求人工智能产品在与用户互动时保持透明可信。
她还告诉议员,虽然国会尚未设定相关要求,但IBM内部已经组建了AI道德委员会。
欧盟欲出台全球首个AI法案
据第一财经5月13日消息,欧洲议会正就全球首部人工智能(AI)法案展开大规模协商,光修正案就有一千多项,创下了欧洲议会史上之最。当地时间11日,欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过关于《AI法案》的谈判授权草案,其中包含了有关面部识别、生物识别监控和其他AI应用使用的新规则,并提出了严格监管ChatGPT等AI工具的新思路。
领导上述法案制定的欧洲议会议员土多拉舍(Drago?Tudorache)表示,欧盟的《AI法案》是全球首个此类立法,“欧盟可以在全球范围内带头使AI以人为本,(变得)值得信赖和安全”。
目前的提案采取了分级管理的思路,即基于AI的四个等级(从风险最小到不可接受),进行区别管理,风险较高的应用程序将面临更严格的规则,需要更高的透明度和准确性。
欧洲议会认为,对人类安全造成不可接受风险的AI系统将被严格禁止,包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统。
根据目前的时间表,该法案将于6月提交欧洲议会全体表决,之后欧洲议会、欧盟理事会和欧盟委员会的代表将在“三方”会谈中商定最终条款。在条款最终确定且该法案成为法律后,将有大约两年的宽限期。
除了欧洲,全球各地越来越担心快速发展的AI技术可能被滥用。美国联邦贸易委员会此前发出警告,称“正在密切关注公司如何选择使用AI技术,包括新的生成人工智能工具,以及对消费者产生实际和实质性影响的方式”。
据环球网报道,5月4日,拜登政府则宣布对“值得信赖的”人工智能增加新投资。同日,美国副总统哈里斯以及多位白宫高级官员与谷歌、微软、OpenAI和AI初创公司Anthropic的首席执行官会面,集中讨论当前和近期的技术发展所带来的风险。
每日经济新闻综合第一财经、环球网、澎湃新闻、财联社
封面图片来源:视觉中国
chatgpt现在发展到什么程度了 知名媒体人对于chatgpt的看法
chatgpt官网,chatgpt下载,chatgpt怎么用,chatgpt怎么读转自:财联社
当地时间周二(5月16日),“ChatGPT之父”山姆・阿尔特曼首次在美国国会作证,他呼吁美政府对人工智能(AI)技术进行更严厉的监管,并表示他掌管的OpenAI以及谷歌等同行都应当承受压力。
在参议院下属的隐私、技术和法律小组委员会发言时,阿尔特曼赞扬了人工智能的潜力,称这项新技术可以解决人类最大的问题。但他也警告称,人工智能可以强大到以不可预测的方式改变社会,“政府的监管干预是减轻风险的关键。”
阿尔特曼说道,ChatGPT-4将使一些工作实现自动化,同时将带来新的工作机会。他还透露,目前公司并没有训练GPT-5,未来六个月也没有这方面的计划。
比起这些,“我最担心的是,我们这个技术行业可能会对世界造成重大的伤害。如果这项技术出了问题,它可能会变得非常糟糕。”阿尔特曼特别指出,他非常担心AI对选举产生的影响。
与会的国会议员也知道,由于审议过程需要面临冗长的辩论机制,往往会让法案出台远远落后于技术进步的步伐。
在听证会开始时,民主党参议员理查德・布鲁门撒尔播放了一段又AI编写和制作的录音,与其本人的声音一模一样,凸显了AI在欺骗方面具有的能力。
布鲁门撒尔称,“与面对社交媒体风险时一样,国会现在也有一个选择机会,我们有义务在威胁和风险成为事实之前做到监管服务到位,避免重蹈先前错失监管社交媒体的覆辙。”
一些参议员主张设立一个新的监管机构,将人工智能在内的一众新兴技术纳入管辖。阿尔特曼对这一建议表达了欢迎,认为这种方式有望让美国本土的技术继续领跑。
但现场也有一些声音认为,新机构可能会被监管的这个行业“俘获”。
与之前准备好的证词一致,阿尔特曼对监管政策的初步建议主要集中在“AI开发许可”上。如此一来,只有获得过许可的企业,才能发布新的人工智能模型并进行一系列测试。
一同出席听证会的IBM首席隐私和信任官克里斯蒂娜.蒙哥马利认为,应该要求人工智能产品在与用户互动时保持透明可信。
她还告诉议员,虽然国会尚未设定相关要求,但IBM内部已经组建了AI道德委员会。
美国音乐之都田纳西州的参议员询问了有关歌手和词曲作者保护情况,阿尔特曼承诺会在版权和赔偿方面与艺术家们展开合作。
(原标题:信息量很大!“ChatGPT之父”国会首秀讲了这些……)
来源:财联社
流程编辑:TF063