最高2万美元!OpenAI全球悬赏找漏洞
淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
澎湃新闻记者 杨阳
OpenAI开始“悬赏”找漏洞,最多奖励2万元。
当地时间4月11日,OpenAI发布了一项“漏洞悬赏计划(Bug Bounty Program )”,以鼓励外界帮其寻找人工智能系统中的漏洞和错误,奖金最高为2万美元。
OpenAI称,其使命是创建造福所有人类的AI(人工智能)系统,该公司已经大力投资研发,以确保AI系统安全可靠,“然而,与其他复杂技术一样,漏洞和缺陷可能会出现。”
“透明度和协作(transparency and collaboration)对解决这一问题至关重要。”OpenAI写道,“这也是为什么我们想要邀请全球的安全研究人员、道德黑客和技术爱好者帮助我们识别和解决系统中的漏洞。我们很乐意为报告符合条件的漏洞的人提供奖励。”
OpenAI称已经与漏洞赏金平台Bugcrowd进行了合作,让其帮忙管理提交和奖励流程。该公司表示,将根据对方报告问题的严重性提供现金奖励,金额为200美元到2万美元不等。
这不是OpenAI首次公开提出解决方案。就在上周,该公司发布题为《我们对于人工智能安全的方法》的文章,表示该公司正致力于“制定针对会威胁人类行为的细致政策”。
OpenAI介绍了六个方面的策略,包括构建更加安全的系统、从实际使用中积累经验以改进安全措施、保护儿童、尊重隐私、提高事实准确性以及持续研究并参与。
新技术的安全问题不断引发外界的担忧。就在上个月,OpenAI的聊天机器人ChatGPT出现了用户对话数据和付款服务支付信息丢失的情况。该公司最终发布报告称,发生这一意外事件的原因是Redis客户端开源库redis-py中存在漏洞。
OpenAI的首席执行官Sam Altman随后也对在推特上道歉,公开承认开源库中出现错误,并表示已经修复了错误并完成验证。
但这仍然引起了部分国家监管机构的注意。ChatGPT在欧洲地区遭受“冷遇”。此前3月31日,意大利宣布禁止使用ChatGPT,并限制其开发公司OpenAI处理意大利用户信息。随后,德国、法国和爱尔兰在内的多个国家也纷纷表示考虑“封禁”该技术。
对于意大利的禁令,当地时间4月5日,OpenAI与意大利个人数据保护局举行会议,OpenAI表示愿意与该机构进行合作,以解决其对数据安全的担忧。
本期编辑?邢潭
马斯克科技到底用在哪 马斯克黑科技真的假的
马斯克科技到底有多强,马斯克高科技,马斯克的科技实力,马斯克的最新技术本文首发微信公众号:飞总聊IT
这世界上无耻的人很多,但是像马斯克一样无耻的首富,还是很少见的。
前段时间,包括马斯克在内的一众大佬,联名写信,呼吁OpenAI停止研发GPT-5至少6个月。因为大佬们觉得现在研发先进的AI,对人类太危险了。
这话听着好像很有道理,但是一开始就有人指出来,马斯克的呼吁不正常。他不是想停止研发先进的AI,他只是不希望OpenAI继续研发GPT-5。
让别人停下来,自己家的AI研发才能追赶上去,从而把最先进的AI掌握在自己的手里,这才是马斯克的打算。
当然网上也有人觉得这种说法是以小人之心度君子之腹了。结果,发现马斯克果然是个小人。
最近Business Insider爆料说,马斯克的Twitter公司已经采购了大约一万块GPU。同时马斯克还从谷歌的DeepMind挖了几位重量级的AI人才。
招兵买马的原因是,马斯克打算自己研发自己的大模型。至于做大模型到底是做什么,目前还没有进一步的消息。
据说从今年2月份开始,马斯克就开始一路撒网邀请出色的AI领域人才加盟Twitter。Twitter成功挖到了DeepMind的Igor Babuschkin 和 Manuel Kroiss。
虽然我们不知道,马斯克具体会用这一万块显卡和这些顶尖AI人才去搞点什么事情,最起码我们知道马斯克是要做自己的大模型的。
马斯克显然看到了大模型是一场技术革命,缺席这场技术革命是不行的,是非常危险的。
所以即使是马斯克这种在Twitter的厕所里连卫生纸都可以省的人,也居然愿意砸钱买硬件,招募人才。可见,LLM对于马斯克来说多重要了。
但是马斯克的狡猾之处在于,一边自己偷偷摸摸的招兵买马,还买硬件,一边呼吁大家一起让ChatGPT和OpenAI停止研发大模型至少6个月。
这事情做的吧,就不像是一个人应该做的。更不用说马斯克是一个首富了。他既不缺钱也不缺想法,他对人类的发展贡献巨大。只不过不知道为什么,为了自己的大模型可以偷偷摸摸的赶上别人的大模型的时候,他做事说话,就开始有那种无耻的味道了呢?
这真的是让我非常大跌眼镜,伤心的。之前网上有人说他呼吁停止研究先进AI半年,不是因为他觉得这个事情重要,而是因为自己家的没准备好,OpenAI的就应该停止研发。我本人是特别不愿意相信这样空穴来风的猜测的。
结果呢?我被打脸了。是我幼稚了。首富,也可以是无耻的代名词。
说起无耻,还可以说另外一个人是比尔盖茨。据马斯克披露,盖茨一边做空特斯拉的股票,一边找马斯克合作慈善事业。马斯克就把这个事情捅出来,表示,做人不能一边找我合作一边做空我的公司,这很无耻。
但是现在看起来,马斯克也没高尚到哪里去。还有一点很重要,无论是比尔盖茨,还是马斯克,显然都对这一波AI浪潮非常重视。
比尔盖茨说,这是他人生里面第二次见到如此牛逼的技术革命,第一次是图形界面。据说比尔盖茨之前很少关注微软的技术发展,最近却频频出现在AI相关的高层讨论会里。
而马斯克也一样,一边让别人停下来等他,一边自己买一万多块显卡,招AI人才,准备做马斯克自己的大模型。
所以,大模型显然是一次技术革命。最后当然还是免不了要介绍一下我的知识星球:飞总的ChatGPT朋友圈。这是我建设的社群,用于讨论大模型,GPT相关的技术,商业发展和应用。比尔盖茨和马斯克都看好未来的领域,你也不应该错过。欢迎有兴趣的朋友扫描二维码加入: