ChatGPTPlus停售,留出防治AI风险空窗期
淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
文章转载来源:元宇宙日爆
能体验GPT-4模型的ChatGPT,因需求量太大而暂停了升级为Plus的功能,算力似乎爆表了。
这下,有钱都没地儿充会员了,用户们暂时需要回到“GPT-3.5时代”。这或许留给人类一个空窗期,可以好好思考一下前段时间上千名科技精英签名呼吁暂停“比GPT-4更强的大模型实验”的事儿,他们希望能提前应对AI的风险问题。
当前,人们肉眼可见的AI风险是造假,生成式AI大模型在人类的脑洞下,给教皇“穿上了巴黎世家的羽绒服”,让马斯克陷入了“和通用汽车女CEO约会”的绯闻中,还凭空捏造了“2001年俄勒冈州9.1级大地震”……
随着AI生图的效果越来越优秀,真实与虚假的界限正在模糊,无论光影、人物神态、年代质感,AI生成的图几乎能达到以假乱真的程度。当有人用AI 制造假新闻、假历史时,我们该如何区分真伪,应对虚假造成的影响?
当GPT-4因算力爆表有限地向人类开放时,我们或许该冷静的看看,当前的AI风险线构建到了哪种程度。
造假潮
86岁的罗马教皇方济各“身着束腰白色羽绒服”的图片,在引发几千万次浏览后被AI生图应用Midjourney澄清,这是利用该应用创建并发布在Reddit上的假照片。
特斯拉CEO 埃隆・马斯克也亲自下场辟谣自己的绯闻照,“我永远都不会穿(图片中)那件外套”。那张图片里,他和通用汽车的CEO玛丽・芭拉“被十指紧扣,街头约会”。这张图在几小时内传播了超过700万次。
知名模特 Chrissy Teigen 都被“时尚教皇”的图片骗到了,“我以为教皇的羽绒服照片是真的,完全没有多想,”她不禁感慨,“在高科技的未来我简直活不下去。”
如果这两张图片尚处于名人“花边”的范畴里,那么接下来的AI造假图带来的影响就大得多了。
在Reddit论坛上,有网友分享了一组画面和质感偏向20年前的“新闻图片”。
图片里,人们在机场里露出惊恐的表情;
街道上空的大桥坍塌,有车辆被压在了桥下;
城市的废墟里,救灾人员忧虑地面对着镜头;
这组照片被描述为“2001年卡斯卡迪亚9.1级大地震,引发的海啸摧毁了俄勒冈州”。但事实上,这场灾难并不存在,图片是网友用Midjourney生成的。
而这种“生造历史”的图片在Reddit论坛的Midjourney板块中正在成为潮流。
网友Arctic_Chilean就伪造了“2012年7月超级太阳风暴造成大规模停电”的场景。真实历史是,太阳在2012年7月23日确实产生过强烈的日冕物质抛射,但这次抛射与地球擦肩而过。造图的网友假设“如果地球没有这么幸运”,那么“全球电网和卫星等设施将遭受严重破坏”,“长达数月的大规模停电”就会发生,“北半球还会出现美丽的极光”。
Arctic_Chilean试图将这些假设利用AI生图应用变成可视化的场景,搞了20多张虚构的图片。太阳风暴的图片有明显的渲染痕迹,工作人员监控城市电网的图片很像电影场景,但NASA的发布会和机场的人群照,一般人看上去很难辨别真伪。
另一位Reddit网友kawaiilo【【微信】】选择了更遥远的年代,生造了“1977年苏联蓝色瘟疫事件”的组图。照片中,田野和树木呈现蓝色,人类穿着白色防护服行动,俄罗斯风格的城市里浓烟四起。
或许是因为70年代苏联的照片库存较少、无法为Midjourney提供足够的训练,这组“历史照片”虽然做旧了,但在画面上反倒呈现出一种诡异的不真实感。
制作“太阳风暴致停电”组图的在Arctic_Chilean事后总结,Midjourney善于捕捉2012年的新闻画面的风格,在生成天际线和地标上的极光照片方面也能达到逼真效果,但无法生成城市断电的场景;而“苏联蓝色瘟疫”图组的评论里出现了为图片效果“找补”的评论, “冷战时期铁幕的另一边发生过很多不为人知的事,到现在也没有解密。你的图片提供了一个不错的脑洞”。
我们不排除网友的动机是试验Midjourney生图到底有多逼真,如果这些图片用于虚构的文学、影视等创作,至少观众还能在“知假”的底线上品评创作意义;但我们也不能排除这些假图在不断传播的过程中“失假”,被当成真事儿贴进维基百科。
假信息恐慌
假图文进入维基百科被当成真事儿,这可不是危言耸听。
去年6月,一起发生在中文维基百科上的造价事件被揭露后,网友直呼“大无语”。
用户 “折毛”编造了100多万字图文并茂的“古罗斯史”,3年都没人发现。直到一位爱好俄罗斯历史的网文作者“伊万”查找背景资料时,对词条“卡申银矿”存疑,多方查证后发现“拥有300多年历史的银矿资源”根本不存在,顺腾摸瓜,“伊万”揭露了这个存在严重造假的“古罗斯史”。而这3年里,“折毛”被不少用户视为领域权威,胡编的历史词条甚至被评为“典范条目”或“优良条目”,还获得了网站审查的“巡查豁免”。
“折毛”被封号,他也在网上为造假道了歉。
想象一下,假如这里面还有生成类AI参与,把文本和图片大数据真真假假地混杂一下,没个专业的人士,假历史可能更难被发现。如果无人矫正,一直这么流传下去,假的也没准变成真的,作假者甚至会伪装成权威。
人们常说“有图有真相”,而AI终于让“有图也不见得是真相”成了现实,一些人也开始积累辨别AI图片的技巧,比如看手指、看光影细节等。
但是,上个月发布的Midjourney V5 版本已经基本解决了画不好手指的问题。一位正在使用该应用的画师表示,新版本生成的图片中仍有手部不自然的情况,但此前版本中的手指数量错误和形态扭曲等问题已经消失。
如果再不树立“标注规则”,分辨真实与伪造或许会越来越难。而AI制图的另一个问题是,制作图片的门槛低到约等于没有。
用户只需要发出指令,各种 AI 生图工具就可以迅速生成海量的逼真图片。在全网各个AI图片社区,人们讨论最多的是,如何写指令才能得到预期效果。当然,人们想得到理想的图片还需要较为复杂的指令,但即便如此,AI制图的门槛仍然比绘画和PS小得多。
比如,火爆全网的“时装教皇”就是一个普通人的娱乐之作。创作者巴勃罗・泽维尔(Pablo Xavier)是一名31岁的建筑工人,在采访中,他称完全没料这张图会走红。谈到创作历程,泽维尔说,灵感来自于“嗑药时产生的幻觉”,“我忽然想生成一张教皇的图,接着各种想法像潮水一样涌来,巴黎世家的羽绒服、巴黎或罗马的街道等等”。
生成虚假图片的技术在互联网上存在了很久,但一直都只在小范围内引起讨论。在知乎上就有这样一个问题――有哪些匪夷所思的合影?网友纷纷贴出不为人知的名人合影,如特朗普和迈克尔・杰克逊,普京和里根,卓别林和梅兰芳等等。
知乎上“匪夷所思的合影”最近出现AI质疑
过去几年里,评论区都在讨论合影背后的故事,但最新的评论终于开始质疑照片的真假:“这是AI合成的不”。随着AI能产出“量大管饱”的高质量假信息,这个问题终于被怼到所有人眼前,担忧与恐惧已经出现:
“这很可怕,对吧。以后要怎么判断一张照片是真是假呢?”
“太可怕了,因为你发布的所有照片看上去都是可信的。如果没人告诉我是假的,我会一直被愚弄。”
“真的难以相信这些图像不是真的而是由midjourneyV5生成的……这让我们困惑于一个充满虚假信息的未来,我们应该问问自己是否真的想要这项技术。”
AI生成的信息大有泛滥之势,人类世界做好分清真假的准备了吗?
规则缺位
面对生成式大模型的“日更”进化速度,一些规则现在社交平台上出现了,但出台规则的主体显然还远远不够丰富。
今年2月,推特推出了在推文下方添加注释的“社区笔记(CommunityNotes)”功能。有人认为,社区笔记或将能够帮助推特打击谣言,减少假消息传播,其中就包括AI生成的图片。此前广为流传的“特朗普被捕”、“教皇穿时装”等AI假图已被添加了说明。
不过,也有人觉得社区笔记功能虽然有机器算法加持,但仍需要由后台人工审核,标记效率远远比不上假图生成的速度。一个例证是,最近的假图都是在广为流传后才被标注。
还有网友指出,教皇、马斯克、特朗普都是名人,他们的人气决定了事关他们的虚假图片更易被推特注意到,“如果普通人被假图了,传播范围又不那么广,推特似乎做不了什么。”毕竟,连中国网红罗玉凤多次辟谣没有推特账号后,以“凤姐”为名的假账号仍然存在且仍在吸粉。
除了推特,今年3月,TikTok也宣布所有显示真实场景的deepfakes(深度伪造)都必须贴上“伪造”或“篡改”的标签,还要求公众人物的deepfakes不得用于政治或商业代言。不过,这条规则还没有明确针对AI生成的图片。
调查机构Bellingcat的创始人艾略特・希金斯(Eliot Higgins)认为,社交媒体平台应该开发能够辨别 AI 生成图像的新技术,并将这种技术融入自己的平台。不过考虑到“术业有专攻”,Midjourney等AI制图软件和社媒平台合作开发识别技术,或许是一种更可行的思路。
希金斯的建议正是一些AI专家们强调过的,各种AI大模型的开发公司应该进入到规则的建设队伍中,光有传播渠道的“限制”是不够的,从源头上就应该为假文、假图打标签。
此前,已经有AI公司在做相关开发,由于有太多人用AI 语音工具 Ele【【微信】】从事违法活动,比如伪造儿子的声音向父母要钱这种,Ele【【微信】】引入了一系列技术层面的遏制措施,包括推出AI 检测工具,用于验证某个音频剪辑是否用他们的技术生成。
可见,目前针对AI生成内容的识别或标记开发,仍处于应用开发方各自为阵的状态,尚未形成达成共识的统一行规,也还没有具有针对性的监管规则,显然这是一个系统工程。
正如3月29日非营利组织未来生命研究所(Future of Life Institute)那封《暂停巨型AI实验》的公开中所述,AI开发人员必须与政策制定者合作,大幅加快强大的AI管理制度的开发,其中的制度内容就包括了“帮助区分真实和合成数据的溯源、水印系统”的研发。
如今,生成式大模型的代表应用ChatGPT关闭了Plus付费功能,某种程度上也意味着GPT-4的使用受到了限制;而Midjourney也因计算资源有限而限制着免费用户的使用量。这客观上给建立AI规则留下了一个空窗期。
面对新技术的一体两面,开发者、第三方组织、监管部门是时候共同面对挑战了。
chatgpt 技术开源 chatgpt人工智能时代努力的方向
chatgpt,chatgpt国内能用吗,chatgpt是什么意思,chatgpt怎么注册文章转载来源:AI之势
原创 Shirley
来源: 零识区块链
在过去几个月,ChatGPT 风靡全球,无论是硅谷科技巨头,还是一二级资本市场,都在持续关注和讨论 ChatGPT 以及 AI 技术带来的影响与未来的发展。而在 ChatGPT 爆火之后,ChatGPT 相关概念公司开始初露头角。据统计,ChatGPT 概念领域目前约有 250 家初创公司,其中 51% 融资进度在 A 轮或天使轮。
新东方创始人俞敏洪更是在中国企业家论坛年会上表示,“作为企业家,没玩过 ChatGPT,没有资格谈高科技发展。”诚然,俞老师也在给我们普通人敲响警钟。身为普通人的我们,更有必要去了解一切处于时代前沿上的科技成果,去接受新鲜事物,这样才能在人工智能浪潮中,抓住一切机遇。
作为 Web3.0 生态系统中的应用程序之一,ChatGPT 能有如此热度,也侧面反映了 Web3.0 相关的技术和应用程序已经得到了越来越多的关注和认可。Web3.0 与我们每个人都息息相关,它将带来整个互联网世界甚至是现实世界的革命性改变。那么今天,小编就通过 ChatGPT 看 Web3.0,带你了解 Web3.0 的未来。
ChatGPT:Web2.0 还是 Web3.0?
有 Web3.0,就必定有 Web1.0 和 Web2.0。(了解 Web3.0 发展历程,可阅读往期推文《据说,80% 的人不清楚 Web3 与元宇宙的关系(内附干货!)》)。简单来说,Web1.0 核心技术是数据存储、处理和传输;Web2.0 核心技术是大数据、云计算;到了 Web3.0,核心技术就变成了区块链、人工智能和边缘计算。
而 ChatGPT 被视为一种人工智能模型,它能实现自然语言的理解和生成,可以模拟人类的语言交互,提供智能化、高效和个性化的服务。所以 ChatGPT 属于人工智能。人工智能又是 Web3.0 的核心技术,所以说 ChatGPT 属于 Web3.0。
Web3.0 给我们带来什么?
当前我们正处于 Web3.0 的萌芽期。那么,Web3.0 到底是解决 Web2.0 的什么问题?如今 Web2.0 已经充斥着我们生活的每个角落,Web2.0 最大的特点就是它是中心化的,用户的网络生活大多是被几个大公司所控制,用户的隐私数据全都存储在大公司的云服务器上,Web3.0 就是要解决 Web2.0 的中心化问题。
为什么要解决中心化问题呢?举个例子,我们的财产、房产证件其实都是由国家和银行来替我们保管的。除了我们自己兜里的纸钞之外,存在银行里的只是一个数字,当遇到银行倒闭破产时,我们所拥有的财产也就彻底丢失了。事实上,我们国内大部分人不曾经历过银行倒闭,但其实银行倒闭的事件经常发生,就比如前段时间的硅谷银行宣告破产。
所以 Web3.0 就是利用区块链技术解决这类问题,用户的所有财产都以数字的形式保存在网络上,永远不会消失,也没有人可以篡改它。正因为有了区块链技术,我们才第一次能够在互联网上进行一对一的价值交换,而不需要银行或第三方金融机构来充当中介,从而直接实现交易安全。
当然,除了实现互联网的去中心化,还能解决其他中心化问题,因此未来 Web3.0 时代会出现很多去中心化组织和平台,例如 DAO、Defi 等等。这也就是为什么我们总说,未来 Web3.0 将会彻底改变我们的生活。
而人工智能技术在 Web3.0 发展中扮演了一个重要的角色。它能够为用户提供更加智能化、高效和安全的服务,给 Web3.0 带来许多优势。其中包括(以下为 ChatGPT 的回答,仅供参考):
1、自动化:Web3 应用程序可以利用人工智能技术自动执行各种任务,从而提高效率和可靠性。
2、安全性:人工智能技术可以用于检测和预防网络攻击和欺诈行为,从而提高 Web3 应用程序的安全性。
3、数据分析:人工智能技术可以帮助 Web3 应用程序分析和理解大量的数据,从而提供更加精确的决策和预测。
4、个性化服务:人工智能技术可以根据用户的需求和偏好,提供个性化的服务和推荐,从而增强 Web3 应用程序的用户体验。
ChatGPT in Web3.0
未来 ChatGPT 这类人工智能的应用场景会非常广泛,将在政府机构、企业公司、教育培训机构、医疗健康、农业等领域发挥作用,具有强大的市场潜力。同时,它也会面临一系列的挑战和问题,例如:如何确保用户使用 ChatGPT 等产品的数据隐私和安全?如何避免 ChatGPT 等产品被黑客恶意利用和攻击?也许,如果将 ChatGPT 结合 Web3.0,利用区块链技术来解决这些问题,或许能够实现真正的去中心化人工智能:
1、去中心化身份验证:ChatGPT 可以与去中心化身份验证技术相结合,实现更加安全和自主的身份验证,从而降低黑客攻击的风险。例如,用户可以使用其去中心化身份验证来登录 ChatGPT,并通过语音或文字与 ChatGPT 进行交互,从而获得智能化、个性化的服务。
2、去中心化数据存储:ChatGPT 可以与去中心化存储技术相结合,实现更加安全和可靠的数据存储。例如,ChatGPT 可以将用户的聊天记录存储在去中心化的存储网络上,而不是在中心化的服务器上,从而保护用户的隐私和数据安全不会被黑客攻击。
3、去中心化自治组织:ChatGPT 可以与去中心化自治组织相结合,让用户和社区成员参与到 ChatGPT 的开发和治理中来,实现更加民主和开放的决策过程,用户和社区成员可以监督 ChatGPT 的开发和使用,以确保其安全和合法性。
结语
总之,Web3.0 中的人工智能技术为 Web3.0 带来了更安全高效和更人性化的发展前景,在未来的发展中,我们应更加注重人工智能技术和区块链技术的结合,不断推进技术进步和应用创新。