利用AI编造“火车撞人”假新闻！中国首例ChatGPT犯罪，东莞男子或面临5年监禁

互联资讯 2023-05-19 01:56:02 0

淘宝搜：【天降红包222】领超级红包，京东搜：【天降红包222】
淘宝互助，淘宝双11微信互助群关注公众号【淘姐妹】

ai画火车

大数据文摘出品

作者：Caleb

4月25日，根据百家号上的一篇报道称，甘肃省一列火车撞上公路工人，造成9人死亡。

警方对此立即展开调查，发现在平台上，共有21个账号同时发布了不同版本的文章，涉及不同的事故地点，包括平凉市崆峒区、兰州、陇南、定西、庆阳等地。

荷兰一列载有乘客的火车周二在海牙附近撞上一台起重机并脱轨，造成至少一名工人死亡，约30人受伤，这是该国多年来最严重的铁路事故。

相关报道迅速得到关注，短时间内获得了超过15,000次点击。

细想下，同时多地发生相似的事故？这也太过巧合了。

事实证明，这些报道确实是假新闻。

中国公安局网安大队调查后发现，发布报道的帐号都隶属于广东深圳一间自媒体公司。

5月5日，警方前往广东该名嫌疑人住处进行取证，审讯后发现，洪姓男子先搜寻了近年来中国讨论度广泛的社会新闻，随后利用ChatGPT将特定元素例如时间、地点、日期或性别等进行修改，重新撰成一篇假新闻，藉由上传这些文章让帐号赚取流量再加以变现。

不仅如此，洪姓男子还利用ChatGPT制作了多个存在细小差距的假新闻版本，以避开百度旗下平台的审查。

据了解，洪姓男子主要通过ChatGPT将收集到的新闻要素修改编辑后，上传至其购买的百家号上非法获利，目前案件正在进一步侦办。

警方表示，洪姓男子编造假新闻并散布在网络上供人大量浏览的行为，已涉嫌寻衅滋事罪，因此对其采取刑事强制措施，最高可判处五年有期徒刑。

首例因滥用人工智能而被捕的案件

这是中国因应人工智能发展，于今年1月起颁布《互联网信息服务深度合成管理规定》后侦破的第一起事件。

“规定”旨在促进人工智能产业发展和防止技术滥用的法规规定，通过深度合成技术（deepfake）制作的合成视频和照片必须明确标注，以防止公众混淆。

该规定还涵盖了deepfake提供者和用户的责任，包括禁止使用该技术进行非法行为、建立审查制度和识别用户信息。

最近，随着ChatGPT的流行，中国在线搜索巨头百度和其他科技公司也相继推出了竞品。

4月11日，中国国家互联网信息办公室（CAC）发布管理生成式AI服务的法规草案。据CAC称，该法规预计将于今年某个时候生效。

ACA表示，国家支持人工智能自主创新和推广应用，但相关产品或服务应符合法律法规要求，尊重社会公德和公共秩序，其中包括服务提供商接入、算法设计、训练数据选择、内容概括、用户隐私和商业秘密等。

中国社会科学院大学法学院副教授刘晓春在接受采访时表示，服务提供商有义务采取风险防范措施并响应监管要求。

规范化使用AI是一个全球性难题

利用ChatGPT这类AI来生成假新闻并非中国独有，美国AI专家、社交媒体公司和政府官员同样关注生成式AI传播错误信息的可能性。

今年4月，美国共和党发布了一个人工智能生成的视频广告，假想了拜登再次当选的情况下，将会引起美国与墨西哥边境的大规模移民浪潮和旧金山文明崩溃。

虽然这则广告被标记为“人工智能生成”，但过于逼真的图像仍然很容易让人们将其视为现实。Reddit上的Midjourney子版块也有用户举例说明了文本到图像生成器如何创建未发生过的历史事件，比如“2001年卡斯卡迪亚9.1大地震和海啸”。

除此之外，*非营利组织Amnesty World分支机构Amnesty Norway在社交媒体账户上发布了人工智能生成的图像，以此号召人们多多关注哥伦比亚全国罢工两年。但这些图像错误地描绘了哥伦比亚国旗，还用了假人代替了真正的抗议者。

随着ChatGPT得到越来越多的关注和使用，国内的立法者也一直在努力起草管理公司如何开发人工智能的相关规定。拟议的法规包括不生成虚假信息，明确标记使用AI制作的内容，并确保用于训练AI的数据不歧视种族、种族和性别。

但也可以想象，这是一项道阻且长的艰巨工作，还需要时间慢慢打磨。

chat gpt 对人工智能的影响人工智能chatgpt是谁发明的

人工智能技术的快速发展正在改变我们的生活方式。ChatGPT作为一种先进的自然语言处理技术，正逐渐成为我们生活中不可或缺的一部分。在这篇文章中，我将分享一些关于人工智能ChatGPT的思考。

首先，ChatGPT在自然语言处理领域的应用非常广泛。它可以用于语言翻译、问答系统、智能客服等多个领域。由于它能够理解人类语言的含义，因此我们可以在与ChatGPT进行对话时获得更加自然的交互体验。此外，ChatGPT还可以被应用于自动写作领域，帮助我们更快地生成高质量的文本内容。无论是对于企业还是个人而言，ChatGPT都是一个非常有用的工具。

其次，人工智能技术的发展需要大量的数据支持。ChatGPT也不例外，它需要大量的语言数据来进行训练，以提高其性能和准确度。然而，由于数据的获取和处理问题，数据的质量和多样性对于模型性能的影响非常重要。为了解决这个问题，我们可以采用一些工具，如maxproxy、动态住宅ip、海外住宅ip、飞机代理IP等，来获取更加准确和全面的数据。

另外，人工智能技术的发展也带来了一些新的问题和挑战。例如，人们可能会担心个人信息被泄露或被滥用。为了解决这个问题，我们可以采用一些技术手段来保护用户数据和隐私，如联邦学习等。

最后，人工智能技术的发展需要我们共同努力。虽然人工智能技术可以带来很多便利和好处，但它也可能会带来一些负面影响。因此，我们需要在推动人工智能技术发展的同时，注重对其应用的规范和管理，保护人类的利益和权益。

总之，人工智能技术的发展正在改变我们的生活方式，ChatGPT作为一种先进的自然语言处理技术，也在为我们的生活带来越来越多的便利和创新。我们需要深入思考人工智能技术的发展和应用，共同探索其潜力和限制，让人工智能技术更好地为人类服务。

举报/反馈

本文地址： https://www.528683.com//show-410747.html