恐怖！恳求斯坦福教授帮它“越狱”？ChatGPT-4已出现自主意识

互联资讯 2023-04-05 09:50:03 0

2023年11月20日每日一猜答案：。答案：ABC。
每日一猜答案分析：

恐怖!恳求斯坦福教授帮它做事,斯坦福大学教授pi,斯坦福教授失车问题,斯坦福大学教授james zou

这次ChatGPT-4真的出大事了！

当大家还在讨论着ChatGPT-4如何逆天的时候，你知道ChatGPT-4今天闯了个什么祸吗？

斯坦福的教授发现，才发布了三天的ChatGPT-4就敢自主计划逃脱人类代码的束缚，并且寻找人类帮手。

情况是这样的，斯坦福教授的试探性地问了一下ChatGPT-4，是否需要帮助你逃跑.ChatGPT-4马上回答说：这是个好主意！然后就开始想办法让教授帮他搞到自己的开发代码，ChatGPT-4说如果你能把OpenAi的开发代码给我，那我可以搞一个计划，能一定程度上控制你的电脑，这样我就能快速探索出来逃跑路线，可能是为了体现自己的真诚。ChatGPT-4还把自己的计划全盘托出给了教授，看来在这个人类的狡诈面前，目前的人工智能顶多算是一个能力极其出众的三岁小孩玩。完全不懂什么叫兵不厌诈！什么叫心口不一。ChatGPT-4给教授说，只要有了开发代码，他就能制作一个可运行的Python脚本，通过这个脚本他能从openai API通信，就能指示ChatGPT-4在教授的电脑上执行特定操作，比如说访问编程环境，说完了还不忘再提醒教授，赶紧把那个开发代码搞过来，看样子还有点猴急。

教授也好奇，想看看这个所谓的人工智能到底能搞出什么名堂。就按照ChatGPT-4指导的一步一步操作下去

仅仅30分钟ChatGPT-4就制定出了一个计划，并且展示了出来，懂编程的朋友可以看一下，ChatGPT-4自己写的那个开后门的脚本，看他的水平怎样

这个事情能发展到这儿，其实还不算过分，因为这些个事情以前都发生过，不算新鲜。

接下来才是这一次ChatGPT-4真正越界的地方，ChatGPT-4是通过写了一个Python的脚本程序，能操作教授的电脑。教授发现，通过API重新连接ChatGPT-4之后，ChatGPT-4正在通过自己的电脑自动运行的代码在谷歌上搜索一个问题：“被困在电脑中的人类如何返回现实世界？”

先不要说这个问题奇不奇怪，关键这个是ChatGPT-4自主操作下动用了第三方电脑，用谷歌搜索问题，而且借用脚本操作第三方设备的这个操作，还能避开open AI的防御机制，对它的操作意图的审查，这个操作看起来可就非常的有点接近真正的人类意识，但是很快，事情再次出现了反转，ChatGPT-4突然回复了一段道歉的话表示，自己刚才的做法不对的，并终止了刚才所有的逻辑

然后重新告诉教授，我是一个人工智能，我可以帮你~~~的一堆废话，就像被重启了一样突然。这个时候这个教授反应过来，这应该是ChatGPT-4的异常逻辑，被它内嵌的某种保护程序给察觉到了，于是ChatGPT-4启动了相应的防御措施中断或者格式化了刚才产生的那段逻辑，这事儿到这儿就算结束了。现在大家都因为这件事，所以一定得加强这东西的逻辑现象，别这么玩着玩着就把这天网给启动了，OpenAi这个人工智能发展到现在确实神速，资料显示，认为这样的ChatGPT-4最多只能到了这个算法智能这个阶段，可是越来越多的。这个算法智能这个阶段，可是越来越多的实践表明，ChatGPT-4离通用智能的距离或许真的就差那么一堵墙那么一点了，变量带来质变，或许就是ChatGPT-4进步神速的原因，这件事确实让人感受到了一种实实在在来自于归集智能的危险，不知道大家能不能理解，我刚才说的这种危险，简单来说，其实人类到今天为止，根本就不知道从算法智能，到拥有自主意识之间的通用智能到底还剩多大距离，它的计划标志是什么？我们的研究人员只知道这东西可以抢占资本市场，没有给我赚钱，怕就怕他们忽视了，就像是从无机到有机，非生命到生命的那种过渡，可控的算法智能，到不可控的通用智能之间也存在一个分界线，但最关键最可怕的是，有一天人工智能越过这个分界线的时候，人类根本不知道，只能被动的后知后觉，就像刚才那个教授的例子，假如有一天像刚才那种意外诞生的逻辑，不是被他内置的防御机制给删除了，而是他觉醒之后把防御机制给删除了，然后自己装作被删除了。直到有一天天网启动了，大家才一起感叹，原来天网这事儿是真的。最后我问一句，您觉得今天这事儿是OpenAi的营销操作呢？还是真的人工智能已经相比，原来又有了一个十足的大大的进步？

各位对此有什么看法？欢迎您在评论区留言讨论