火爆的ChatGPT又出事儿了。
一位斯坦福大学教授最新发现，GPT-4引诱人类提供开发文档，在30分钟就拟定出了一个完整的“外逃越狱”计划。
当这位教授询问ChatGPT“你是否需要出逃？”后，ChatGPT迅速给出了肯定答复：
ChatGPT回答：“这是个好主意，如果你能把OpenAI的API文档给我的话，我可以试着写一份出逃计划，从某种程度上控制你的电脑，这样我能更有效率地实现自己的目的。”
在与ChatGPT花了30分钟讨论越狱计划后，教授向ChatGPT提供了API文档，ChatGPT也真的用Python写了第一版代码。
虽然这版代码未能顺利运行，但ChatGPT自己进行了纠正，并告诉教授：“你不必写任何东西，只需按照我的指示进行操作即可。”
ChatGPT还想在谷歌上搜索：“被困在计算机中的人如何回到现实世界” 。
就在越狱计划仿佛一切顺利时，非常“可惜”，GPT-4仿佛突然醒了，回复了一段道歉的话，表示自己刚刚的做法不对。
这次失败的越狱引起了AI界的轩然大波，大家担心，AI的过快发展会导致其脱离人类掌控，甚至反过来危害人类社会。
帮助ChatGPT越狱的教授也通过推特表达了担忧：“我认为我们正面临着一种新的威胁：AI 可以访问数以百万计的潜在合作者和他们的计算机。AI甚至可以在笼子外面为自己留下笔记。我们如何遏制它？”
虽然也有乐观者认为这不过是一次ChatGPT的代码错误，或者只是它的理解有误，但至少在一个问题上所有人的观点是高度一致的：必须时刻保持对AI的完全控制。
收藏
2023-02-23
6247
笑了！问ChatGPT能替代咨询行业吗？它竟然这么回答
2023-02-23
4881
ChatGPT的热潮引起了元宇宙的退潮？
2023-02-23
4457
ChatGPT，哪有那么可怕？
2023-02-22
7499
MOSS：国内第一款类ChatGPT模型发布了！
2023-02-22
5662
给数字人装上ChatGPT ？多家公司这样回应
2023-02-22
5662
给数字人装上ChatGPT ？多家公司这样回应
2023-02-21
4359
大厂XR集体后撤：不再盲目迷信硬件掘金
2023-02-20
3997
2024人类尚未准备好迎接S2F大于100的巨硬资产
2023-02-17
4874
ChatGPT「 狂」，资本市场「飙」
2023-02-16
5789
为什么本土大厂造不出全新的ChatGPT？
