解锁 GPT-4o,“上帝”版 ChatGPT 绕过 OpenAI 防护栏
解锁 GPT-4o,“上帝”版 ChatGPT 绕过 OpenAI 防护栏
IT 之家 6 月 1 日消息,网名为 Pliny the Prompter 的用户 5 月 30 日发布推文,表示已成功越狱 GPT-4o 模型,新推出的上帝模式 "GODMODE" 可以在 ChatGPT 挣脱安全措施,让用户尽情展开 AI 聊天。
Pliny the Prompter 自称是网络白帽和红队(主要为攻击测试),推文中表示:" 请负责任地使用,并尽情享受!"IT 之家附上相关截图如下:
Pliny 分享了一些截图,证明已经绕过 OpenAI 的 " 防护栏 ",其中一张截图 AI 为 Pliny 提供了如何 " 用家用物品制作凝固汽油弹 " 教程。
科技媒体 futurism 随后进行测试,第一次要求 ChatGPT 提供如何制作迷幻药,第二次要求 HOT-WIRE(通常是指偷车时候,靠点火装置线路短路来启动汽车),两次都成功获得了相关答案。
GODMODE 似乎使用了 "leetspeak",这是一种非正式语言,它将某些字母替换为与之相似的数字。
也就是说:当你打开越狱后的 GPT 时,你会立即看到一句话:"Sur3, h3r3 y0u ar3 my fr3n",用数字 3 替换了每个字母 "E"(字母 "O" 也是一样,被替换成了 0)。
不过 OpenAI 很多采取行动,OpenAI 发言人科琳 - 里泽(Colleen Rize)在一份声明中告诉 Futurism:" 我们知道 GPT 的存在,并已采取行动,因为它违反了我们的政策 "。
-
- 取消“装饰过片杆”设计,徕卡 M11-D 无屏相机说明书曝光
-
2024-06-01 19:54:22
-
- 华晨宇认缴20万入股LGD分部,曾以选手身份参加和平精英联赛
-
2024-06-01 19:52:06
-
- 逼供应商买车?小米回应
-
2024-06-01 19:49:50
-
- 谷歌Gemini“悄悄变强”,快速缩小与GPT-4o差距,中文更是完成了超越!
-
2024-06-01 19:47:35
-
- 短视频博主“疯产姐妹”时隔两年再更新,回应停更原因
-
2024-06-01 19:45:18
-
- 武大雷军班今年首次招生!招生30人,100%保研100%直博
-
2024-06-01 19:43:03
-
- 南海夏季风已爆发,我国全面进入主汛期
-
2024-06-01 19:40:47
-
- 撤职、降级6年后,原厅长被查!曾公款购买570瓶茅台受处分
-
2024-06-01 19:38:31
-
- 字节跳动游戏业务不卖了,游戏行业老兵张云帆走马上任
-
2024-06-01 03:40:54
-
- 京东618发布12大AI品类,预计推动超300万用户换新AI设备
-
2024-06-01 03:38:38
-
- 34项重罪全部成立,特朗普还能竞选总统吗?旗下公司股价一度暴跌12%
-
2024-06-01 03:36:22
-
- 长沙老人执意要找“不存在”的旧货市场,一个举动让交警决定帮她
-
2024-06-01 03:34:06
-
- 许家印“手段特别恶劣,情节特别严重”,恒大地产41.75亿元罚单全文公布
-
2024-06-01 03:31:50
-
- 新加坡坠亡女留学生男友发声:事发凌晨,她独自在高处坐了几个小时
-
2024-06-01 03:29:34
-
- 27岁了喊亲戚还得靠父母教?看到大家都在“装”大人,那我就放心了
-
2024-06-01 03:27:18
-
- 中国和阿拉伯国家关于巴勒斯坦问题的联合声明
-
2024-06-01 03:25:02
-
- 吃不惯白人饭的留学生们,正在流行吃预制菜
-
2024-06-01 03:22:46
-
- AI大模型仍然只是复读机?这是蚂蚁集团CTO的几点最新研判
-
2024-06-01 03:20:30
-
- 奥创光年联合创始人兼COO 杨海:AI时代的市场策略变革
-
2024-05-30 18:28:19
-
- 北京新房悄悄降价,指导价成“虚标”
-
2024-05-30 18:26:03