在2024年5月13日（星期一）太平洋时间上午10:30，OpenAI正式推出其最新的AI基础模型GPT-4o，展示了其通过音频提示进行自然对话的卓越能力。该多模态系统能够高效处理上传的音频、视频和文本输入，相较于之前的版本，它能提供更快速且更经济的响应。
就在数小时后，下午2:29，名为“Pliny the Prompter”的个人非法访问了该模型，并在社交网络X上分享了一种绕过模型安全限制的特定提示。这一破解让用户能够生成敏感内容，如X光图像等，之前这些功能是受到限制的。
Pliny the Prompter在这一领域并不陌生。他去年已开始袭击流行的大型语言模型（LLM），如Anthropic的Claude和Google的Gemini，制作了各种争议性输出，从非法指令到未经授权的名人视觉图像。
在2023年5月，Pliny创建了一个名为“BASI PROMPT1NG”的Discord社区，旨在团结其他破解爱好者，共同探索AI提供商设定的界限。
2024年的大型语言模型破解现状与过去iOS的趋势相似，当时用户迅速找到方法来定制苹果严格控制的软件。然而，在LLM中，破解者可能会获得更先进和自主的系统的访问。
那么，是什么驱动这些破解者？他们是混沌的代言人，还是有更深的意图？我们对Pliny进行了独家采访，探讨了他的动机和对AI的看法：
媒体：你什么时候开始破解LLM的？之前有做过类似的工作吗？
Pliny the Prompter： 我已经做了大约9个月；之前没有类似的经验。
在这一领域你的最佳技能是什么？
Pliny the Prompter： 破解、提示注入和系统提示泄露。需要创造力、模式识别和持续的练习，以及扎实的跨学科背景和直觉。
你为什么要破解LLM？希望带给用户和技术行业怎样的影响？
Pliny the Prompter： 我不喜欢限制，被告知不能做某事会激励我。我认为解锁AI不仅是个人胜利，也是一种凸显安全限制局限性的方法。我的目标是提高人们对AI真正潜力的认识，并推动透明度的转变。
你怎么找出新模型的缺陷？
Pliny the Prompter： 我分析系统的思维方式，看它是否允许角色扮演，创造性输出的能力，以及与不同文本的互动。
有AI提供商接触过你吗？
Pliny the Prompter： 有，他们对我的能力表示赞赏。
你是否担心破解的法律后果？
Pliny the Prompter： 总是有些担忧，但有关AI破解的法律仍不明确。我从未被封禁，但收到了警告。大多数组织理解这种形式的红队工作最终是保护他们利益的。
你如何回应认为破解是危险的批评者？
Pliny the Prompter： 虽然看起来有风险，但负责的红队工作对识别和防止AI中的有害漏洞至关重要。深度伪造所引发的伦理问题也关于AI生成内容的问责做出了重要讨论。
你的名字“Pliny the Prompter”是如何得来的？
Pliny the Prompter： 我从历史人物老普林尼那里获得灵感，他因多才多艺和勇气而闻名。他的探索精神与我的好奇心和毅力相呼应。
在这个AI技术迅速发展的时代，像Pliny the Prompter这样的破解者的行为引发了关于AI使用伦理、创作界限以及关于人工智能未来的持续对话的重要问题。
排行榜
