How We Took Over ChatGPT Accounts

如何接管ChatGPT账户参数实验室描述了一种他们发现的针对ChatGPT对‘制品模式’实现的漏洞（OpenAI曾称此为‘Canvas’，但最新修订版称为‘HTML预览’）。该漏洞的关键在于HTML在这些环境中必须严格沙箱化，以防止未信任代码与OpenAI API交互并访问私有数据。参数发现该攻击链相当复杂。OpenAI使用MathLive JavaScript库作为图支持的一部分，该库包含自己的虚拟键盘，可通过沙箱 iframe 的postMessage()触发。接收消息的代码使用innerHTML，因此任何发送消息的代码均可向父页面添加自定义HTML，而无机制阻止其他沙箱框架（包括HTML预览框架）调用该方法。这意味着沙箱中的未信任代码可插入HTML。