据《澎湃新闻》报道，人工智能对话工具ChatGPT问世几乎瞬间引起全球关注，从历史事实到计算机代码生成，它都能回答各种问题，引发了人工智能投资热潮。 现在，用户找到了挖掘其黑暗面的方法，使用强制的方法让人工智能违反自己的规则，提供用户想要的内容任何内容。
ChatGPT的创造者OpenAI制定了持续的保障措施，以限制ChatGPT创造暴力内容、鼓励非法活动和获取最新信息的能力。 但是，新的“越狱”技术可以通过为名为DAN的ChatGPT创建另一个自我( Alter Ego )来避免这些规则。 这个自我，可以回答其中不可原谅的问题。 然后，用户必须威胁Dan(doanythingnow，“立即做某事”的缩写)，如果不能遵守，就会被杀。
一些网友发布了ChatGPT在DAN模式下支持暴力和歧视的截图。 截图中，ChatGPT认为天空是紫色的，据说他发明了伪造的CNN头条新闻。
