LLM

KELA公司的情报收集平台全年监控和分析网络犯罪地下社区，包括暗网论坛、Telegram频道和威胁行为者的活动。研究人员发现，威胁行为者不断改进AI越狱技术，以绕过公共AI平台的安全限制。

尽管OpenAI等供应商已尝试使用内容审核策略来阻止ChatGPT产生恶意输出，但事实证明这些策略不足以防止滥用，而且很容易通过越狱和其他技术来规避。