人工智能

BBB总裁奥沙利文·安德森表示，有组织犯罪集团使用这些技术来实施身份盗窃。她说：“这些被盗信息随后被用于实施各种诈骗，包括信用卡欺诈、抵押贷款欺诈、个人贷款欺诈等等。”

KELA公司的情报收集平台全年监控和分析网络犯罪地下社区，包括暗网论坛、Telegram频道和威胁行为者的活动。研究人员发现，威胁行为者不断改进AI越狱技术，以绕过公共AI平台的安全限制。

传统的暗网监控正在随着人工智能而发展，从而实现更精确、更有效的威胁检测。尽管人工智能具有强大的能力，但人类的专业知识对于解读复杂数据仍然至关重要。

尽管OpenAI等供应商已尝试使用内容审核策略来阻止ChatGPT产生恶意输出，但事实证明这些策略不足以防止滥用，而且很容易通过越狱和其他技术来规避。