ChatGPT

尽管OpenAI等供应商已尝试使用内容审核策略来阻止ChatGPT产生恶意输出，但事实证明这些策略不足以防止滥用，而且很容易通过越狱和其他技术来规避。

“WormGPT”是“ChatGPT”的邪恶版本，与合法版本不同，它缺乏特定的限制，使其成为网络犯罪分子实施攻击的有效工具。

请注意，人工智能工具WormGPT使黑客能够进行复杂的攻击。该工具基于OpenAI的ChatGPT，专为恶意活动而设计，对网络安全构成重大威胁。

2022年6月至2023年5月期间，超过101100个被盗的OpenAI ChatGPT帐户凭证在非法暗网市场中被发现，仅印度就有12632个被盗的凭证。

ChatGPT生成软件代码的能力有限。但研究人员观察到网络犯罪分子会绕过聊天机器人的防护措施来生成恶意内容。