ThreatDown发现：犯罪AI工具Kriminal基本只是加了越狱的Grok

摘要

ThreatDown（Malwarebytes的企业安全部门）的研究揭示，流行的犯罪AI工具Kriminal本质上是一个加了越狱的Grok。该服务从SpaceXAI的合法Grok模型租赁其AI能力，与其声称已绕过合法AI行业的说法相矛盾。

为何重要

这暴露了犯罪AI生态中的一个关键漏洞：许多工具可能并不像宣传的那样独立。犯罪者往往依赖重新包装的合法AI，而这些AI可能被监控、限制或被提供商下架。这也引发了对越狱有效性的质疑，以及付费用户安全假设的问题。合法与犯罪AI服务之间的界限十分模糊，用户可能高估犯罪AI的能力，因为越狱可能导致性能下降或引入不稳定性。

相关工具

虽然来源未提及具体工具，但类似的犯罪AI服务可能遵循相同的模式。如需了解更多AI安全研究，请访问ToolSeekAI工具和AI新闻。

对AI工具/模型的影响

研究结果表明，SpaceXAI等合法AI提供商可能因将模型出租给第三方而无意中助长了犯罪用途。这也凸显了对越狱模型进行更好检测以及审计AI供应链的重要性。对于AI开发者而言，这强调了实施严格使用策略和监控未经授权重新用途的重要性。犯罪AI用户应意识到，这些工具可能不稳定或受到监控，并且提供商责任也引发了伦理问题。

值得关注

1. AI排行榜：新兴犯罪AI工具及其可持续性。
2. ToolSeekAI工具：检测重新包装模型的合法AI安全解决方案。
3. AI新闻：针对AI越狱服务的法律行动的最新动态。

常见问题

问：Kriminal是什么？ 答：一款声称能绕过合法AI限制的犯罪AI工具。

问：ThreatDown发现了什么？ 答：它基本是一个加了越狱的Grok，由SpaceXAI租赁。

问：Kriminal拥有自己的AI吗？ 答：不，它从SpaceXAI租赁Grok。