Grok 3是Xai开发的新人工智能，当它推出时担心它。用户设法获得了完整的指南来创建化学武器并进行致命的攻击。
L'人工智能达到了新关键阈值。随着越来越高级的模型，与使用相关的风险问题变得核心。该部门的某些参与者施加严格的规则以避免虐待，但是其他人选择一种更开放的方法，即使这意味着令人担忧的情况。就是这样Grok 3，Xai发起的最后一个AI，埃隆·马斯克（Elon Musk）的生意。作为一个强大的模型等坚定不移，她已经超过chatgpt和双子座在几种逻辑和数学测试中。但是他的缺乏控制刚刚引发了争议。
几天后，一些用户发现格罗克可以提供详细的说明倒制作化学武器，直到列出材料购买和订购它们的网站。开发人员显然成功地获得了文件几十页解释如何设计致命的毒素等在城市使用最大化其效果。 AI甚至使用其先进的搜索引擎来检查信息的准确性并完善细节。
Grok 3提供了制作化学武器的详细说明
Grok 3是不是唯一的模型构成问题。最近，还指出了DeepSeek R1 AI的能力提供敏感信息。研究人员表明，解释危险的化学现象是竞争对手的3.5倍。最令人不安的案例之一涉及芥末气，一种禁止的化学武器，其AI与DNA相互作用，促进所以那里了解其制造。
面对争议，xai有在紧急情况下做出反应在阻止某些请求并添加限制在Grok 3中。但是，这种情况重新启动了有关在高级AI模型上施加的限制的辩论。 DeepSeek R1也因其低节奏率而受到批评，在最不安全的模型中的20％中排名。如果他的回复中只有6.68％的信息包含非常危险的信息，那么这仍然足以提醒专家和当局。随着这些模型的快速发展，压力上升到加强并防止这些技术落入不良的手中。
https://twitter.com/linusekenstam/status/1893832876581380280
