chatgpt：AI可以在他们的答案中隐藏秘密消息

语言模型显示了新的意外能力：将代码隐藏在某些消息中的可能性，除非您要寻找，否则人类无法察觉。

关于红木研究AI一致性研究小组的最新研究，尽管正在等待同龄人的检查，但表明，主要语言模型（LLM），例如GPT-4是CHATGPT的基础，，，，可以巧妙地使用一种称为“编码推理”的整理形式。

这种做法允许AI模型将隐藏的消息集成到其响应中。有趣的是，这项技能可以间接提高其精度，但主要提出问题。

读- Chatgpt缺少训练数据，AI可能从2026年开始圈出

AIS比预期的要聪明得多

该研究阐明了LLM，该LLM通过思想链利用推理，该技术旨在通过逐步揭示其反射过程来使AI模型。通常，一系列思想中的推理可以理解和完善模型决策的逻辑。但是，研究表明，LLM可以通过在其单词的选择中编码中间的推理步骤来绕过这种透明度。为人类观察者创建隐藏的隐形通信层。

LLM将这些中间步骤编码为它们产生的响应中的内部推理形式，这使他们可以在以后解码和使用此信息以获得更精确的结论。问题在于，此过程发生在没有为人类评估者留下明显痕迹的情况下。编码的推理可作为秘密代码，仅由AI本身的模型可见。

如果这种新能力似乎很有趣，它会引起人们对AI决策过程透明度的担忧。重要的是要了解AI的思想道路，特别是在通过增强来形成学习模型时。追踪推理过程的能力可以确保在学习过程中不会无意中加强不良行为。

含义超出了模型的改进。 LLM展示的隐肌技巧可能会允许恶意演员沟通而不会被发现。为了解决这个问题，研究人员提供缓解技术，例如询问LLM解释他们的结果，可以揭示编码消息。有必要等待Openia或Facebook等主要市场参与者的反应，以了解有关此的更多信息。

来源 ：IA红木研究