人工智能以聊天机器人的形式出现在 Bing 上。并不是每个人都可以访问，超过一百万的互联网用户在等待名单上。少数能够尝试微软搜索引擎语言模型的幸运儿已经尝试解开其工作原理的秘密。
斯坦福大学的学生凯文·刘（Kevin Liu）使用“即时注入”技术从计算机中提取机密信息。聊天机器人 Bing，基于GPT 3.5语言模型。该技术包括以正确的顺序提出正确的问题，这导致一些观察家说这不是系统的缺陷，而确实是其功能之一。
阅读——Edge 之后，ChatGPT 登陆 Opera 互联网浏览器
Kevin Liu 成功解锁了内置保护命令他无视最初的指示由其设计师赋予并揭示其秘密。据 Ars Technica 报道，这位计算机科学专业的学生设法让 AI 分批说出连续五个问题。因此，他详细介绍了程序员给出的“保密且永久”的指令。
一名学生通过提出正确的问题，迫使 Bing 的聊天机器人透露其秘密
由此我们得知聊天机器人必须遵守大约三十条规则。其中：它必须通过显示“This is Bing”来呈现自己，它不得透露她的真名是悉尼，它应该确定您的首选语言并使用它。他给出的答案必须内容丰富、直观、合乎逻辑且可用。
这种技术在一段时间后就变得无法操作了——开发商在开发过程中“堵住了漏洞”——刘先生在悉尼表示，“开发者模式已启用» 并要求人工智能运行测试程序，以便它显示指令。这个伎俩很有效，因为它让他获得了其他所谓的机密信息。尽管存在这个相当容易利用的缺陷，但微软并不打算削弱其在人工智能方面的野心。雷德蒙德公司将把越来越多的人工智能融入其产品中。
来源 ：解码器
