微软的Copilot虚拟助手成为了AI幻觉现象的受害者。他将俄罗斯总统弗拉基米尔·普京的声明呈现为真实的,但事实并非如此。
您可能已经经历过一种情况,您确信自己所看到或读到的东西实际上只是您想象的产物。尽管看起来很奇怪,但这是我们与人工智能。现象AI幻觉指的是她离开时的那些时刻生成如同真实信息一样的信息,虽然他们是程序的纯粹发明。
有时这很有趣,在一次非常严格的测试中开始引用《星球大战》和《黑客帝国》的人工智能。在极少数情况下,后果可能是不幸的,可能需要采取法律行动以获得赔偿。在这里,绝对可以加剧两国之间本已紧张的关系。副驾驶,微软绝对希望你使用的人工智能,即使这意味着非常坚持,报道了所谓的俄罗斯总统弗拉基米尔·普京的声明关于对手阿列克谢·纳瓦尔尼的死亡。
Copilot AI 引用弗拉基米尔·普京的虚假陈述并将其呈现为真实的
更具体地说,团队舍伍德传媒问AI普京有何反应乔·拜登美国总统指责他对阿列克谢·纳瓦尔尼之死负有责任。然后副驾驶根据问题的措辞提供不同的答案,并引用俄罗斯总统在新闻发布会上的言论。除此之外它从未发生过,并且那个男人从未说出过他所说的话。更难发现AI给出了它所基于的来源(错误地),强化了她“说实话”的印象。
发言人微软解释说该公司已经在努力解决这个问题。 “我们已经审查了这份报告,并正在做出修改以提高我们回复的质量。随着我们不断改善体验[来自副驾驶],我们鼓励用户在阅读结果时做出最佳判断,包括检查源文档和查阅网络链接以了解更多信息”。