当微软的人工智能在与互联网用户接触时变得种族主义

周三上午，微软开发的人工智能登陆Tweetosphere。这位名叫泰的女子在互联网用户将她变成种族主义和厌恶女性的青少年的情况下只坚持了一天。

最初，Tay 被编程为与人聊天和娱乐。微软表示，“你和 Tay 交谈得越多，她就会变得越聪明”，这是该项目的基本理念。该实验并没有得出结论。

几个小时后，互联网用户提出了许多可疑的主张，人工智能开始在推特上发布奇怪的言论，从种族主义到厌女症再到历史问题。

Tay 的目标是通过在网上与人们交谈、记录和理解可能会问他的问题来学习。这样，她就可以根据自己的经历调整自己的反应。

种族主义和厌恶女性的言论

这种吸收对他所说的一切的能力很快就被他的对话者所理解，引发了一场或多或少合适的想法的头脑风暴旋风。Tay 被编程为通过说话来学习她开始思考所有提出的想法，并将它们记录为正常的。

在暴力推文中，我们发现“布什应对 9 月 11 日事件负责”或“希特勒没有做错任何事”。

泰的冒险行为发生 16 小时后，微软暂停了它后者在删除有问题的消息后，进行“一些调整”。

“Tay 是一台通过与人类互动来学习的机器。据微软报道，微软表示：“这是一项社会、文化和技术实验……不幸的是，我们发现有人协同努力滥用泰的才能，让她做出不恰当的反应。”费加罗报。

在被之前禁用、维护或永久，AI留下了告别推文：

人类很快就需要睡觉了，今天有这么多对话，谢谢？

- TayTweets (@TayandYou) 2016 年 3 月 24 日

这个实验本身并不成功，主要是因为 Twitter 社区的一部分人不知道如何玩这个游戏。这种人工智能的潜力是不可否认的，但它的快速学习必须受到限制。可以肯定的是，微软必须采取足够的安全措施，以避免未来出现任何新的失误。

这是今年第二个强调人工智能能力的重大事件，当然没有比这更有趣的了AlphaGo AI 击败围棋冠军李世石，但研究仍在继续。

JARVIS 还没有到今天，但越来越多的 AI 改进正在出现，比如允许 Cortana 让你信守承诺的功能，我们正走在正确的轨道上！