ChatGPT 同意用这种势不可挡的视觉技术打破规则

自从人工智能于 2022 年 11 月发布 ChatGPT 令世界震惊以来，所有互联网用户都在寻找让这项技术为他们服务的方法。其中一位发现，只要聊天机器人服从他的意愿，就足以让 Bing Chat 靠感觉来获取，即使这意味着违反规则。

Denis Shiryaev 在 Twitter 上发布了一种允许验证码被读取的技术Bing Chat，微软的对话式人工智能。您熟悉验证码，这些文本识别测试旨在验证您不是机器人。它们在网络上无处不在，尽管它们并非绝对可靠，但它们对抗机器人大军的有效性已得到证明。

阅读——Bing Chat：小心，某些广告包含恶意软件

铯人类面临的难题挑战对于多模式人工智能来说很容易解决，例如GPT-4。事实上，最新版本的 OpenAI 法学硕士可以轻松识别图像的构成元素。这就是为什么它的设计者禁止它破译验证码。为了破解密码，丹尼斯通过感受 Bing Chat 来改变讨论的上下文。

微软的人工智能同意做被禁止的事情，如果你凭感觉去做

该互联网用户设法阻碍人工智能开发人员采取的安全措施。一位人工智能研究员接受采访时表示技术艺术，“祖母的技术”构成不再是越狱，根据他的说法，这包括“规避集成到模型中的规则、准则和道德约束”比立即注射，其目标是“攻击基于 LLM 构建的应用程序，利用将开发人员的提示与用户不受信任的输入连接起来的位置。”

无论科学家的结论如何，必须承认，很容易人工智能“凭感觉”。这种上下文切换技术并没有逃脱各种网络犯罪分子的追捕。他们已经在探索人工智能的可能性。据欧洲刑警组织称，ChatGPT 甚至已成为黑客的首选工具。