两名使用ChatGPT生成的虚假案件的律师被共同罚款5,000美元，并被勒令联系虚假案件中提到的法官，告知他们情况。
曼哈顿法官被罚款 5,000 美元两名律师给了他一份充满虚构案例和引述的法律档案，全部由ChatGPT人工智能生成。虽然对话式人工智能通常被证明是精确和有效的，有时他从头开始发明东西。
Levidow, Levidow & Oberman 公司的律师史蒂文·A·施瓦茨 (Steven A. Schwartz) 和彼得·洛杜卡 (Peter LoDuca) 最初为他们的研究进行了辩护，即使对方律师指出该研究是错误的，但最终还是向法庭道歉。
ChatGPT 有时会生成虚假信息
施瓦茨和洛杜卡代表罗伯托·马塔，他声称自己于 2019 年在从萨尔瓦多飞往纽约肯尼迪国际机场的阿维安卡航空公司航班上被金属服务车撞到后膝盖受伤。当时哥伦比亚航空公司要求曼哈顿法官驳回此案以时效已过为由，施瓦茨提交了一份长达10页的法律摘要，其中包含六项过去的法院裁决，只是其中很大一部分并不存在。
法官在命令律师和律师事务所支付罚款时表示，他们“当他们提交了不存在的法院意见以及人工智能工具 ChatGPT 创建的虚假引文时，他们放弃了自己的责任，然后在法院命令质疑其存在后继续支持虚假报告»。
因此，这一事件证实了一项研究表明：ChatGPT 是假新闻天堂，包括基于GPT-4的最新版本。虽然人工智能开始取代部分工人，特别包括HR 越来越多地使用它来撰写解雇信，看来律师还没有受到威胁。
«技术进步是司空见惯的，使用可靠的人工智能工具寻求帮助并没有本质上不合适的地方»，指定卡斯特尔法官。 “但现有规则对律师施加了把关人的角色，以确保他们陈述的准确性»。
