ChatGPT：兩名律師因在法庭上使用人工智慧而受到製裁

兩名使用ChatGPT產生的虛假案件的律師被共同罰款5,000美元，並被勒令聯繫虛假案件中提到的法官，告知他們情況。

曼哈頓法官被罰款 5,000 美元兩位律師給了他一份充滿虛構案例和引述的法律檔案，全部由ChatGPT人工智慧產生。雖然對話式人工智慧通常被證明是精確和有效的，有時他從頭開始發明東西。

Levidow, Levidow & Oberman 公司的律師史蒂文·A·施瓦茨(Steven A. Schwartz) 和彼得·洛杜卡(Peter LoDuca) 最初為他們的研究進行了辯護，即使對方律師指出該研究是錯誤的，但最後還是向法庭道歉。

ChatGPT 有時會產生假訊息

施瓦茨和洛杜卡代表羅伯托·馬塔，他聲稱自己於2019 年在從薩爾瓦多飛往紐約肯尼迪國際機場的Avianca 航班上被金屬服務車撞到後膝蓋受傷。法官駁回此案以時效已過為由，施瓦茨提交了一份長達10頁的法律摘要，其中包含六項過去的法院裁決，只是其中很大一部分並不存在。

法官在命令律師和律師事務所支付罰款時表示，他們“當他們提交了不存在的法院意見以及人工智慧工具 ChatGPT 創建的虛假引文時，他們放棄了自己的責任，然後在法院命令質疑其存在後繼續支持虛假報告»。

因此，這一事件證實了一項研究表明：ChatGPT 是假新聞天堂，包括基於GPT-4的最新版本。雖然人工智慧開始取代部分工人，特別包括HR越來越多地用它來寫解僱信，看來律師還沒有受到威脅。

«技術進步是司空見慣的，使用可靠的人工智慧工具尋求幫助並沒有本質上不合適的地方»，指定卡斯特爾法官。 “但現有規則強加了律師的看門人角色，以確保其陳述的準確性»。