由於擔心年幼的孩子受到感染，一位父親將照片發給了醫生。兩天后，谷歌封鎖了他的帳戶，並通知警方，作為打擊持有和分享兒童色情圖片的一部分。
人工智慧的局限性。一篇文章來自紐約時報報導稱，Google的人工智慧在某些情況下有點過於激烈，將非兒童色情的情況同化為兒童色情。一位父親為孩子的腹股溝感染拍了照片，以便送孩子去看醫生，為此付出了代價。
谷歌認為這些照片的內容違反了其服務條款，並且可能是非法的。因此，這家美國公司關閉了Google帳戶並通知了當局，警方開始對他進行調查。
打擊兒童色情製品為人工智慧帶來了解釋問題
在這個案例中，是一名護士要求父親在視訊問診前將照片發送給醫生，以便醫生進行分析。事實可以追溯到2021年2月，當時美國的一些醫療機構因COVID-19而不再接受身體檢查。照片拍攝兩天后，此人收到谷歌的警告，告知他們的帳戶已被鎖定。他因此無法存取電子郵件、聯絡人、照片…甚至還有他的電話號碼，因為他是 Google Fi 客戶，這是美國獨有的虛擬行動電信商服務。
警方的調查在幾個月後得出結論，該用戶沒有犯下任何罪行，但該錯誤的受害者必須決定讓調查人員存取他儲存在Google的所有資料和內容。 GAFAM 為偵測非法內容而建立的監控系統受到了隱私維護者的強烈批評。最近，蘋果廢除了有爭議的反兒童色情系統之前宣布做出改變。
來源 ：紐約時報
