面對人工智慧生成的影片（暴力受害者講述自己的故事）的出現，YouTube 正在徹底禁止這些視頻，否則將受到製裁。
影片託管平台有Youtube或者抖音，僅舉幾例，沒有錯過人工智慧革命。無論是為了在社群網路上產生頭像或者用您最喜歡的藝術家的聲音唱歌，每個人都開發工具來挖掘其潛力。但如果服務參與其中，創作者也會參與其中，導致濫用行為。我們特別想到AI 生成的假歌曲這也推動 YouTube採取措施保護權利人。
但這些遠非唯一可能的濫用行為。有些人會毫不猶豫地陷入低俗，甚至是徹頭徹尾的病態。 TikTok 或 YouTube 上的一種趨勢已經出現了一段時間，不幸的是它非常成功。暴力或謀殺受害者的 Deepfake 講述了他們身上發生的事情。換句話說：使用人工智慧重新創建死者這讓她能夠用聲音來形容她死前所遭受的痛苦。甚至兒童也有特色。
YouTube 不再希望受害者透過 Deepfake 講述他們所遭受的暴力
例如，在 TikTok 上，我們可以看到一段視頻，其中一個嬰兒用孩子的聲音解釋了他是如何在 21 個月大時被祖母殺死的。儘管故事存在事實錯誤，但這確實是發生在密西西比州一名 22 個月大嬰兒身上的事情。受到這種可怕內容影響的家庭成員當然感到憤怒，特別是到目前為止，沒有什麼可以阻止有人創造這種類型的深度偽造。
另請閱讀——谷歌測試人工智慧創建 YouTube 影片摘要
YouTube 正在帶頭改變其內容政策。在專門的支援頁面上，我們現在可以看到「真實模擬已故未成年人或致命暴力事件受害者的內容或有據可查地描述他們的死亡或遭受的暴力的內容」是被禁止的。如果發生違規，則會發出警告並刪除影片。對此添加了一個禁止發佈內容一周等。重複違規可能會導致完全移除通道。
來源 ：Youtube
