OpenAI 技術總監 Mira Murati 宣布，她的公司正在測試一種用於檢測人工智慧創建的圖像的新工具。
生成式人工智慧的出現讓數百萬網路使用者能夠使用或多或少真實的圖像創建工具，在不到一年的時間裡，諸如DALL-E 甚至Midjourney 之類的生成式AI 程式使得網路上充斥著大量的影像生成工具。數以百萬計的合成作品有時非常甚至太逼真。這個問題是如此嚴重以至於一項科學研究聲稱人工智慧和深度造假甚至可能扭曲我們的記憶。
ChatGPT 的共同創辦人表示，該技術檢測人工智慧創建的圖像離絕對正確不遠了，“99%可靠”。這是一個非常光榮的分數，但該公司人工智慧創建的內容檢測器有一個弱點，而且是最重要的：它只能發現“假貨”，如果它們是用設計的達爾-E。顯然，基於 GPT-3 的模型非常受歡迎，但實際上，使用這種多模態 AI 創建的圖像的價值還不到產生的 150 億張影像中的 6%自這項技術誕生以來。
據 EveryPixel 網站稱，一年內「使用文字到圖像轉換演算法創建了超過 150 億張圖像」。相比之下，就需要150 年來，攝影師捕捉到如此多的照片，準確地說是從 1826 年到 1975 年。深度假貨和合成圖像仍然擁有光明的未來，特別是在公眾對武器的選擇越來越多的情況下。服務多種多樣，如 Midjourney、DALL-E、Stable Diffusion 和甚至微軟畫圖，建議使用人工智慧產生圖像。
其他科技界的知名人士都專注於提供旨在確定原產地的標籤和標記的內容。 Adobe 尤其受到這些生成式人工智慧的流行的威脅。 Photoshop編輯器因此推出了識別人工智慧圖像的通用符號，並希望所有市場參與者都採用它。
來源 ：彭博社
