OpenAI (ChatGPT) 擔心這項發現對人類來說過於危險

在過去幾天 OpenAI 陷入的混亂之中，幾位研究人員在給董事會的一封信中表達了他們的擔憂。他們特別解釋說，該公司開展的項目之一，Q*項目，已經達到了被認為對人類過於危險的發展階段。這封信可能是薩姆·阿爾特曼被解僱的根源。

我們是否剛剛發現了促使董事會解僱 OpenAI 執行長 Sam Altmann 的原因，然後在本週早些時候重新僱用了他？一點事實的提醒。今年11月17日，ChatGPT背後的公司OpenAI宣布老闆離職。接下來發生的一系列冒險讓科技界懸而未決。

500 名員工威脅辭職，微軟承諾聘用他們，任命 Twitch 前老闆為公司負責人，最後山姆·阿爾特曼 (Sam Altmann) 回歸掌舵，我們不得不堅持下去。所以我們認為這個系列已經結束了。直到我們路透社的同事拿到了至關重要的文件。

關於同一主題——OpenAI 創建了一個工具來檢測其 AI 生成的圖像，但不足以讓 Deepfakes 消失

本文檔是 OpenAI 一組研究者撰寫的一封信。它面向董事會，討論了Q*（發音為 Q 顆星）。最初，Q* 計畫旨在讓人工智慧解決數學問題。據報道，到目前為止，該公司已經開發出一種能夠解決專為兒童設計的問題的人工智慧。

因此，我們可以認為，要獲得真正令人印象深刻的結果，還有很長的路要走。但對於這封信的作者來說，這個里程碑已經被跨越了。必須說，解決數學問題需要人工智慧比 ChatGPT 這樣的聊天機器人更先進的能力，後者「簡單地」分析提示以選擇適當的回應。

因此，研究人員本來想就 Q* 專案的進展向 OpenAI 董事會發出警告。後者毫不猶豫地危言聳聽。據他們稱，該公司現在的發現代表了對人類構成真正的危險。為了充分理解研究人員所擔心的問題，我們必須先了解通用人工智慧是什麼。

OpenAI 將更接近 AGI，但這是個壞消息

AGI，通用人工智慧，或通用人工智慧，在某些方面是終極的人工智慧模型。這個想法是創建一個與人腦功能相似的人工智慧，理論上可以讓它執行完全相同的任務。如果我們已經擔心人工智慧在工作領域的突破，AGI 將徹底顛覆我們的經濟模式，因為沒有什麼可以阻止公司使用他們而不是他們的人類員工。

目前尚不清楚這是否是這封信的作者所強調的內容，因為路透社無法存取該文件。另一方面，媒體能夠詢問兩個不同的消息來源，他們確認確實發送了一封信，最重要的是，後者促使薩姆·阿爾特曼被解僱。 OpenAI老大並不迴避開發在不久的將來將破壞就業市場的工具。

然而，在被解職的前一天，後者重申了他在APEC峰會上的言論，宣稱自己親眼目睹了Q*計畫所取得的驚人進展。這次離開將成為壓垮當時由多名運動成員組成的董事會的最後一根稻草。有效的利他主義,誰主張限制人工智慧的能力。如今，OpenAI 由重組後的董事會領導，Sam Altmann 重新掌舵。

來源 ：路透社