ChatGPT：OpenAI 老闆警告人工智慧的危險並呼籲加強監管

OpenAI 執行長 Sam Altman 自己也說：人工智慧對我們的社會構成了危險。後者在一篇部落格文章中呼籲各國政府為這個蓬勃發展的產業建立一個監管體系，其模式與核電的監管體系相同。

我們不再計算所提出的聲音譴責人工智慧為我們社會帶來的固有風險。然而，我們沒想到這些警報之一會直接來自 OpenAI（目前該行業最熱門的公司）的執行長。事實上，ChatGPT 的創建者很明確：必須在全球範圍內迅速建立起該行業的監管體系。

“在未來十年內，人工智慧有可能超越大多數領域專家的技能水平，並執行與當今最大的公司之一一樣多的生產活動”，後者在部落格文章中寫道。據他說，他所說的「超級智慧」很快就會成為人類最強大的技術。

人工智慧領域的一位領導者呼籲加強對人工智慧的監管

他強調，儘管這意味著許多承諾，但我們絕不能低估這種力量所產生的風險。此外，薩姆·奧爾特曼還提供了三種反思途徑，以更好地監管該行業。首先，他認為致力於人工智慧的公司必須協調制定確保使用者安全的工作方法。

因此，他想像政府會呼籲所有這些公司可以共同合作的項目，甚至達成一項共同協議來定義每年不得超過的人工智慧成長極限。“公司應該負責維持非常高的安全標準”，他補充道。

接下來，薩姆·奧爾特曼認為，人工智慧需要一個類似國際原子能機構的監管機構，其角色是確保和平利用核能。「任何超過一定容量閾值的工作 [...] 都必須提交給國際機構，該機構可以檢查系統、要求審計、驗證是否符合安全標準、對部署程度和安全級別施加限制等。 」。

關於同一主題——ChatGPT：你永遠不會相信聊天機器人每天要花多少錢 OpenAI

為了提出他的想法，OpenAI 的執行長表示，公司可以共同思考如何與這個國際機構合作，這將避免將所有這些責任歸咎於政府。最後，最後一點涉及企業確保人工智慧安全的技術能力。 Sam Altman 保證 Open 會投入大量資源研究這個領域。

儘管如此，後者的結論是，有必要讓公司自由開發他們的專案。“但是最強大系統的治理以及與其部署相關的決策必須受到嚴格的公共控制”他保證說，人工智慧是民主問題，人民也有發言權。

「目前的系統將在世界各地創造可觀的價值，儘管它們存在風險，但這些風險的水平似乎與其他互聯網技術的風險水平成正比，而且該公司可能採取的方法似乎是合適的。」,術語-t-il。

來源 ：開放人工智慧