馬斯克與眾多人工智慧（AI）專才、商業領袖共同簽署了一封公開信，呼籲所有AI研究單位應立刻中止開發超越GPT-4能力的AI系統，以免對社會和人類帶來不良影響。
這封公開信（鏈接）由非盈利機構「未來生命研究院」（Future of Life Institute）發布，截至新聞稿稿截止，已有1,125人簽署。
其中簽署者包括科技界名流，例如馬斯克（Elon Musk）、蘋果共同創辦人史蒂夫·沃茲尼克（Steve Wozniak）、Stability AI創始人艾馬德·莫斯塔克（Emad Mostaque）、AI領域重量級學者約書亞·班吉歐（Yoshua Bengio）和斯圖爾特·羅素（Stuart Russell）等。
信中說，大量研究證實，具備與人類競爭力的AI系統，可能對社會和人類帶來深遠影響，這一觀點也得到頂尖AI研究機構的認可。
信件中，專家們呼籲高級AI研究至少暫停六個月，讓AI研究團隊和獨立學者在此期間共同制定和實施一套先進AI開發與設計的共享安全規範，並由獨立的外部專家進行嚴格監管。
信中提到：「若無法迅速推行暫停（計劃），政府應介入並制定暫停指令。」
信中描述，近月來AI研究單位陷入「一場無法遏制的競爭」，爭相開發越來越強大的數位智慧，然而，即便是AI的創造者，也無法理解、預測或可靠地控制。
「僅當我們確信其影響是正向的且其風險可控時，才能研究強大的AI系統。」信中寫道。
專家們強調：「人工智能的研究和開發應重新聚焦於使今天強大的、先進的系統更加準確、安全、可解釋、透明、健全、一致、可信和忠誠。」
信中亦敦促開發者與政策制定者攜手合作，加強對AI的管理和監督，設立公共基金，並建立資源充裕的機構，以應對AI對經濟和民主可能產生的破壞性影響。
雖然特斯拉也將AI應用於自動駕駛系統中，但馬斯克一直毫不隱瞞地表示他對AI的擔憂。
馬斯克曾是OpenAI的共同創始人，但對OpenAI的現狀並不滿意，並在2月發推文：「成立之初OpenAI是一家開放源碼的非營利公司（這就是為什麼我將它命名為OpenAI），作為對Google的制衡，但現在它已變成一家閉源盈利公司，實際上受到微軟的控制。」
「這完全不是我的初衷。」馬斯克當時寫道。
作為公開信簽署學者之一，紐約大學榮譽教授加里·馬庫斯（Gary Marcus）對路透社表示：「這封信雖然不完美，但它的精神是對的：我們需要放慢步伐，直到我們更加了解這樣做的後果。」
「它們可能會帶來嚴重的損害⋯⋯大型企業對他們所做的事情變得越來越神秘，這使得社會很難抵禦任何可能產生的損害。」
留言