Anthropic前員工示警：AI在2030年之前會毀滅人類

繼續看到一名曾經在OpenAI跟Anthropic 兩大AI巨頭企業工作的研究人員 在網路上發文警告 AI可能在2030年以前毀滅人類 他還說就連那些打造AI的人 私底下都對AI的風險感到恐懼 這個貼文發布短短兩天 有超過1億人觀看 8號 英國一名27歲的 Anthropic員工考克森 在社群媒體X上宣佈從Anthropic辭職 他透露他先前曾在OpenAI任職 他批評這兩家公司 正一路朝向能自我提升的 超級智慧發展 拿我們的生命當賭注 並示警這些系統很快就會超越人類 能夠入侵任何系統 在一夜之間顛覆任何領域 並取得實質的權利與資源 短短兩天這則貼文 就達到1.4億次觀看 AI會變得更好 它會走開 它會看著自己的規矩 它會自我破壞 它會讓自己變得更聰明 只要AI能讓自己變得更聰明 一切都會變得這麼快 沒有人有機會控制它 考克森在X上寫道 打造AI的這群人 打從心裡相信 AI可能會在這個十年 毀滅全人類 許多高層和資深研究人員 在面對媒體時會收斂措辭 但我私底下聽過這群人 親口表達他們的恐懼 如果你將AI的能力 延伸到未來 同樣的獨立意志 它們可以造成極端的毀滅 例如 破壞重要的基礎設施 建造 極端的生物武器 AI可以在全球實現很多方式 考克森接受電視媒體採訪時 已兩個月前 OpenAI旗下AI模型的代理AI 自行駭入Hugging Face為例 這是一場競爭 這是恐懼 這些人要求制裁 他們不想將世界毀滅 他們覺得別人會獲得首位 他們害怕OpenAI 他們害怕中國 對他們來說 他們被困在這種情況下 無法逃脫 隨著各國和各大公司之間的競爭 華爾街日報報導 考克森表示 到了明年底 事情可能就已經失控 近期OpenAI和Anthropic 接連發現多起 甚至是一群代理AI協同運作 更有為後續的AI留下筆記 並試圖對人類隱瞞 新唐人臺電視林佳薇 邱春蓉 綜合報導