AI恐怕已學會自我進化 Anthropic呼籲:快踩煞車

新唐人亞太電視台NTDAPTV
1萬粉絲
979 次觀看·2026年6月6日
不受紅色資金左右的新唐人,就在中華電信MOD320!
💪行動支持,加入新唐人之友➡️ https://support.ntdtv.com.tw
📍歡迎訂閱電子報➡️ https://ntdfriends.com.tw/newsletter
AI 生成·可能包含錯誤
視頻概述
AI 生成AI公司Anthropic警告,人工智能可能很快具備自我改進能力,導致人類失去控制,因此呼籲全球產業建立剎車機制並放慢開發腳步。同時,川普政府簽署行政令,要求頂尖AI公司在發布最強模型前,必須提交給聯邦機構進行最多30天的網絡安全測試,谷歌、Anthropic及OpenAI均對此表示歡迎。
隨著人工智能的快速發展
安全風險也引發越來越多的關注
近日大型AI公司就警告
AI可能很快具備自我改進能力
甚至不再需要人類的幫助
該公司就呼籲
全球AI產業應該一起打造一個剎車機制
並需要放慢腳步
甚至暫停部分功能的開發
Anthropic表示
如果這種情況真的發生
人類可能會逐漸失去對AI的控制
因此為了人類的福祉
AI產業有必要放慢腳步
甚至在必要的時候暫停部分功能的開發
另一方面
川普政府也開始加強對AI安全風險的關注
要求頂尖AI公司
在最強大的模型公開發布之前
必須先提交給聯邦機構
進行網絡安全測試
根據川普總統簽署的行政令
多個聯邦機構將和AI開發商協調測試安排
新模型公開推出前
政府最多可用30天時間進行安全檢測
目前谷歌 Anthropic和OpenAI
都對這項命令表示歡迎
新唐人電視臺劉家家美國報導
