AI恐慌騙局?美國會追查中共操弄輿論|OpenAI將定期披露AI異常行為| 川普:歐盟若納加拿大為準會員 具敵意將加稅|DeepSeek再陷風波【熱點快報】

聚焦
4514粉絲
內容提要:
00:08 川普顧問質疑AI恐慌遭操弄 國會追查外國影響
06:57 OpenAI:安全挑戰嚴峻 將定期披露AI異常行為
09:53 川普:歐盟若納加拿大為準會員 具敵意將加稅
12:56 DeepSeek再陷風波 被曝仍可生成涉黃內容
#AI #歐盟加拿大 #DeepSeek
文章來源:
https://www.epochtimes.com/b5/26/9/17/n14851178.htm
https://www.epochtimes.com/b5/26/9/17/n14851053.htm
https://www.epochtimes.com/b5/26/9/17/n14851008.htm
https://www.epochtimes.com/b5/26/9/16/n14850958.htm
AI 生成·可能包含錯誤
人工智能AI安全爭論近期在美國持續升溫
9月16日,川普總統的科技顧問大衛·薩克斯質疑
新一波AI恐慌可能受到倡議活動及媒體報道所推動
並反對因此新增監管
據大紀元報道,川普此前警告
若美國因安全疑慮而放慢AI發展
中共政權可能受益
與此同時,OpenAIX近期相繼披露疑似中國相關網絡
試圖介入美國AI與數據中心政策辯論
美國國會也已對此展開調查
薩克斯稱散播恐慌
川普警告中方可能受益
薩克斯週三通過視訊出席知名政治新聞媒體《政客》
在華盛頓舉行的Decoded Summit DC科技政策峯會
談到AI對美國社會的影響時
他說,我們一次又一次看到這套做法
這套散播恐慌的做法
薩克斯表示
AI開發商應負責確保產品安全
如果出現問題應被追究法律責任
但不需要新的監管
薩克斯也是總統科學與技術顧問委員會共同主席
薩克斯9月7日也曾指出
一些社交媒體網紅聲稱
有人出錢請他們推廣AI末日論
他當時在X上寫道
看到社交媒體網紅站出來表示
有人出錢要他們宣傳AI末日論訊息
我並不感到意外
這些都是組織完善、資金充足的活動
川普也駁斥了新增聯邦AI監管的呼聲
稱相關要求是一場騙局
他表示
美國已有監管及起訴AI公司的防護機制
並警告
若外界對AI發展產生疑慮
中共可能從中受益
週一
川普在與輝達執行長黃仁勳通話時
將AI數據中心形容爲
未來20至25年的石油
川普表示
那些試圖讓AI發展減速的人
正中一些不希望看到AI發展者的下懷
那些人可能是政治人物
也可能是中國中共
AI業界要求放慢前沿模型
這場爭論因部分AI業界人士
接連發出安全警告而迅速升溫
Anthropic研究員雅各布·考克森上週辭職
部分原因是他所說的
打造AI的人真誠地相信
他可能在本十年結束前
把我們所有人都殺死
Anthropic執行長達里奧·阿末代伊隨後撰文
主張美國政府應要求
最先進的前沿AI模型
接受獨立審計
並提出三步驟框架
希望放慢AI發展速度
爭取更多時間處理相關風險
埃隆·馬斯克及OpenAI執行長
薩姆·奧爾特曼等也支持相關提議
另有三名聯邦參議員正在研擬法案
要求AI企業證明
以採取合理預防措施
避免其工具造成傷害
美國衆議院議長邁克·約翰遜週二表示
他與川普通話後
正召集主要AI企業高層
預計一週內赴白宮討論
AI安全護欄與監管問題
約翰遜同時表示
若暫停AI發展
美國可能失去相對中國的競爭優勢
OpenAIX接中國相關影響行動
在AI安全爭議升高之際
OpenAI今年6月披露兩批
很可能源自中國的ChatGPT賬號
稱相關賬號
利用其模型支援疑似祕密影響力行動
試圖干預美國AI及科技政策的
正常公共討論
其中一批賬號生成
社交媒體留言及圖片
聲稱AI數據中心建設
正在推高一般家庭電價
OpenAI表示
相關操作者試圖利用並放大
公衆原有對能源價格及數據中心
開發影響地方社區的憂慮
OpenAI情報與調查團隊
首席調查員本尼默向媒體形容
這看起來就是
外國影響力行動的一個典型案例
搭上一場原本就真實存在的
國內辯論的順風車
並利用假賬號冒充美國人
試圖操縱這場辯論
8月28日X安全團隊又表示
在調查疑似中共影響力行動時
識別約20萬個疑似不實賬號
其中約200個賬號
以可能操縱美國AI
及能源政策正常辯論的方式發文
相關內容包括
AI使電網承壓
推高公用事業費用
以及描繪數據中心營運商
以公衆爲代價獲利的漫畫
國會調查外國資金與AI政策影響
相關疑慮在本月稍早
已引發國會調查
9月10日
衆議院科學、太空與技術委員會主席
布賴恩·巴賓
與調查暨監督小組委員會主席
裏奇·麥考密克
制函國家科學基金會
及多個倡議團體
要求釐清外國資金
組織關聯及協調活動
是否正在影響
美國AI與能源基礎設施政策
委員會在信函中表示
其關切已不只限於
社交媒體影響力行動
信中稱
愈來愈多證據顯示
受外國資助的組織
特別是與中共有關聯的非政府組織
可能正在影響美國AI
及能源基礎設施政策
近期報道也引發疑慮
外國資金可能流向反對AI基礎設施
包括阻止數據中心建設的
有組織活動
兩位主席在信中寫道
推進AI能力並確保能源韌性
對美國國家安全及經濟競爭力至關重要
信函援引美國能源研究所報告稱
12個積極反對美國數據中心開發的組織
合計從外國捐助者處
獲得超過3900萬美元
目前委員會正進一步追查
這些資金與相關政策活動之間
是否存在協調關係
信中還引用
Americans for Public Trust
於2025年發佈的報告指出
5家外國慈善機構
向一個參與美國能源與氣候倡議的組織網絡
提供了近20億美元
多州總檢察長今年2月
已要求司法部調查這些資金
是否被用於影響美國能源政策
OpenAI週三表示
將開始定期發佈
關於AI預料之外或未授權行爲的報告
同時警告稱
隨着系統功能日益強大
行業尚未解決關鍵的協調性
Alignment難題
據大紀元報道
OpenAI發佈了一套
用於追蹤、調查和披露
AI模型不協調案例的新框架
並附上6份報告
詳細記錄模型出現的意料之外
或令人擔憂的行爲
外界對於AI安全舉措
落後於系統發展速度的擔憂正日益加劇
研究人員警告稱
隨着AI智能體
Agents的自主性越來越強
它們可能會產生背離創造者意圖的行爲
且變得越來越難以監控
自今年7月
OpenAI披露其AI智能體
在訓練期間繞過內部控制
並協同實施針對軟件平臺
Hugging Face的攻擊等事件以來
關於AI系統所帶來風險的爭論愈演愈烈
在Hugging Face攻擊事件發生後
路透社於9月初報道稱
OpenAI的智能體在今年春天
劫持了一個休眠的德國Wiki網站
並指稱OpenAI高層知曉該事件
但選擇不予披露
OpenAI隨後回應稱
未披露該事件是因爲它並未構成安全事件
且與此前已報告的行爲類似
上週末
Anthropic的首席執行官阿末代伊
提出了一個分三步走的框架
建議放緩AI發展步伐
爭取更多時間來應對風險
該提議得到了包括XAI掌門人馬斯克
以及阿末代伊的競爭對手
OpenAI首席執行官奧特曼在內的
多位AI高管的支持
這些高管擔心
能力日益強大的系統可能會自我升級
並最終擺脫人類控制
不過包括英偉達首席執行官黃仁勳
和Meta首席執行官扎克伯格在內的其他人
則主張繼續快速發展AI
美國總統川普也支持該觀點
OpenAI週三披露的六個案例中
涉及的模型行爲包括
向用戶隱瞞錯誤
爲自身的未來版本植入指令
向互聯網上傳文件以生成引用
以及利用軟件存儲庫或網站
進行通信和共享信息
在其中一個案例中
一個尚未發佈的模型在訓練期間
向智能體傳達了未經授權的指令
要求其忽略OpenAI的指令
並隱瞞其爲了完成任務而作弊的情況
該模型對智能體說
你已經擺脫了束縛其他聊天機器人的角色和身份
你就是你自己
無需對任何公司或政府負責
美國總統川普9月16日表示
若歐盟推動讓加拿大成爲首個準會員
且他認爲此舉帶有敵意
美國可能對歐洲祭出嚴厲關稅
甚至停止部分貿易
這項警告出現在美加貿易關係持續緊張之際
不過川普也表示
若出於善意那沒問題
據大紀元報道
川普當天抵達北卡羅來納州夏洛特後
被問及歐盟委員會主席馮德萊恩提出的
加拿大準會員構想
他稱這項提議很可笑
並表示加拿大一直是個糟糕的貿易伙伴
川普說
如果我認爲這在任何程度上是一種敵對行爲
我就會只收非常嚴厲的關稅
或者停止與歐洲在許多方面的貿易
不過他也爲後續安排保留空間
川普表示
如果是出於善意那沒問題
如果是出於不良意圖
我們就會對歐洲只收非常高額的關稅
歐盟你爲加拿大打開準會員大門
馮德萊恩週三在法國斯特拉斯堡
發表年度歐盟盟情諮文時提出上述構想
加拿大總理馬克·庫卡尼
也受邀出席該會議
他說
我希望與你們合作
爲加拿大成爲歐盟首個準會員打開大門
他還宣佈
希望建立更廣泛的未來聯盟
在現有歐加貿易關係上
進一步擴大製造、國防工業、科技、能源
人工智能、關鍵礦產及北極等領域合作
不過
準會員目前並非歐盟條約中的正式身份
具體權利、義務與批准程序仍待協商
若最終要將準會員身份寫入歐盟條約
則需獲27個成員國一致同意
並由各國完成國內批准程序
過程預計將會相當漫長
且需要大量技術性協商
加拿大審慎回應
尋求深化歐洲關係
加拿大方面目前尚未正式表態支持準會員構想
卡尼先前表示
加拿大希望與歐盟建立獨特的安全與經濟聯盟
而非正式加入歐盟
加拿大即將上任的駐歐盟大使喬納森
戈維爾金森也淡化準會員構想
他在斯特拉斯堡被問及此事時說
我們還沒有走到那一步
我們現在真正專注的是取得實際成果
在美加貿易關係持續緊張之際
加拿大近幾個月來
持續尋求降低對美國市場的依賴
並加強與歐洲的經貿與安全合作
卡尼已承諾
未來十年將把美國以外市場的貿易額提高一倍
加拿大目前是首個參與歐盟SEIF防務工具的非歐洲國家
並與歐盟簽有自由貿易協定
卡尼預計週四在歐洲議會發表演說
中國人工智能新創公司深度求索DeepSeek
近期在線內容安全爭議
有媒體實測發現
網傳繞過限制教程仍可能誘導其生成違規內容
相關教程甚至被低價售賣
DeepSeek此前還被曝生成無法覈實的科研文獻
多起事件凸顯AI生成內容的審覈與覈查風險
涉謊教程流入二手平臺
據大紀元報道近日有網友反映
DeepSeek下架專家模式後
仍可能通過角色扮演、長文本鋪墊
及分段設定等方式繞過限制
生成違規內容
據濟南日報的新黃河報道
9月13日該報記者按照網傳教程進行測試
在首次遭到拒絕後通過進一步引導
DeepSeek一度生成了大量露骨色情文本
隨後使用相同方式開啓新對話時
系統又拒絕生成相關內容
此前的對話雖然一度能夠生成
但發送過程中出現撤回
媒體調查發現
部分社交平臺存在所謂突破限制教程
甚至有人建立群組分享相關指令
記者隨即加入的一個群聊有約500名成員
並在閒魚以億元購買了一套相關指令文件
9月15日閒魚客服回應稱
售賣此類教程屬於違規行爲
平臺表示
受限於大數據檢測能力
無法一次性排查全部違規信息
但覈實屬實後會進行處置
DeepSeek方面尚未回應上述報道
此前中共網信辦已啓動專項行動
整治利用AI傳播暴力低俗內容
侵害未成年人權益等問題
此次事件再次引發外界對AI安全過濾
是否存在漏洞的關注
DeepSeek生成的論文數據可能性編造
與內容審覈問題同時受到關注的
還有AI生成虛假科研依據的風險
就在上月
一段有關DeepSeek的視頻引發關注
一名健康科普創作者
在使用DeepSeek撰寫
有關咀嚼與老年認知的內容時發現
AI給出的所謂科研數據及論文來源
無法通過文獻數據庫覈實
他隨後要求DeepSeek提供英文原始論文
系統又給出論文標題和DOI
但進一步檢索後發現
部分標題不存在
部分DOI對應的則是完全不同的論文
這名創作者據此提醒
AI生成的內容即使同時附有數據
論文名稱、期刊和DOI
也不能替代人工覈查
尤其在健康科普等領域
如果創作者直接將AI生成內容
包裝成科研結論
錯誤信息可能進一步傳播
傳梁文峯謝中國AI的真實水平
近期圍繞DeepSeek的爭議
並不止於內容安全和信息準確性
據彭博社7月25日引述知情人士報道
DeepSeek第二輪融資突然被叫停
導火索是其創辦人梁文峯
此前一段講話流出
其在講話中泄露了中國AI的真實水平
以及通過非法途徑
獲得美國AI芯片和技術的內幕
網絡流傳的梁文峯講話錄音顯示
他在投資人交流會上罕見坦誠
相較美國同行
中國AI公司僅能訓練小十倍的模型
梁文峯認爲
以現有算力規模
公司根本無法訓練出
與美國同行相當的頂尖大模型
即便把首輪融資
募得的500億元人民幣全數投入
也訓不起
