
中國禁聞精選視頻
3444粉絲
#杜奕瑾 #AI #中國禁聞
杜奕瑾:生成式AI 的破壞力與學界的對策,中共如何利用AI 侵害國際社會
🔥購物商城🔥每日好物推薦🔥 https://www.epochtimes.com/gb/ncid1549384.htm
💪🏻捐助新唐人 ► https://donation.ntdtv.com
/ @health8899-ml5ct
🌐 歡迎關注其他平台 🌐
‣‣ 商業合作 ► [email protected]
‣‣ 訂閱新唐人電子報 ►https://www.ntdtv.com/b5/registration...
‣‣ 訂閱新唐人快報►
/ @ntdnewsflash
‣‣ 訂閱新唐人電視台頻道►
/ 新唐人電視台ntd
‣‣ 新唐人官方網站 ► http://www.ntdtv.com
‣‣ 臉書 ►
/ ntdchinese
‣‣ 推特 ►
/ ntdchinese
‣‣ 電報 ► https://t.me/NTDChinese
‣‣ 爆料 ► [email protected];+1 (201) 614-3989;
‣‣ 翻牆軟件 ► https://git.io/fgp88
‣‣ 訂閱「乾淨世界」► https://www.ganjingworld.com/zh-TW/ch...
‣‣ 購買紀念品 ► https://teespring.com/stores/the-epoc...
‣‣ 產品推薦 ► https://www.youlucky.biz/shop
© All Rights Reserved.
您好杜老師非常感謝您能夠參加我們的節目
我們現在可以開始嗎
可以
好是這樣的
創新工廠的董事長將CEO
名醫萬物的CEO李開福他曾說AI將改變世界
然後他在近期的大陸的一個會議上
他說AI2.0是有史以來最大的科技革命平臺
那我的問題是
您所說的這個認知戰信息戰
還有虛假信息越來越多的被用來破壞民主社會
這些戰略呢
可能會製造不合
削弱公衆對機構信息並影響公衆輿論
那請問這樣的想法
您的根據是從哪裏來的呢
謝謝
我想這個分兩塊
就是在今年
今年就是因爲在年初的時候
應該是去年年初的時候
GDP3.5的發佈
所以其實全世界有見識到這種生成式AI的威力
那生成式AI的威力就是
它不管是在過去這2023年的這個發展
它不管是在文字在影像
或者是在影片的這種生成
它其實都是做到這種飢渴亂掙的這種程度
那所以你可以看得到就是說
其實在過去一年這種生成式科技是百發奇幻
那所以像Jason Huan就是黃澄欣有講過
那其實不是隻有李開埠
這世界上有非常多的這個科技大佬都有講
講到就是像黃澄欣他說這是
人工智慧的這個iPhone時代
其實他的意思就是說
人工智慧在之前的發展
可能大家都還是覺得說跟自己個人是沒有關係
那但是到了今天的這個iPhone時代的意思就是說
其實它已經到了這種每個人都會去用
那已經是像這種人所欲知的這種形式
那至於生成式科技在訊息戰的這個角色是怎麼樣呢?
就我們其實在去年年初的時候
我們就大概預測到
因爲我們在我們可以知道全世界在這種訊息操作
就大家知道這看橋分析事件之後
有非常多的這種境外的這種公關公司
它是像看橋分析一樣
是在專門操作這個民主國家的這個選舉
那看橋分析這家公司
它就操作全世界200多場選舉
而且都是非常的成功
那以過去傳統我們看到的訊息操作
它會沒有像過去一年這個時候發展的不一樣的地方
就是過去傳統的這種訊息操作
它會比較像很多就是複製貼上
只是稍微改一下文字
但是我們在過去一年我們看到這個訊息操作
它是很快的變成非常的sophisticated
就是說它是很有策略
而且是很成熟的
不管是在大量的這種製造短影音
那以及是我們看到這種協同賬號
也就是說這種大量受到程式控制
或者是一個公關公司控制的這種賬號
它的這個在操作的細膩度跟成熟度
也都因爲這個資訊科技的這個進步之後
其實在一般人的眼裏基本上都是飢渴亂真
是很難去做分辨的
OK 據瞭解您這次來美國是參加一個會議
能不能給我們大家介紹一下具體的會議的內容
和你們這個會議所要達到的目的呢?
這其實是一個比較學術性質的這種閉門會議
就是說其實大家都知道在生存式科技
在未來的這種科技的倫理有非常多的這個挑戰
就比如說像這種各種的這種創作
其實透過生存式科技很容易就被學習
像現在有非常多的這種畫家他們的這個作品
透過這種人工智慧的這種方式很容易就去模仿
那這個它在未來的法規立法這部分應該是要怎麼去
限制防止這種生存式科技的濫用
這是一方面
那另外一方面就是剛纔有講到就是
在訊息的操作這個部分
其實大家都知道民主國家過去大家都覺得說
像網路或是科技應該是會讓言論越來越開放
越來越自由
但是其實我們在這幾年看到全世界民主國家的這個發展
其實科技發展尤其是像現在這種境外公關公司的這種操作
以及像這種人工智慧發展
我們可以看得到全球其實現在有個民主國家的民主指數
不斷地下降的這種趨勢
那不斷下降這種趨勢其實看就起來
這些專家學者在討論有很大的一個原因就是
我們過去其實以爲這種資訊科技是會帶給人更多的這個自由
但實際上這種資訊科技在現今的利用
其實人自己還沒有用上
那來管控人的這種操作
那都已經被很多的這種國家
或者是很多這種公關公司去濫用
那這就是現在在討論這種數位人權
以及我們在未來的這種科技人理該怎麼去進行的這方面的探討
那這個領域裏面就是有專家學者
那也有其實像這種認知操作的話
就是有資訊安全相關的這個專家都有在這個會議裏面
有中國方面來的人嗎?
這個會議是沒有中國方面來的人
OK 主要就是民主國家的一些專家是嗎?
對 就是比較學術相關的這種專家
那很多人都擔心中共會利用AI爲其服務
你怎麼看這種擔心?值得關注嗎?
目前AI是否已經成爲中共侵害國際社會的工具之一呢?
如果說你去看看跳分析事件的話
看跳分析這家公司是在英國
它雖然說是在民主國家裏面
但是它是可以接受比如說俄羅斯
或者是這種極權國家的這種資金
然後就去對民主國家做資訊操作
那所以相對來講的話
民主國家要去做這種境外的訊息操作
因爲在民主國家會比較困難
因爲民衆會看這個資金的流向
那但是這種訊息操作
在認知操作是在民主國家影響選舉是非常有效的結果之下
它就很自然而然變成比如說中國、俄羅斯的這種工具
它去影響到一個國家對民衆
以及一個國家的這種政治的相關主要的這個決策者
它如果說常常有停網絡上面的民意
現在都是可以透過這種境外的公關公司
我們可以看到有很大的程度受到威脅
您認爲中共它通過了哪些方式利用AI爲它服務
並危害國際社會呢?
我不要講說危害啦
就是說其實這種就是增加它們比如說
維繫它們的這個國家利益
就比如說像如果說去看中國
最近在做深層次AI的這種立法
它其實第一點就提到這個是要符合它們國家的這個利益
要宣揚社會主義
也就是說其實在深層次科技在西方的話
就會現在在強調非常多的這種商業利益
但是在其實在中國來講
它第一個考慮的就是要先注意到這個技術本身
是不是可以符合它的這個國家利益
那我們可以看得到就是
在比如說像CHP一開始release的時候
因爲CHP它大部分的資料是美國這邊收集的
所以90%都是英文
10%是中文
那所以很自然中國就會覺得這種東西是符合美國的這種政治思想
那或者是它的社會價值
所以它第一時間就以這種演算法可能會有偏見的這種方式就是把它禁了
那同樣中國它自己本身也會訓練自己的相關的深層次科技跟語言模式
那很自然如果說是以中國的資料去做訓練的話
它就會有存在中國的思想以及它所有的這種社會的偏見
這就是我們剛剛講的它會比較崇尚他們的這種價值
那很自然你如果說以一個體驗你用了這方面的這種技術的話
如果說它以這種設備同時去做輸出的話
那你就是會遵循到他們的這種邏輯以及這種操作的這種手法
那這也是其實在這幾年有很多在講這種科技倫理
就是說我們過去以前會覺得這種資訊科技在應用的時候
我們只是看到它好不好用
看它的這個價錢是不是最划算的
但是在未來因爲這種人工智慧它可以幫你做非常多的這種決定
那很多決定是非常的critical
那以及它在這個過程中會收集到非常多的這種個人的這種隱私資料
那我們要怎麼在保障科技倫理以人爲本
那這種數位的人權不會被侵害
隱私不會被侵害以及它會不會損及
就是因爲某種人工智慧演算法的偏見
以至於它的模型去顫揚某種這種價值觀
那這個其實就是現在講的這個model的evaluation
AI的bias現在大家會重視
OK 那對於中共的這個種種行爲
是否應該延期國際社會的警惕、關注或防範呢?
如果說我們去看現在的民主國家選舉
尤其是像臺灣的話
那比如說我們其實在臺灣
今年的就這一年來的這個總統大選
我們其實是可以看得到這種資訊科技的這種運用
在跟過去比起來
它其實又是進步的非常多
那就比如說像我們可以看到有非常多的這種
鞋龍賬號
所謂的鞋龍賬號就是說它並不是一般的使用者的賬號
那這個賬號
它有可能就是像我們剛纔講的這種境外通話控制所控制
那或者是說像剛纔講的
就是透過這個人工智慧的這種程式
去產生大量的這種賬號
它在網絡上去傳遞它想要傳遞的這種訊息
那從我們在過去一年我們看到的就是
其實這種資訊科技的這種進步
那其實現在的這種賬號的這種行爲
就會越難
一般人是越來越難知道
而且是它的影響的範圍是越來越大
那它的這個做的這種操作也就會越來越有效
那所以以這個角度來講
我覺得民主國家應該要有一個認知
就是說如果不去重視這種科技倫理
以及這種數位人權
以及這種我們怎麼去衡量這種認知作戰的這種影響力
那很有可能未來的很多人在覺得就是說
未來在2020年可能是最後一次這個人的這種自由意識的選舉
也就是說其實在現在往下走
因爲深層次科技的這種氾濫
以及這種線上的這種虛假的賬號的這種
協同賬號的這種氾濫
你以後在網路上看到的言論
以及看到的這種看起來是網友的這種行爲
其實很多可能都是由深層出來的
那如果說現在不加以去思考
它對未來民主國家的這個影響的話
其實我們現在即使是西方的這種社交媒體形態
或是西方的這種深層次科技
都有可能拿來作爲攻擊的這種武器
那其實如果不採取合乎道德的保護措施
人工智能是否會利用人工智能扭曲真相
在網絡上無限制的這種傳播
那麼您覺得現在是否有比較有利的立法
來保護這一個呢
或者是我們是否需要這種
我覺得在現在的這個階段
全世界其實現在都已經開始在思考
這種科技輪椅該怎麼去立法
所以像歐盟跟中國都算是跑得最快
那中國在立法的部分
就把這個社會主義價值跟國家的保護
其實放在第一順位
那歐盟的話其實它就是會用這種risk assessment
就是先從這個risk
依照你使用這個人工智慧的安全等級
有哪些是禁止做的
有哪些是高監管
那比如說像剛纔講的這種
社交媒體的性質控制
這種就是禁止做的
那對於這種一個人群的social scoring
就是利用生物辨識的方式去
把人去做分級或者是做信用平等
那這個也是禁止做的
那如果說在醫療的這部分
或者是在金融的這部分
就高風險的需要去做管制
那以美國來講的話
美國這邊其實立法相對來講
因爲這些像Microsoft Google這種大科技公司都在美國
我們看到它的立法方向是
相對來講是沒有像歐洲跟中國跑得那麼快
但是它走的方向是從保障數位人權
就比如說像在2022年有這種AI Bill of Rights
以及在2023年就是
有這種美國的總統力
確保這個人工智慧是符合
符合這種科技倫理
與相關的道德儀式的這種標準
但是其實不管是歐盟或者是美國
那它目前的框架都是比較在大的框架
那比較細節的這個立法
其實大家也還在摸索
那如果說是細節立法
以這個臺灣來講的話
臺灣人工智慧實驗是我們做的
就是我們先把這個問題把它衡量出來
像我們剛纔講到
我們如果說知道
那隻操作是一個問題
那我們怎麼去衡量這個問題有多大
那我們怎麼去知道
跟察覺這個操作的這個影響力
所以我們在像AI Lab
在臺灣我們就有一個infodemic的網站
infodemic.cc
那我們就建立了一套機制
我們可以
比如說以這個臺灣總統大選爲例
那我們就可以知道
現在這個時候
透過人工智慧我們去衡量到
有哪些輿論正在被操作
有哪些協同賬號正在被操作
正在炒作這些話題
那這些協同賬號
我們其實可以往前去看它的歷史
那我們就可以知道
過去它也操作了哪些事情
那就知道哪些議題被操作
再往前看協同賬號的這種操作歷史
其實我們就可以知道
這些協同賬號
他們的背後的目的可能是什麼
以及它跟
比如說像跟官媒的這種呼應的關係
我們大概就可以知道
它是屬於哪個境外的勢力
去影響到這些協同賬號去做操作
有一點觀點認爲
說是現在必須
對這種事情迅速地採取行動
那麼否則
運用方式的惡意創新的這個速度
可能會超過任何的這個監管措施
就是說短期
就是認爲目前呢
就是建立外部監督
比以往更加的重要和迫切
您怎麼看呢
我其實非常認同這個看法
就是說像像爲什麼
以臺灣爲例的話
我們在第一時間
其實臺灣可能在這次總統大選
是全世界第一個用人工智慧
大型模型去看
網絡上的這種訊息傳遞
以及這種虛假信息
是怎麼去做散播的
那以我們觀察的這種結果
我們其實是覺得
如果說
其他世界的這種民主國家
不採取行動去衡量這種
境外的這種訊息操作的這種影響
以這種目前
人工智慧的能力
以及這種操作的這種成熟度
基本上
我們可以預期
大概2024年
大部分的國家的民衆
其實是沒有這種防禦能力
去抵抗這種虛假消息的
虛假消息
這種訊息的這種散播
那我
我們舉一個例子來講的話
就是臺灣今年其實也有這個
雞蛋議題
就是說臺灣在某個期間
其實大概有5%的這種
shortage
那藉由這個
農產品
週期性的這種shortage
那我們在三週的這種
訊息操作
我們觀察到三週的訊息操作
大概有100多個議題的這種戰場
其實
臺灣的這個農業部長
其實在
三週之後就下臺了
那過去大家會覺得說
有這種訊息操作
你是不是把它澄清
或是闢謠就可以了
那我們看到這種操作的這種
速度跟
手法
我們相信其實
你過去的這種闢謠的方式
是完全是沒有用的
因爲你每闢一個謠
其實就會有
其他十個
debunking of debunking
的這種訊息操作
來影響到你闢謠的這種
公正與正確性
那所以其實像
在雞蛋事件的話
是四十茶組織派
有闢了超過這個十個
跟雞蛋相關的這個議題
但其實到
後來民衆
但這戰場是有三百個
那民衆其實到最後
對闢謠是無感
其實他會覺得
就是這個農業部是有問題
當他在
網絡上看到這方面
單向的消息更多的時候
其實他很難去
改變他對這個
一件事情的觀感
那
也就這其實也是給
我覺得這個以臺灣的一個例子來講
這也是一個
給全世界一個警惕
就是說
以過去傳統的這種
我們四十茶盒在闢謠
現在其實不太有用
一方面就是說現在
的認知操作
大部分都很多都不是假消息
他是算是誤導消息
他是真的
但是他是不正常的
放大單一的這個
單一的這個角度
造成你對這個事件的
這種錯覺
第二個就是說
其實你對他的事件去做回應
因爲他的事件
透過現在深層次科技
你每闢一個謠
其實我們透過全局闢謠
我們都是可以做到
一本正經胡說八道的這種
那再去影響到
民衆的這個觀點
那基本上
闢謠的速度跟效率
都是遠不及
這種操作的速度
OK
你們
之前有跟我說您是5號
舉行會議
現在已經結束了嗎
整個會議已經結束了嗎
對已經結束了
您覺得您這次會議的
有什麼收穫
或者是成果如何呢
我想
其實在這個會議我們可以
知道就是說
有非常多這種
在這個資訊領域非常
重要的這種重量級的這種人士
其實他們參與了
這個會議
因爲這是一個閉門會議
所以我們就不方便講
這個是誰參與
但是以目前來講的這種角度
就是大家對這種
第一個就是
人工智慧在這種科技倫理
像臺灣
臺灣其實是在全世界最早
建立國家級的
年班師學習
做行政負責任的這種
人工智慧
所以大家對這種
科技倫理以前
可能會覺得說賺錢
可能比較重要
科技倫理可能在現在或許可以等一下
但大家也知道像
OpenAI前一陣子的這個事件
其實它就是一個
科技倫理跟這種商業利益的這種
組織內部的這種衝突
那這種衝突
其實在OpenAI這邊
發生了
那以AI Lab來講我們是亞洲第一個
開放的這個人工智慧實驗室
那當然這些專家學者
就會很有興趣看我們
對這件事情的這種看法
那從我們的角度來講
就是過去
過去像在美國很多這種
科技的這種決定
會是比較像Wall Street Drivers
的這種Big Tech的這個
過去
就是說它很多是這個
但是
如果說
以利爲主的話
其實我們就會看到
科技被運用在
不對的地方
那其實到最後受到傷害的
那比如說像
我們可以看到Twitter跟這個
Facebook其他平臺是
相對來講是
越來越沒有辦法去做
去衡量它的這些操作
那相對受到
危害的就是民主國家
自己本身
所以這個科技倫理在
可信任負責任的人工智慧
我相信在
接下來是會是
全世界這個很重視
而且會不斷地去
Echo的這個事情
那另外來講的話就是
大家也意識到
就是說從臺灣的這個
訊息操作
那大家其實也意識到
人工智慧這種
估計大家覺得生成式科技只有在
用在Deepfake去做
假的影片或者是假的
照片但是其實
影片跟畫面的這種生成
反而不是
最主流的
其實最主流的現在
可能危害最大的也就是
像剛纔講的就是透過大量的
這種
受到控制的賬號
在
控制網絡這個輿論
那比如說像在五二戰爭之前
其實我們有偵查到
在俄羅斯入侵烏克蘭之前
其實Twitter大概
每十個討論到烏克蘭的
這個賬號有一個
那就是在PolRussia的
這個言論而且
感覺這個賬號是有非常強的
這種使用訊號
那同樣像比如說之前這個
PolRussia來臺灣的
那段時間
大概在臺灣的
這個輿論每四個
賬號那每四個留言
有一個我們觀察到
就是有這種透過
協同賬號去做發佈也就是說
其實有非常
大量在特殊的事件上面
比如說
有這個
俄羅斯入侵烏克蘭的軍事事件
之前我們可以看到大量的言論
那在這個
比如說像PolRussia來臺的時候
我們也看到大量的在
臺灣的這種言論進行
那甚至在
哈馬斯攻擊以色列之前
其實我們也有看到
非常多的這個短影
在社交媒體平臺上面去
大量的散播
對這個以色列不利的這種
消息那這個都是
一個警惕
就是說其實這些消息並不見得
是有真假但是因爲它是
片面的去放大
就比如說它不去講
哈馬斯攻擊以色列
但它去放大以色列
去
去營救它的人質的這個行動
造成的這種比如說
加沙左岸
這種事件
那以這種大量的去
散播其實就會
片面的影響這個
網絡戰群衆的這種關係
抱歉我剛纔靜眼了
說了半天您沒有聽到
那我是不是也可以
剛纔從您講的
這個我是不是也可以理解爲
這個
人工智能也是商業
和
道德的這一種
我可以換句話說
是不是也是一種正邪大戰呢
就
人工智能它會變成一個
非常強大的工具
那這工具是強大到
可能
你覺得你在使用工具但其實是
工具它是可以控制
的這種狀態
所以其實也就是說
當這工具如果是
沒有良好的這種
科技倫理的
相關的這種制
那它很有可能就會被
濫用
這也就是爲什麼歐盟它在
推出AIA的時候
它是以這種risk assessment
提向臺灣人工智慧
顯示我們在
在美國這邊的國家智庫
在討論的
比如說透過
類似像藥品要上市之前
其實都是會有
做風險的這個
管控然後再去
衡量它對
人的健康的這個傷害
那在最後
有這個服務那其實
人工智慧未來也是這樣
有些人工智慧或許
無關痛癢
那是ok可以去使用
但是有些人工智慧一旦它掌握到
非常重要的
領域它可能有
風險的時候你就不能純粹
以商業爲考量
那就是說賺錢就好
可能你要去思考到
就是說它的科技倫理
道德以及它的這種
偏見是不是
是不是會
危害到就是未來
自然人的這種
人權以及自然人的這種模式
以及它有沒有可能
就反過來
控制一個人的這種心智
這個都是我們會需要去做
有關今天這個話題
您還有其他要補充的嗎
我覺得
我覺得其實
2024年的1月是
臺灣的選舉
我們在過去的一年
其實可以看得到
人工智慧在生產科技是
非常多元的發展
那同樣的就是
在臺灣我們其實也是
用可信任負責任的
這種科技
不管在醫療金融的領域
其實有非常多的發展
那但是在這個
訊息的這種
安全的這種部分也就是
所謂的認知安全
那我們也看到就是
藉由臺灣的這次選舉我們其實也看到
全世界的民主國家
其實應該要去正視
這個
人工智慧在這個訊息操作
的這部分其實它能力是
變得非常的這種強大
那也希望就是說
如果說大家對這個議題
是有興趣的話
也想去共同來衡量
這種境外操作
一個民主國家的這種
行爲那也歡迎跟臺灣
人工智慧研究
好
非常感謝杜老師
今天給我們關注進行這麼
深刻精闢的
解讀非常感謝您
謝謝
謝謝杜老師
再見
字幕由Amara.org社區提供
