AI介選擾認知 2024最後一次人類自由意識的選舉?|杜奕瑾|新聞大破解 【2024年1月31日】

新聞大破解
1萬粉絲
完整節目→https://youtu.be/VZrELxlEvXU?si=Ufb46a8yXECU8_2E
2024是全球大選年,有些聲音警告,很有可能未來很多人回頭看,會覺得2024年可能是最後一次人類自由意識的選舉。
#AI介選 #2024大選 #人類自由意識
————————
※以上來賓言論不代表本台立場
新聞大破解 每週一、三、五 晚上 10 點更新影片 (台灣時間)
🎯 乾淨世界 ➡️ https://bit.ly/3PYmLl1
🎯 新唐人亞太電視台 APP ➡️ https://bit.ly/3tlw5Hs
其實這句話並不是我說的
這是我們在把這個分析報告呈現之後
其實有非常多國際的學者跟專家
來拿了臺灣人工智慧的報告
其實他就告訴我們說
他們其實很關心
今年的全球民主國家大選
因為今年是大概全世界
有六十幾個民主國家選舉
尤其是在最近這幾年
你如果是看全世界的民主指數
這幾年其實全世界民主指數
是在不斷地下降
那不斷地在下降這個部分
其實大家很自然而然發覺
就有很大的管理性
跟現在的社羣媒體
還有以現在的這種數位監控
以及數位的這種
所謂認知作戰的這種工具的演進
其實在控制人民的行為
監控人民的行為
以及到他所謂的這種思想的清洗
已經到了
因為科技所以變成說
我們過去以為這種科技是
幫助人去做更多的事情
但其實它是幫助有錢的人
或者是說有資源的這個國家
去做這方面的這種思想
或是人的控制
那這也就是
大家都知道在2019年
有這個看教分析事件
那看教分析事件
如果說你去看Netflix的這個
The Great Hack這個Documentary
看教分析它就是利用這種
什麼心理測驗 這種小遊戲
讓你去在社羣媒體用它的
它的應用
你用了它的應用之後
那它就可以知道你的這個行為模式
再就社羣媒體的這種
精準行銷的工具
它就可以精準的在選舉的時候
影響你的這個認知意向
比如說它喜歡
它知道你是喜歡小動物
那它就不斷的在這個羣體
貼某個候選人喜歡小動物
或某個候選人不喜歡小動物
那你就會對這個候選人
產生這種喜好或是厭惡
那你覺得這個東西
不見得是假消息
但是它是透過一種訊息的操作
在適時的給你喜歡或不喜歡
大量的清洗之後
你對一個事情的態度就會有喜歡
因為它可能有放大跟誘導的問題
所以它比較算是操作之後
誤導民眾的這個想法
而不是說民眾在一個
中立客觀的方式去對事情進行判斷
那如果說看教分析事件
這個往後看
你可以看看教分析
大概操作全世界兩百多場選舉
那每一個都是非常的成功
就代表說其實從2019年
這個事情透過境外的公關公司
去操作民主國家的選舉
已經是存在的
而且它是一個非常賺錢的生意
那我們再回過頭來
在今年 其實去年的這個一年
你也知道這個去年是生成式AI
這個大爆發的這一年
所以生成式的科技
讓過去的這種訊息操作
以前大家很容易的
在臺灣你很容易可以識破說
這個就是一個樣板出來
一樣的這個文章
那在今年你可以看到這些協同帳號
他們在講同樣一個Narrative
在講同樣一個議題
但是它透過像確診GPT
這種大學模型的能力
透過這種DeepFake這種能力
它其實已經會讓你越來越難分辨
這個消息到底是
Organic產生的
有機的產生
還是它透過操作羣體的產生
所以這個也就是世界各個專家
他們很擔心的就是說
今年是民主國家2024年
六十幾個民主國家選舉的這一年
那今年如果說
大家在這個資訊作戰的這個部分
沒有這種認知作戰的這個防禦
或者是認知作戰的素養
那很有可能就是
2024年就是
全球民主國家這種
自由意識最後的這個選舉
那你覺得在您自己在觀察
因為我看您觀察其實很長期
您覺得像民主國家
在這方面的防禦本身意識夠強嗎
還是做得不太夠呢
其實這段時間
從2017年臺灣能夠做實驗室成立以來
那我們就是跟國際一直都有在做
這方面的瞭解
就是社區媒體我們要怎麼去做到
保障人權隱私
那可以做到可信任
那包含社區媒體這種演算法
它是不是有客觀中立
或者說它是有偏見
它的審查是不是有BIOS
這個我們其實都有做非常多的
這個探討跟研究
那剛才問題就是說
這各個國家是不是知道這件事情
其實大部分的國家
都有意識到這件事情
而且大家都知道
這件事情好像很嚴重
但比較大的問題就是說
大部分的國家
不知道怎麼去衡量這個的嚴重性
那法規立法的人他不知道說
比如說歐盟在進行這個
AI-AIDS這個法規立法的時候
其實AI-Lab也是曾經有參與
這個相關的這個諮詢
美國在這個訂定
AI Bill of Rights
這個法規立法的時候
我們也有參加這個相關的這個
相關的諮詢以及這個討論
大部分的就是看到現象
看到表面
但是不知道它的重要性
那以至於很多討論就會變成說
大家在討論好像
有認知作戰這件事情
但是它到底影響多大
那當然有以這個為真的
他就說這個是影響不大
這是民主國家的過程之一
因為你看各個政黨都會做
都會買玩具
那各個政黨都會買
買這個
這個走公關公司的這個package
那這個是應該是民主的一部分
但是大家沒有注意到的就是
我們就像我們在臺灣很多
大家以為說
你看這些協同團體
有大大小小非常多的協同團體
它可能就是各個公關公司
運作的這個結果
但是你注意到
其實有影響力的
最主流的協同團體
其實就是那幾個
那幾個你仔細往下去看
它看起來就不太像是
在臺灣在地的公關公司
它應該是一個境外的組織
透過一個有影響力的這個控制
去影響一個民主國家的這個思想
所以第一件事情就是
要承認有這件事情的存在
我想大部分的民主國家
都承認有這件事情的存在
大部分民主國家也意識到
今天社羣媒體跟民主的這個影響
其實就是在認知作戰這邊
其實民主是被利益所犧牲的
但是現在大部分的
不知道怎麼去衡量
它的問題有多大
那王老師請教您這一次觀察
您有提到說這一次臺灣總統大選
可能是全世界第一個
用AI模型去偵測
協同行為跟幹預的情況
您看到了
您可以試著量化
或是說有什麼值得提醒大家
讓大家驚醒大家的一些資訊
那比如說像在這兩年的觀察
其實我們是大概收集了
全球大概20億筆的
這種相關的這種資料
那我們看到的這個
在這兩年的觀察
其實就是上萬個這個戰場
在這兩年的選舉的議題裡面發生
所謂的上萬的戰場
就是說你可以看得到
這是有協同團體
也就是說我們剛剛講的
這種公關公司
不管是境內或是境外
他並不是真實的使用者
那有一些比較具體的
這個很明顯
就是我之前討論過的這個例子
就是說
比如說在COVID-19的那段時間
那我們有看到衛生紙之亂
那衛生紙之亂
他就是先從臺灣出發
然後在日本在澳洲之後到美國
所以我們發現有很多的這個議題
其實他操作的方式是一樣的
但是他是透過這種
因為境外的平臺是很方便的
所以他是在臺灣做實驗
那之後再到其他國家去
那臺灣因為在亞洲
是言論最自由的地方
所以基本上放這些消息
並沒有人會受到懲罰
那所以很自然的
像這種臺灣的社交媒體
就會變成這些誤導跟影響消息
他第一個戰場
那第一個戰場之後
那這邊如果說成功的
我就看到這個訊息
就是會在其他國家也發生
那我們把這個
這跟在COVID-19
跟國際的這個團隊合作之後
那就開始有國際團隊
不斷地在說臺灣
其實就是Misinformation的前線
就是全世界的這個最前線
那我們再看到
比如說像裴洛西來臺灣的那段時間
其實有臺灣跟友邦的這個互動
有關的這個消息
你就可以看到操作立刻出來
那比如說像裴洛西來臺灣的那段時間
在網路上 臺灣的社交媒體
在網路上每四則言論
就有一則其實就是
從這個協同團體散播的
那我們在臺灣的這個
總統候選人以及總統的
總統的這個
這個比如社交媒體的臉書
比如說像臉書的平臺下面
你去看到相關的這個
使用者這個評論
有很大一部分
也是屬於協同羣體操作出來的
那比如說像
尤其像蔡英文的這個臉書下面
大概每三則就有一則
那個並不是有機的使用者去發文
那如果說我們再繼續往下去深究
有人說這個其實每個
很多人講說民主政黨裡面
有很多公關公司
有很多這種口碑行銷公司
那大家都有買這個行銷預算
那當然會有這些操作帳號
那但是你如果仔細去看
這裡面的兩個協同羣體
這兩個協同羣體
其實就佔操作的總聲量百分之
接近百分之五十
非常高
也就是說你可以看到
有大大小小的協同羣體
非常的多沒有錯
那真的有很多人公關公司
拜託你去上面幫我點贊
幫我洗白
我相信在民主國家
一定會有這些事情發生
但是就好像每個人進了賭場
會覺得說我要贏專家一樣
每個人都是覺得
我在這個社交媒體
我都可以找的公關公司來操作
但是實際上有一個最大的買家
他其實操作最多的言論操作
所以其實我們現在
在社交媒體就要有一個認知
就是我們到了這個社交媒體
從他的演算法
本來就是Artemy for他的revenue
你要知道他本來就不是總理的
那再來就是從他的這個
你看到上面的這些使用者
這些言論
使用者的這些言論
只要是比較偏激的
其實Artemy他會是把他Promote更高
因為他有更有engagement
更有吸引眼球的效果
那另外來講就是說
你看到有很多的這種
炒作的這個消息
當你感到生氣的時候
你要想一下
然後去看一下
離開這個社交媒體
在多方的去查實
比較相關總理客觀的
這個Report的媒體報導
你就會發現
其實有些他會
他其實是把原本的新聞
做一些些微的改變
之後再下一個很強烈的標語
他其實就是要誤導你
去有這種仇恨
或者是生氣的這種感覺
那這個我覺得就是在
在這一次的選舉
我們可以看得到
就比如說像這個
像這個佩洛西來臺灣
每四則就有一則
那之後我們也有看到
比如說像俄羅斯
入侵烏克蘭的時候
入侵烏克蘭之前
其實大概在網路上
我們看到那一個月
就是每十個
講到烏克蘭的帳號
有一則
其實有一個帳號
其實他就是
俄羅斯相關的這個洩露羣體
那他在做些什麼事情
他就是在
我發現到有一個Term很重要
就是他會不斷地強調
烏克蘭在做種族屠殺
這佔他最主要的Narrative
其實他是在合理化
整個俄羅斯入侵烏克蘭
那第二個最大的就是
他會講說
比如說你如果支持烏克蘭
就是偽君子
就是烏克蘭在情緒勒索
他就在醜化烏克蘭的這個政府
那希望在網路上
不要有人去支持烏克蘭
那再來第三個
第三大的其實他就是
醜化這種盟友
就比如說他會講說
北約 美國
他們纔是真正把戰爭帶來的
不是俄羅斯
因為他們是背蓋
你會看到很多這個協同羣體
那這個完全都不是看內容出來
而是我們先以這個大學模型
瞭解所有的協同者行為之後
把這個協同帳號找出來之後
那我們再去把他的Narrative
去做分析
那這個我們就可以看到
這些主要的這個論述
所以你剛剛提到
那兩個特別大的協同羣體
佔百分之五十左右
但是對這兩個羣體你的觀察
他們不像是臺灣境內的
比較像是境外的
對 這兩個協同羣體
他就佔操作裡面的
接近百分之五十
那我們就把這個結果報告
或是有分享在我們的
info.demi.cc的這個網頁上
是給國際的盟友
因為我們臺灣是第一個
在二零二四年總統選舉的國家
那所以大家對我們這邊的觀察
也非常有興趣
那這兩個
為什麼我講說他不太像臺灣的
就是說這兩個協同羣體
他滿有趣的
就是你看他的這個
攻擊的歷程
其實他們各個政黨都有攻擊
可是他並不是
他並不像是為了某一個政黨
就像我比如說政黨
買了這個網路服務之後
他來當我的這個網軍服務
他看起來比較像是
他其實是一開始
當然是很強力的攻擊
比如說像臺灣的總統
去懲罰美國的時候
他就很強烈的攻擊
這個懲罰相關的各個議題
那再來就是
比如說在四月到五月這種
美國提到說要支援臺灣
在這個國防授權法案的時候
你就可以看到他不斷在洗
美國要逼迫臺灣買武器
然後要強迫臺灣寄款
但其實他就是在曲解
這個國防授權法案
那再接下來你就可以看到
就比如說像之前不是也有這個
比如說南海工作會議
相關的這個假消息
他會把這個消息
他雖然說已經下架了
但是他還會在網路上
繼續的把它傳播跟擴張
然後再往後你就可以看到
他就是各個政黨
他都會去炒作這個好省
就是居住正義的這個議題
那就討論到這個
各個總統候選人違建的問題
那之後完之後
其實有一個非常成功的炒作
其實就是雞蛋事件
那雞蛋事件
其實就是從民生議題去攻擊
那雞蛋事件
其實他這個是一個非常成功的炒作
大概三個星期
就讓這個農業部長下臺
那你如果說再往後看
他其實是在想辦法促使藍白合
那想辦法促使藍白合
這個有一個滿有趣的點
就是說他一開始是以攻擊
攻擊這個國民黨為主
然後去希望這個打壓
然後去找外部的勢力進來
但是到後來當他破局的時候
他是反過來
也就是說其實我們可以看到
有一個滿有趣的現象
就是說他沒有忠誠度
他其實好像就是
操縱
來搗蛋
那尤其是這裡面有一個地方
就是我們有看到就是說
他在臺灣操作這個
臺灣總統大選的議題的時候
用中文去操作
總統大選議題的時候
他會跑到美國
用美國相關的這個討論串
用英文去操作這個
美國相關的這個議題
那所以是滿有趣的
就是說我們看到
這些帳號他除了中文說得好
還可以講英文
然後我們也有看到
在PTT的協同傳遞
因為PTT上面是有一些這個
你知道PTT
它其實是IP是公開的
那所以PTT上面
我們去看了有些使用者
他看起來是老鄉民
那就覺得這個
這個不太像我們原本的那個使用者
那所以其實又
又有一些使用者就去查覈
就發現
這個帳號其實不是原本的那個帳號
擁有人的
而且其實有非常多的這個現象
那所以那個時候到
我們就講說
如果說有發起的帳號被盜的
千萬要去報警
然後後來發現
其實不是隻有在PTT
PTT Facebook Twitter
其實都是有臺灣的
人的帳號被盜的現象
那在PTT這個
這個IP往下去追查
我們其實就是發現有非常多
他雖然說他的IP來源是臺灣
但他是臺灣的網路設備
但是他被植入後門之後
那有
有境外的帳號進來發表文章
而且這個發表文章的這個帳號
是被盜的
所以他感覺是一個有系統的行為
就是說他
他是藉由攻擊臺灣的網路資訊安全
攻擊臺灣的這個社交媒體帳號
的各個社羣媒體的這個帳號
再到上面去發
很多的電腦變成像殭屍被利用了
那所以所以這種這種手法
我們覺得這個不太像是
臺灣的公關公司會做的事情
就中國我們剛才講的
他是酸魚的
他是不是針對任何一個政黨忠誠的
然後還有就是他在這個使用的
這種攻擊的方式
其實不太像這種公關公司
很多就是幾個
能幫我到網路上去發發文
那他其實是真的是有系統在
在攻擊臺灣的這個帳號
那以及利用臺灣的這個網通設備
做一次跳板
