衝擊改變人性!AI大控制.毀滅性武器化?人能正用AI?|杜奕瑾|新聞大破解 【2024年1月31日】

新聞大破解
1萬粉絲
完整節目→https://youtu.be/VZrELxlEvXU?si=Ufb46a8yXECU8_2E
AI會如何改變職場、行業,有很多討論。我想請教,AI 可能對人性、人類能力帶來的改變或衝擊。當Google搜尋引擎出來幾年,就有在研究探討,對人類思維習慣、系統思考、記憶、能力的影響。
AI系統將掌握超大數據知識、摸索現代的人性、掌握許多人的隱私,其中的機會、風險、誘惑,不免讓人聯想,會否形成類似電影『駭客任務』(黑客帝國)中的母體,威脅到個體、價值觀例如道德文化......過去不少電影、劇集有類似警示。
而且不久前我們看到,AI 出現 說謊、造假、倦勤等現象,被認為可能有「人格意識」。
#AI #大數據 #人格意識
#駭客任務
————————
※以上來賓言論不代表本台立場
新聞大破解 每週一、三、五 晚上 10 點更新影片 (台灣時間)
🎯 乾淨世界 ➡️ https://bit.ly/3PYmLl1
🎯 新唐人亞太電視台 APP ➡️ https://bit.ly/3tlw5Hs
AI人工智慧會如何改變職場跟行業已經有很多討論了
但是我想請教的是
AI可能對人性、人類的能力帶來的改變或者衝擊
例如在2000年左右當時Google出來的時候
其實過幾年很多人就開始討論說
Google的搜尋系統等等對人的大腦
或對人的行為跟閱讀等等的習慣會帶來怎麼樣的改變
影響他的記憶或者思考能力
那現在我們看到AI系統它掌握了那麼龐大的大數據
它可以從中摸索現代的人性
掌握很多人的隱私
那有機會、有風險、也有誘惑
所以坦白說看到這樣的發展
像CHAP那個GPT-5即將要出來
就感覺這種類似電影那種駭客任務的母體那種概念
好像越來越可能離現實好像有點在走得越來越近
擔心說會不會影響到我們的價值觀、道德文化等等的
有不少的電影有這樣的情節
所以我想請教說
你怎麼看說人類要如何來正向的使用AI
來避免應該說要保守說人之所以為人的這個根本
其實在2013年就是我在Microsoft團隊
我們開始在做Microsoft Cortana的時候
我們就已經慢慢意識到
其實我們把大量的數據透過大量的這個算力
那透過我們比較先進的這個Deep Learning這個能夠做演算法
其實one by one
一個又一個
我們在語音辨識、語意理解、圖像辨識
辨識理解到深層
其實我們都是可以reach到human parity
那這也是為什麼那時候我想要成立AI Lab的這個原因
那以這個大學模型剛剛有講到CHAP為例的話
其實我們在2015年我們就release了Microsoft TAP
那Microsoft TAP
它就是透過這種大量的網路的資訊
讓我們去訓練像這個聊天機器人
那我們在第一天就把它下架
其實有一個原因就是因為它會有種族歧視
它會攻擊
它其實就是學人
人有好有壞它也會學壞
所以就是會有這方面的這個問題
那至於我們在到了這個Microsoft Research
這Microsoft在跟OpenAI合作之後
其實我們在看這個大學模型在這幾年的進步是非常非常快
就是說
比如說在我離開微軟的時候
那時候的模型長度大概是九千多萬
那一直到離開之後四年它到了一百七十億
到了GPT-3履歷的時候是一千七百五十億
它其實是模型是越來越複雜
那以前像我們在講的時候
它會有這種仇恨攻擊性的言論
其實它就是透過這個
你人工智慧的語言模型的方法
訓練這個人工智慧的語言模型
它回答的是有條有理
那相對謙遜
那有頭有尾
但它回答的是
它被訓練的是一種態度
就它回答的比較謙遜溫和完整
但是它並沒有學習到的是什麼
它還是會虛假
所以它不見得講的東西是真的
它不知道的它還是會回答
那它不該建議的
有違社會法規倫理的
它可能也會建議
那所以那時候
我還記得在這個2023年
就是GPT-3履歷的時候
美國之音就問我就說
你看到這個GPT-3
因為它知道像我之前也在Microsoft團隊
它就我對GPT-3的看法
我就說它就是一本正經的胡說八道
它可以回答得非常有條有理
引經據典
但是它的內容可能是會有幻想
可能會有不可信的部分
那這其實也是為什麼在2017年
我們要成立人工智慧實驗室的原因
就是我發現其實它成立的時候
它也是講說它是要開放
要保障人類的基本價值
那你可以看到
我發現AI前一陣子有的拉扯
其實也就是你在商業利益的考量多一點
還是你在基本人的價值多一點
那AI Lab我們成立人工智慧實驗室
我們也是
就是說當科技發展到一個程度
你可以看到有一個大訊源模型
經過你的訓練之後
其實我們可以很容易地
透過它去響稱誤導的訊息
去響稱虛假的新聞陳述
其實你把它生成出來的東西
拿去給一般的人
大部分的人都會被騙
因為它寫得非常有道理
因為它都是基於幾分的真實
再生成加入自己的一些思想
透過親愛的這種生成式科技
變得非常的容易
那這個東西不是隻有在文字的部分
就是在圖像的部分
在影片的部分
現在抖音還說要用文字
直接生成AI的影像
對 就是說文字影像的生成
我們現在從這個語言模型
從這個文字生成到這個圖像陳述
我們把它結合在一起
去看了所有的圖片之後
其實我們就是訓練一個延遲空間
延遲空間就是依照一個文字的陳述
我們可以反過來把圖像生成出來
圖像生成出來
現在其實還可以把影片也都生成出來
也就是說我們透過大量的
對網路上的不管是圖片影片的理解
我們去訓練對這些影片的理解的文字的陳述
反過來我們也可以訓練它的生成能力
所以從一方面一則以喜一則以憂
就是說未來什麼東西
大概很多事情都是給人工智慧輔助
把你辨識理解之後生成你想要的東西
但一則以憂就是
因為這些東西都是極可亂真
而且都是非常的高的品質
所以越來越人會沒有辦法辨識
以前是有圖有真相
以後是有圖不見得有真相
人會從文字裡面會更容易去迷失
更容易被操作
這個就是為什麼我們在講科技倫理的議題
我們在這個洪流往下之後
我們要怎麼防止科技是為了金錢而服務
或者為了國家而服務
而是我們在科技倫理賺錢是可以的
但是你需要再符合一個科技的倫理法規
人還是這個科技的主體
那你再去應用這個科技
那這是全世界大家在思考跟立法
就是我們接下來該怎麼做的地方
所以目前您看的這個趨勢走向
您會有些擔心嗎
其實應該不是說擔心吧
就是說我們已經看到非常多的問題
就比如說像
你可以看到社交媒體有了這種
社交媒體因為它是阿提曼佛演算法
於是它就是會為了利益
都可以去影響到人
過去是購買東西的慾望
那現在是對事件看法的態度
都可以去做影響
那有了這種社交媒體平臺的演算法
再配上我們在講的深層式科技的這種
文字生產的能力
其實你在社交媒體上大量的去
像我們在這次選舉看到大量的去散播
虛假不實或者是有偏見的內容
其實就不是一個非常困難的事情
應該說現在是行動的時候了
現在已經是正在發生的事情
