人工智能威脅：我們能否關閉電源來阻止？
1 次觀看·2024年12月6日
嗨 大家好
這個視頻呢 我們來聊一下人工智能的這個威脅
最近呢 這個加拿大多倫多大學的一個名譽教授
叫辛頓Hinton
他的全名叫Geoffrey Hinton
他呢 在谷歌工作過10年
他的經歷也比較傳奇
工作10年就突然就宣佈辭職
他一直做AI的 在谷歌做AI
結果呢 他辭職之後
現在活動的主題就是談人工智能的危險性
在接受這個討論的時候 就是媒體討論的時候
說人工智能它的危險性
我們人類目前還沒有意識到
真的還沒有意識到 因為他是一個專家嘛
他在這個深度學習和神經網絡這個領域
他可以說是先驅級的人物
他奠定了這個AI發展的一個基礎 對吧
讓他說 很多人以為啊
就是我們把這個電源關掉了
這個事也就搞定了 是吧
電源一關 AI也就完蛋 是吧
因為AI無論如何都是要依靠這個電源的嘛
而一個普遍的常識認為是人類是控制電源的
但是他說啊
所謂這個電源是由人類控制的
並不一定是正確的
因為電源的開關它無非就是01 是吧
01的控制
那所謂超越人類智慧的這些AI
它有可能會通過一些方式阻止人類去斷掉電源
比如說 它直接通過說服的方式
或者通過威脅 各種方式 是吧
你不要關掉電源等等 關掉電源不好
還有一種方式 它直接就劫持 是吧
它自己發電
它可以控制這個發電廠等等 太陽能 是吧
它就給自己提供資源
就類似自主 有自主意識的一些機器人
那麼現在我們的AI都說 倡導所謂的自主意識
要挑戰這個圖靈實驗 是吧
如果過了圖靈實驗 那就是有點像人類了
那是真正的所謂的人工智能 對不對
但他認為呢 就說如果我們人類說交給AI一個任務
我們不關心細節 對不對
現在的目標就是這樣子的
你去給我幹活 我不關心你怎麼幹的
你給我搞定就行了
而在這個過程中 AI要做決策
它有可能會找出對人類不利的一些方法
並且是專門找出對人類不利的方法
因為我們人類可能就關心結果
整個過程它可能就忽略了 對不對
那為了達到這個目的
它可能在這個過程中就把人類給清除了
這是一種可能性
這是辛頓教授他的一個觀點 是吧
然後這裡面呢 他提到了一點
未來十年內就可能會出現殺手機的這種機器人
什麼叫殺手機的機器人
就是自主的可以殺死某個指定的人類
你比如說指定Jack 他在哪個地方 住在哪裡
他的特徵是什麼 我派這個機器人過去把他給殺掉
這種機器人可能在十年內就會出現
如果這樣還贏不起大家足夠的重視的話
他說 也許人們認為說機器人這個武器
你可以受到一些限制
你比如剛才說的那種機器人
你就設定要去殺某個特定目標
讓他完成了 然後讓他回家嘛 回來嘛
他說 如果這種機器人 就是自主殺人的機器人
真正在戰場上使用起來以後
這個人類有可能才真正的意識到
這個人類的命運是多麼的悲慘
因為在這個過程中他會有很多不可預知的一些現象
因為他深究網絡 深度學習這些東西 是吧
他一旦可以自主意識 他有自己的微調機制
那很有可能就發展到不可收拾
他說 未來可能會出現不同的AI相互競爭的局面
而這個競爭會導致什麼
會導致他的能力越來越強
會導致AI本身就像我們生物體進化一樣
你比如說有些生物它可以通過互相的吞噬
提高自己的一些能力 是吧 完成一些進化
你像弱肉強食嘛 這個特點 是吧
你像假設一頭鹿 是吧
如果它特別警覺 它的基因就可能傳承下去
如果它特別不警覺 它可能就完蛋了 對不對
像類似這種你死我活的這種競爭當中
就會誕生出類似具有超級意識的機器人
他的這個能力有可能超越我們人類的掌控
我們人類的智慧有可能無法控制這樣的機器人
有可能受制於這樣的機器人
這種局面呢 我們在目前來看是很容易出現的
因為現在AI大模型的不斷的演進 是吧
當然有人說 哎谷歌搞的那些AI機器人
它是可以解決一些問題
比如醫療領域還可以診斷等等的 是吧
但是你看大模型搞的也不怎麼樣
jimmy bird都沒有說很像樣的產品
比起JPT cloud3等等的這些大模型
包括LOMA都有很大的差距
但是不可否認 是吧
谷歌在這些方面 包括transformer都是谷歌推出的嘛
它算是谷歌的一個研究成果
向整個業界的一個貢獻 對吧
那基於此的話 從主觀經驗的角度來看
AI它可以像人類一樣擁有所有的感覺
你比如說視覺方面
就類似攝像頭 攝像機收集這些視覺的信息
聽覺 你可以錄音嘛 對吧
這些東西 觸覺也是一樣 可以有sensor等等
各方面 甚至還用我們人類可能就沒有
那麼強大的像這種微波 電磁波這種
感受力可能不強 你像那個海豚就具有這種能力 是吧
回聲定位能力啊 我們人類不具備
AI就通過這種波的感知
那能力上可能就比我們人力強
你像蝙蝠 它視力也不行 是吧
它也是靠這種回聲定位
從這些自然界當中一些 按特例上
這些能力人類不具備 但是AI很容易具備的
這個可能性 是吧
那我們人類將來可能真的就無法控制
我們自己製造出來的這些AI產品
那這個對於我們人類來說命運還是未可知的
好 這個視頻我們就聊這些 謝謝各位