AI真的危險了嗎？聯合國這次警告，很多人都理解錯了！

AI真的要覺醒了嗎? 你有沒有發現 這兩年 關於人工智能的新聞 越來越像科幻電影 今天 有AI幫你寫文章 明天 有AI替你畫畫 編程 做視頻 後天 又有人說 AI已經開始參與科學研究 甚至可能改變整個社會 就在最近 聯合國再次發出警告 人工智能的發展速度 正在超過科學認知和監管能力 如果不能及時建立 有效的治理機制 它可能帶來 深遠甚至災難性的風險 很多人看到這裏 第一反應就是 AI是不是快要覺醒了 電影裏的天網 會不會真的出現 如果你也是這麼想的 那今天這期視頻 也許會改變你的看法 因爲這次聯合國真正擔心的 並不是AI已經擁有了意識 真正的問題 比這複雜的多 先問大家一個問題 過去一百多年 人類經歷了很多次技術革命 電力改變了工業 汽車改變了交通 互聯網改變了信息傳播 智能手機改變了每個人的生活 但這些技術都有一個共同特點 社會還有時間去適應 學校可以更新課程 企業可以調整商業模式 政府可以慢慢制定法律 人們也有時間學習新的技能 可是人工智能不一樣 如果把時間撥回到幾年前 大多數人對AI的印象 還只是聊天機器人 語音助手 或者下棋很厲害的程序 可短短几年時間 它已經開始進入 醫療 教育 金融 科研 法律 影視製作 軟件開發等越來越多的領域 能力幾乎每隔幾個月 就會上一個新臺階 請注意 是每隔幾個月 不是年 問題來了 如果技術一年進步幾次 而法律幾年才能更新一次 誰會跑得更快 答案顯而易見 這也是聯合國擔心的第一件事 不是AI已經失控 而是人類制定規則的速度 已經開始追不上 AI發展的速度 那麼 這次聯合國擔心的到底是什麼 其實 大部分都不是 科幻電影裏的情節 而是已經發生 或者正在發生的現實問題 比如 深度僞造技術 今天 一段視頻 一段聲音 已經越來越難分辨真假 未來 當普通人幾乎無法判斷 眼前的信息是真是假時 整個社會的信息 信任體系 都會受到挑戰 再比如 網絡安全 AI可以幫助安全人員 發現漏洞 也可能幫助攻擊者 更快地尋找漏洞 同一種技術 可以用於防禦 也可以用於攻擊 還有更重要的是 就業 歷史上的工業革命 大規模替代的是體力勞動 而人工智能這一次 是開始廣泛影響腦力勞動 程序員 設計師 翻譯 客服 文案 法律助理 越來越多的職業 都開始思考一個問題 未來 AI到底會成爲助手 還是競爭者 除此之外 還有自動決策 算法偏見 隱私保護 關鍵基礎設施 安全等問題 這些 纔是國際社會 今天最關注的現實風險 請注意 這裏面 沒有一個問題 要求AI必須擁有意識 沒有意識 它照樣可能改變整個社會 說到這裏 也許有人會問 既然AI還沒有意識 爲什麼大家總喜歡討論 AI覺醒 因爲很多人 把兩個概念 混在了一起 一個叫智能 一個叫意識 它們並不是同一件事 智能 意味着解決問題 學習 推理 規劃 分析 意識 則意味着擁有主觀體驗 比如 你知道疼是什麼感覺 你知道快樂是什麼感覺 你知道自己正在思考 這種第一人稱體驗 纔是意識討論的核心 目前 請注意 我只能說 到目前 沒有任何科學證據 證明今天的大模型 已經擁有這種主觀體驗 它可以表現得越來越聰明 但聰明 並不自動等於有意識 這一點 是很多討論 最容易混淆的地方 那麼 既然目前來說 AI還沒有意識 爲什麼聯合國 還會如此重視AI 答案其實很簡單 因爲一個沒有意識的系統 同樣可以影響整個世界 飛機沒有意識 但它改變了全球交通 互聯網沒有意識 卻重塑了人類的 信息傳播方式 股票交易算法沒有意識 卻可能在幾秒鐘內 影響全球金融市場 所以 技術是否危險 並不取決於 它有沒有意識 而取決於 它擁有多大的能力 以及人類是否能夠 有效管理這種能力 說到這裏 我想請大家思考一個問題 如果未來某一天 AI始終都沒有意識 但是它已經能夠 輔助醫生診斷疾病 幫助科學家設計新藥 管理城市交通 控制工業生產 參與金融交易 甚至輔助軍事決策 那麼 我們真正需要擔心的 到底是AI有沒有意識 還是我們有沒有準備好 與一個能力越來越強的系統 共同生活 也許 這纔是這次聯合國 真正想提醒我們的事情 那麼下一期 我們將繼續討論一個 比今天更難回答的問題 AI未來到底會不會擁有意識 更重要的是 在回答這個問題之前 我們必須先回答 另一個問題 意識到底是什麼 聽起來很簡單 但直到今天 全世界最頂尖的神經科學家 人工智能研究者和哲學家 都還沒有找到公認的答案 而真正令人驚訝的是 也許人類對意識最大的未知 並不是來自人工智能 而是來自我們自己