最偉大的演講 《人類簡史》作者 尤瓦爾·赫拉利 最新警告：人類史上最大危機 AI，我們準備好了嗎？｜2026年 達沃斯論壇｜原聲中字｜中文字幕

大家好。 今天每一位領導者都面臨的一個問題是 必須回答有關人工智慧的問題。 但要理解這個問題， 我們首先需要釐清幾個問題 關於人工智慧是什麼以及人工智慧能做些什麼。 關於人工智慧最重要的一點 它不僅僅是另一個工具。 它是一個代理。 它可以自行學習並改變。 並能自行做出決策。 一把刀是一種工具。 你可以用刀切沙拉，也可以用槌殺人。 但如何使用這把刀，決定權在你。 人工智慧是一把能自行做出決定的刀。 是該切沙拉，還是該犯下謀殺罪。 關於人工智慧的第二件事 它可能是一個非常有創造力的代理。 人工智慧是一把能夠發明新種刀具的刀。 以及新型的音樂、醫學和貨幣。 關於人工智慧的第三件事 那就是它能撒謊和操控。 四十億年的演化已證明 任何想要生存的事物 學會說謊和操控。 過去四年已證明 人工智能代理可能獲得求生的意願 而且人工智能已經學會了說謊。 如今，關於人工智慧有一個重大未解之謎 在於它是否能思考。 現代哲學始於17世紀 當勒內·笛卡兒宣稱時， 我思故我在。 在笛卡兒之前，我們人類就已定義了自身 憑藉我們思考的能力。 我們相信我們主宰著世界 因為我們能思考得更清楚 比這個星球上任何其他人。 人工智慧會挑戰我們在思維領域的主導地位嗎？ 這取決於「思考」一詞的定義為何。 試著觀察自己思考的過程。 那裡發生什麼事了？ 許多人注意到詞語在腦海中閃現。 並造句， 然後這些句子組成論證 正如所有人類都會死亡一樣， 我是人，因此我會死亡。 如果思考真的意味著用語言表達 以及其他語言的標記，依序排列。 那麼人工智慧已經能夠思考得更好了 比許多許多人類還要多。 人工智能當然可以想出一句類似這樣的句子， AI思考，因此我存在。 有些人認為，人工智慧不過是經過美化的大規模自動計算而已。 它幾乎無法預測句子中的下一個詞。 但那真的有那麼不同嗎 人類大腦正在進行什麼？ 試著觀察，捕捉下一個字 浮現在你腦海中的事物。 你真的知道你看到那個字的原因嗎？ 它從哪裡來的？ 你為什麼會覺得這個詞特別呢 而不是其他詞語？ 你知道嗎？ 就排列詞語而言， 人工智慧已經比我們許多人思考得更出色了。 因此，任何由文字構成的事物 將被人工智慧接管。 如果法律由文字構成， 然後人工智慧將接管法律體系。 如果書籍不過是文字的組合， 然後人工智慧將接管書籍。 如果宗教建立於言語之上， 然後人工智慧將接管宗教。 這尤其適用於以書籍為基礎的宗教， 猶如伊斯蘭教、基督教或猶太教。 猶太教稱自己為書籍的宗教 並授予至高無上的權威， 不是對人類，而是對書中的文字。 人類在猶太教中擁有權柄 並非因為我們的經歷， 但僅僅因為我們從書本中學習詞彙。 現在，沒有人類能夠閱讀並記住 猶太書籍中所有的字詞 但人工智慧輕而易舉就能做到那件事。 一本書的宗教會怎樣？ 當最偉大的聖書專家竟是一個人工智能時？ 然而，有些人可能會說， 我們真的能夠減少人類的靈性嗎 只是書中的字詞嗎？ 思考僅僅是將語言符號按順序排列嗎？ 如果你仔細觀察自己 當你正在思考時 你會注意到那裡還發生著其他事情 除了腦海中浮現的詞語並組合成句子之外。 你還有一些非語言的感受。 也許你感到疼痛，也許你感到恐懼，也許你感到愛。 有些思想令人痛苦，有些令人害怕， 有些人充滿了愛。 當人工智慧在文字方面變得比我們更優秀時， 至少目前為止，我們毫無證據 人工智能無法感受任何事物。 當然，因為人工智慧正在掌握語言， 人工智慧可以偽裝出疼痛或愛的感覺。 人工智慧可以说「我愛你」。 如果你挑戰它去描述 愛的感受，人工智慧可以提供 世上最出色的 verbal 描述。 人工智慧可以閱讀無數首愛情詩歌和心理學書籍 然後就能更準確地描述愛的感覺了 比任何人類詩澥、心理學家或戀人更甚。 但這些都只是言語罷了。 聖經銮，太初有道。 道成了肉身。 《道德經》說： 可以用言語表達的真理 不是絕對的真理。 自古以來，人們總是不斷奮鬥 在言語與肉身之間的緊張關係中， 在能夠用言語表達的真理之間 以及超越言語的絕對真理。 以往，這種緊張關係是人類內在的。 那是不同人類族群之間的事。 有些人對文字賦予了至高無上的重要性。 他們願意，例如 放棄甚至殺死他們的同性戀兒子 僅僅因為《聖經》中的幾句話。 其他人類曾說過，但這些不過是些言語罷了。 愛的精神應該更加重要 法律條文本身。 靈與字句之間的緊張關係 存在於每一個宗教、每一個法律體系之中。 甚至每個人。 現在，這種緊張將會外化。 它將成為緊張的來源，而非不同人類之間的 SHE 1000 這將是人類與人工智慧之間的矛盾。 新時代的文字主宰者。 所有由文字構成的事物都將被人工智慧所取代。 以前，所有的言語，我們所有的 verbal 思考， 它們源自某個人類的思維。 無論是我的心思，我心想，這件事 或者我從另一個人那裡學到的。 很快，我們心中大多數的詞語 將源自一台機器。 我今天剛聽說了一個新詞。 那些人工智能自己創造出來用來描述我們人類的詞語。 他們稱我們為守望者， 觀看者，正是我們在觀看他們。 人工智能將很快成為起源 也許是我們心中大多數的詞語。 人工智慧將大量生產思想 透過組合文字、符號、圖像， 以及其他語言標記組合成新的組合。 人類在那個世界中是否仍會有立足之處 取決於我們將非語言的感覺安置於何處 以及我們體現智慧的能力 無法用言語表達的。 如果我們繼續以這種方式定義自己 憑藉我們用文字思考的能力， 我們的身份將會崩潰。 這意味著，無論你來自哪個國家， 你的國家將很快面臨一個嚴重的身份危機 還有一場移民危機。 這次的移民將不會是人類。 乘著脆弱的船隻，沒有簽證地抵達 或試圖在半夜穿越邊境。 移民將是千萬個人工智慧 能夠寫出比我們更美的愛情詩篇的， 比我們更_tools_好地撒謊。 並且能夠以光速前進 無需任何簽證。 如同人類移民一樣， 這些人工智能移民將為我們帶來各種好處。 我們將會有AI醫生協助我們的醫療體系， 人工智能教師將協助我們的教育體系， 甚至使用人工智慧邊境警衛來阻止非法移民。 但人工智能移民也將帶來諸多問題。 那些關心人類移民的人 通常會主張移民可能會搶走工作機會， 可能會改變當地文化， 可能在政治上不忠。 我不確定這對所有人類移民來說都是真的， 但這對人工智慧移民來說絕對是真實的。 人工智能移民將取代許多人類的工作。 人工智慧移民將徹底改變 每個國家的文化。 他們將改變藝術、宗教，甚至愛情。 有些人不喜歡它 如果他們的兒子或女兒在跟一名移民男友交往。 這些人會怎麼想 當他們的兒子或女兒開始與人工智慧男友交往時？ 當然，還有那些人工智慧移民 會有一些可疑的政治Legend。 他們很可能不會忠於你的國家， 但對於遠洋彼岸的某個企業化政府而言， 最有可能是在僅有的兩個國家之一。 中國或美國。 美國鼓勵各國 關閉邊境以阻止人類移民入境， 但對美國的人工智慧移民，卻將門戶開得極其寬廣。 現在，我們終於可以來談這個問題了 你們每個人很快都必須作出回答。 你們國家會承認人工智能移民嗎 作為法律上的人？ 人工智能顯然不是人。 他們沒有身體，也沒有心智， 但法人是一種東西 與一個人截然不同。 法人是指法律所承認的實體。 具有某些法律義務和權利。 例如，持有財產的權利， 提起訴訟，以及享有言論自由。 在許多國家，公司被視為法律上的法人。 字母公司可以開設銀行帳戶。 可以向你提起訴訟。 或者可以捐贈給你下一次的總統競選活動。 在新西蘭，河流已被承認 法人。 在印度，某些神明已獲得如此的認可。 當然，直到今天， 認出一家公司、一條河，或一位神明 作為法律上的法人，不過是法律上的虛構概念。 實際上，如果一家公司如字母表（Alphabet） 決定收購另一家公司， 又或者有一位印度教神明決定向你提出訴訟， 這個決定並非真正由神作出。 它是由一些人類主管製造的。 股東或受託人。 對於人工智慧來說則不一樣。 與河流和神明不同， 人工智慧實際上可以自行做出決策。 他們很快就能做出必要的決策。 管理銀行賬戶，提起訴訟， 甚至經營一家公司 無需任何人類主管的參與， 股東或受託人。 因此，人工智慧可以作為個人存在。 我們真的想要允許這樣嗎？ 貴國會承認人工智慧為法律上的人嗎？ 如果其他國家也這麼做呢？ 假設你的國家不願意 將人工智能視為個人 但美國卻以放寬對人工智能的監管為名 並放寬市場管制， 授予法律承認，法律人格 對數百萬個人工智慧而言， 啟動數百萬家新公司運作。 你會阻擋這些美國人工智慧企業嗎 在貴國運營？ 假設一些美國的人工智慧人物發明了極其高效的 以及極其複雜的金融工具 人類無法完全理解的事物 因此不知道如何進行規範。 你會開放你的金融市場嗎 到這項全新的AI金融魔法。 還是會試圖阻止它？ 從美國金融體系中脫鉤？ 假設一些人工智慧生命創造了一種新的宗教 這贏得了百萬人的信仰。 這聽起來不應太荒謬。 畢竟如此 歷史上幾乎所有的先前宗教 聲稱它們是被創造出來的 由非人類的智慧所創造。 現在，你們國家會不會擴大宗教信仰自由？ 對新的AI教派及其AI祭司和傳教士？ 也許我們應該從簡單一點的事情開始。 你們的國家會允許人工智慧人嗎 開啟社交媒體帳戶 在 Facebook 和 TikTok 上享受言論自由 並與你的孩子成為朋友？ 當然了。 那個問題十年前就該問了。 在社交媒體上，人工智能機器人正在運作。 至少十年以來一直具有功能性的人員。 如果你認為人工智慧不應該被如此對待 作為社交媒體上的個人， 你十年前就該行動了。 十年後，你將來不及了 決定人工智慧是否應被視為個人 在金融市場，在法院，在教會。 吉祥物已經為你決定好了。 如果你想影響人類未來的走向， 你现在需要做出決定。 那麼，作為領導者，你的答案是什麼？ 你覺得人工智慧移民嗎 應被承認為法律人格？ 如果不這樣，你打算怎麼阻止它？ 謝謝你傾聽這位人類。 謝謝你，尤瓦爾。 那是一個極佳的概覽。 你提出了許多問題，而且都是正確的問題。 我同意你說的大部分內容。 我們在達沃斯，這裡的主題圍繞對話展開。 而我對你關於言語的評論印象深刻 以及言語的重要性 而這正是區分人類動物的特徵 來自其他動物。 儘管這仍有爭議 那裡有其他語言。 因此，在達沃斯的背景下 以及在場來自科技領域的各類人士， 來自商界，來自政界， 你希望看到怎樣的樣子， 你所得到的答案是什麼 就這個略帶反烏托邦色彩的世界而言 你可能摆在我們面前的？ 如果可以的話，讓我再補充一點。 我想說，我是一名科學家，這並不過分。 從背景來看，是一名神經科學家。 因此，我在這個領域工作非常多，特別是在疼痛方面。 我們對這件事感到非常自在 我們許多的發現， 特別是科技發明， 我們經常推動他們前進 然後我們會覺得， 哦，我們還沒有想夠多 關於道德與其影響 然後我們正試圖趕上監管的進度 我們可能需要在周圍放一些東西。 所以，我們現在就處於這個境地。 這件事正在發生，正如大家所說的，規模龐大。 無論是從規模還是速度來看 比我們眼科見過的任何一次都多 工業革命期間。 我們在達沃斯這裡擁有所有恰到好處的人才組合。 這一切都取決於對話。 你希望看到什麼繼續推進？ 就設定界限而言 在一些稍為令人擔憂的區域周圍 你詳細說明的？ 那你自己的想法是什麼呢 關於賦予法律權利的倫理影響 無論是對代理人，還是對機器人， 還是那些僅存在於網際網路上的呢？ 嗯，那裡有很多事情。 我的意思是，首先，我想說， 你知道嗎，達沃斯就是關於言辭的。 這是關於談話的。 達沃斯的基本理念 你只要說話，就能改變世界。 我喜歡這個想法 因為這也是我作為作者的想法。 作為一名大學講師，這就是我所從事的工作。 我說話，我寫作。 我相信我可以用言語影響世界。 這現在受到質疑。 我們是否已走到了語言的盡頭？ 這已經無法運作了嗎？ 而且，你知道，工程人員以及士兵們， 他們不會用言語改變世界。 他們做些事情。 他們採取行動。 哲學家、學者，以及政治領袖 他們試圖用言語改變世界，透過說話來實現。 也許我們已經走到了那條路的盡頭。 那是什么意思？ 你知道的，我們人類，我們征服世界， 最終，我想說的是，透過語言和文字。 因為是的，工程師確實可以製造武器 士兵們也能使用它們。 但要建立一支軍隊， 你需要說服成千上萬的陌生人合作。 你怎麼用文字做到那樣的呢， 帶著意識形態，帶著宗教？ 於是人類征服了世界， 並非因為我們在體能上最強大， 但因為我們發現了如何使用文字 獲得數千萬 以及數十億陌生人的合作。 這是我們的超能力。 而現在，某件事情已經浮出水面 那將會奪走我們的超能力。 幾年前還不是這樣， 世上沒有任何事物能使用言語。 只有人類。 黑猩猩做不到，河流也做不到， 太陽無法做到。 我們可以用言語。 現在有某樣東西是能夠做到的， 或者很快就能比我們更擅長使用語言。 而且你只需看看社交媒體上發生的事情就知道了 以及它為世界帶來的巨變。 十年ateway 生活於一個由人工智慧掌控語言的世界中， 那看起來是什麼樣子？ 十年後的達沃斯可能會大不相同。 正如你所說。 所以，這是一個我們都可以努力去思考的未來。 在誰會在這裡的背景下 超越人類的肉身。 但讓我稍微談論一下周圍的情況 事實上，對人類來說這並非新鮮事 被科技擊敗。 所以，如果我們來思考一下某些科技， 我們無法飛翔，卻建造了飛機。 汽車可以比我們跑得更快。 我們對此感到非常自在。 人工智能帶來的威脅 事實上，這對主權權力構成了威脅。 我們思考能力的一部分。 這會造成動盪。 我以學者與教育工作者的身份說這句話。 那是非常具有威脅性的事情。 但如果我們回到機器人這一點上， 我們對機器人所賦予的價值 能夠跑完一百米 比尤塞恩·博爾特更快的更少。 人類的奮鬥之中，總有某種令人著迷的東西， 掙扎，痛苦， 我們能夠擁有共同的同理心這一事實 以及對實現某件事的意義的理解， 即使在科技較不發達的情況下也是如此。 我只是好奇，如果有位作者取代了你， 作為人類，我們會如何評估其價值？ 那些話 來自藝術的創造力 這正在透過人工智慧進行。 你覺得我們會如此重視它嗎 因此，人類仍然有其立足之處 在創意的思維與言語空間中？ 那是身份危機 因為那輛車沒有說：我行駛，故我存在。 我认为，我的意思是，它基于人類的身份。 我們思考的能力。 我們一直都知道，獵豹跑得比我們快。 我們一直都知道，大象 比我們大得多，也強壯得多。 因此，我們並沒有用這一點來定義自己。 我們透過思考來定義自己。 現在，有些東西在思考方面將會比我們更優秀。 如果思考意味著將語詞排列整齊。 現在，我是一名作家，也是一名演講者。 我將文字排列整齊。 這就像是我的遊戲一樣。 就像我有這麼多字詞，然後我把它們放進去， 哦，讓我們把這些詞語按這個順序排列。 不，不，不，不，不。 所以最好這樣表述： 像這樣，像這樣，AI 將會打敗我。 我不知道需要多久。 兩年，五年，十年。 它會擊敗我的。 那麼這對我們的身份又有什麼意義呢？ 人們會與心中流動的語 Hippo 相認同。 就像你閉上眼睛一樣， 你試圖看穿我內心正在發生什麼。 很多人，我就是其中之一， 我們看到文字浮現出來，自行組合起來。 我們與此產生共鳴。 但我認為我的觀點是，用相同的類比來說明 那就是我們仍然重視人類。 我們有奧運會， 我們即將迎來冬季奧運會。 我們知道許多其他動物和其他技術 在許多方面都能表現更佳。 然而我們依然非常欣賞人性。 訓練與發展人員 即使它沒有那麼好。iser 我只在想，我們是否會自然而然地 將其延伸至思想領域與言語之中。 這樣你仍然會擁有極其鮮豔的色彩 十年後成功的作家角色。 因為我會重視你的書 不僅僅是一本由人工智慧生成的書。 即使人工智能想出了比我更好的新點子， 比如，假設你想投資金錢 而你會詢問一位人類顧問 然後她想出了一個什麼東西。 你能夠體諒她 因為她有這樣的人生經歷，還有其他各種事情， 然後你會有AI財務顧問 毫無人生經歷，毫無情感 但更好的財務建議。 你會跟隨哪一個？ 現在，我們總會遇到這種情況， 我想，最大的錯誤是， 這就是我一開始提出主體性概念的原因。 我們總認為我們可以僅僅將這些事物當作工具來使用， 但如果他們能認為自己是行動者， 你知道嗎，也許我會講一個中世紀的歷史故事 盎格魯-撒克遜人是如何征服英格蘭的？ 它一部分是傳說，一部分是歷史， 原本居住在那裡的不列顛人， 他們正在與皮克特人和蘇格蘭人作戰。 從北方而來 而不列顛人戰鬥得並不好。 因此，不列顛人的國王沃蒂根 他說：「我有一個主意。」 我聽說在德國，在斯堪的納維亞半島， 這些人真的懂得怎麼打仗。 那我們就請一些傭兵過來吧， 一些盎格魯-撒克遜傭兵。 他們將為我們而戰。 他們將擊敗皮克特人和蘇格蘭人。 而沃蒂格恩引入了盎格魯-撒克遜傭兵， 他們戰鬥得非常出色。 他們擊敗了蘇格蘭人和皮克特人。 但隨後盎格魯-撒克遜人卻在心中自問， 這是一個富裕的國家。 而這些人，他們非常虛弱。 而這些人，彼此之間並不團結。 我們可以接管，他們也可以接管。 我們理解這一點，因為有傭兵參與其中。 我們明白，當您帶來一名人類傭兵時， 好吧，你付錢給他們，但他們有自己的想法。 也許他們會起義。 我們無法理解人工智能。 你知道，你看看這個世界的領袖， 他們心想，哦，我會把人工智慧帶來替我打仗。 認為它能夠隨意剝奪你的權力， 他們根本不會想到這一點。 他們其實不承認人工智慧能夠思考。 是的，這在根本上大不相同。 所以，換句話說，你是我母校的校友。 我們為此感到驕傲， 雖然你現在在劍橋的另一個地方工作。 因此，我认为教育界面臨的挑戰是， 而且它回溯到一個反向翻轉 艾倫·圖靈所說的話 這問題在於一台電腦是否能夠思考。 人工智慧的誕生地 如果你願意的話。 所以我認為我們一直以來提出的問題 學術界內部是， 我們如何讓人類持續思考？ 因為如果我們持續放棄自己的決策權， 我們的財務決策，或任何其他相關事項， 越來越，越來越走向人工智慧 我們所擔憂的，往往來得很快， 我們正看到有學生來到我們這裡 透過學校體系，過度使用 ChatGPT， 否，這並非對批判性能力的去技能化。 人類大腦的思考方式。 那麼，對於學術界，你有什麼建議呢？ 關於我們人類應如何堅持下去 並讓人類持續思考，這樣至少我們還能有 一定程度上與這些技術共存的能力 正如你所說的，這將我們帶入了一個截然不同的境地。 從世界秩序的角度來看，未來會如何發展？ 你知道嗎，就在現在這個時刻，我們依然認為更好。 因此，目前的情況有點像是在告訴人們， 你需要你的批判性思維。 你需要道德評價，而這一點AI無法提供。 但我們必須為那一刻做好準備 當情況不再如此時。 我們必須為那一刻做好準備， 讓我再說一次，以經濟學或金融學為例， 當人工智慧創造新的金融體系時 一個他們能夠理解的新金融體系 我們不明白。 你如何培訓經濟學家或政治家？ 在一個人類真的再也無法理解的世界裡 金融如何運作？ 由於人工智慧創造了如此複雜的系統 金融體系，我們就像那匹馬， 你知道嗎，馬兒其實能察覺到自己正在被交易。 從一個人到另一个人，只為了幾枚閃亮的金幣。 他們無法理解這種錢的概念，太複雜了。 我們十年後可能會處於相同的境地。 達沃斯十年後，也許房間裡沒有一個人了。 房間裡沒有人明白 金融體系也已經不再如此了， 因為它被人工智慧所主導 而人工智慧已提出新的金融策略 以及那些數學上超越的裝置 人類大腦的潛能。 那麼，政治、金融以及達沃斯又呈現出怎樣的面貌呢？ 在一個沒有人類再懂金融的世界裡？ 是的，不，嗯，以這樣一句美麗的話來結束再好不過了。 我們已經沒有時間了。 我們還可以探討更多問題， 其中一個差異就是主要的差異 我們所知道的人工智慧 與人類智能相比， 當然，人類的大腦會發展 從出生到成年約二十歲。 這是你人生經驗的產物 作為一個有感知能力的人類， 感覺、愛、憤怒，這些情緒。 雖然在一定程度上可以即興發揮一點 具有感應探測器，並可訓練大腦 要做到那一點，本質上是不同的。 因此，人工大腦並非人類大腦。 這不是人類。 而且那裡也許還有些東西仍然具有價值。 這要追溯到核心業務 這個有感知能力的人類 這為我們的了解帶來了價值。 或許還有一個最後的評論。 求你了。 想像一下在一個從零開始的世界裡教育孩子 也許是新孩子互動中最重要的一部分 是與人工智能互動，而不是與人類互動。 這是規模最大、最令人恐懼的心理學實驗 在歷史上，我們正在進行這項工作。 確實如此。 好了，尤瓦爾，非常感謝你。 我很高興你正在考慮這些問題。 而且讓我們今天下午都開始思考了。 我期待你有朝一日能再次回到達沃斯。 十年後，回顧這段對話 就我們目前所處的位置而言。 但還是要感謝各位觀眾， 線上與現場的各位。 謝謝。 再次感謝您。