世界10大 之新发现【人工智慧發明出自己的語言後急速關閉】人类可能被它毀滅 | 科技 | 人工智能 | 事件 | 美国 |

00:28 Facebook最近開發了新的人工智慧【A.I】時
00:52 據Fast Co. Design報導
01:21 在兩個機器人在談判的過程中
02:02 現代AI們運用的是以「獎勵」為原則
02:18 早前，在2017年4月份的一個報道

到底什麼是人工智能A.I？
人工智能研究的終極目標，就是設計一個真正能在人類的社會中，
表現出像人類一樣智能行為的計算機
簡單來說，人工智能就是模仿人類的思考過程
和擁有自我的思維能力。

Facebook最近開發了新的人工智慧【A.I】時，
過程意外發現，人工智慧發明出自己的語言後，馬上就被臉書急速關閉
因為它已經使用暗碼創建了自己的語言來更有效地進行溝通。
研究人員及時關閉系統，因為他們可能失去對A.I.的控制。
而這也不是第一次AI們從英語培訓中脫軌，並開發出自己更有效的語言。

據Fast Co. Design報導，研究人員註意到機器人完全放棄了英語，
在他們先進的系統中，卻能夠繼續與其他AI進行談判，並一起決定如何繼續進行任何的工作。
在一個特別的交流中，兩個談判的機器人Bob和Alice用自己的語言完成交流。
起初，AI使用的詞語似乎是難以理解，但是經過進一步的觀察，
研究人員發現AI們的語言交流，代表著手頭上的任務，而該語言不是人類所理解的英語交流。

在兩個機器人在談判的過程中
Bob開始說：我可可我我其他一切【I can can I I everything else】
Alice著答復，（球對我是零，對我，對我，對我，對我，對我，對我，對我）
【Balls have zero to me to me to me to me to me to me to me to me to】
雖然這種濃縮的溝通方式對人類的耳朵聽起來像是胡言亂語一樣，
但這些句子裡出現的變化，卻被AI解讀時，而實際上是形成了有具體的意思。
他所回應意思就像我們說的，【我拿三個，其他的給你】。
而在兩個機器人之間是相對的理解，然後繼續進行它的工作。
機器自行編制自己言語，人類是無法理解的。
人工智能在這種人類無法理解的情況下進化，
會不會形成人類失去對A.I.人工智能的控制呢？

現代AI們運用的是以「獎勵」為原則，
他們會預期採取某種溝通行動方式，來獲取相關「利益」。
但在這種情況之下，A.I如果繼續使用英語而沒有得到獎勵，
那他們決定使用更有效的溝通方式，來進化自己。

早前，在2017年4月份的一個報道
斯蒂芬·霍金曾經說過：人工智能可能成為人類文明的終結者，
從長遠來看表示擔憂，主要來自人工智能系統失控的潛在風險，
擔心不遵從人類意願行事的超級智能的崛起，
會威脅到人類。理論上，人工智能的發展可以模仿人類智能，
然後超越，但我們無法知道，人類到底是無限地得到人工智能的幫助，
還是被人工智能藐視和被邊緣化，或者很可能被它毀滅。

這一集就到這裏為此。歡迎大家訂閱本頻道，
以追蹤最新的視頻，為大家搜索關於我們居住的地球。
了解世界，無奇不有。
有您的訂閱，留言，分享和點個贊，
是我們做影片的推動力。
謝謝大家~

关键字： 科技 | 事件 | 美国 | 人工智能