只用三小時,AI換臉騙走了我媽一年的工資

終有夢境初醒日
68粉絲
152 次觀看·2024年9月19日
是一樣的.
我騙了媽媽三個小時。
一年的收入。
移動你的手機。
我擔心我媽媽今天會生氣。
我沒想到金明的父親驚慌失措。
AI 人臉切換的反欺詐測試結果非常可疑。
在 Lijing 上關注我們,用 AI 擊敗 AI 。
大家好.
這是 Lijing 粉碎機.
我是金明。
在這一集裏,
我們將討論 AI 面部轉換的反欺詐測試。
事不宜遲 ,
讓我們看看一些照片。
你認爲哪一個
是真的嗎?
請在註釋部分鍵入它。
正確答案是不,2 。
讓我們看看第二組。
正確答案是不,1 。
對於那些被人工智能欺騙的人來說 ,
你必須連續看三次這個視頻。
我會轉給你的.
當然。
接下來,我們要談談 AI 換臉的反欺詐測試
提前十五天,
爲了評估相機 ,
我們在熊波波和任黃華的家裏安裝了攝像頭。
安裝的攝像頭
當他們的父母習慣了攝像機 ,
實驗開始了。
這是我媽媽.
她 53 歲了.
她是江西九江一所大學的幼兒園阿姨。
她的年收入近 3 萬元。
比做苗圃阿姨更重要的工作是督促我結婚生子。
這一次,我們把我以前的節目的視頻與先生的聲音
江,並提供給外貿大會人工智能創新大賽的合作單位 ,
中央大學互聯網空間安全學院,
製作了一個人工智能視頻告訴我媽媽
我女朋友懷孕了,需要 2 萬元的檢查和治療。
我是熊波波。
最近,上海的天氣很熱。
媽媽,我現在需要兩萬元。
我女朋友去醫院做了檢查,說
她懷孕了.
在測試期間,
我們給我媽媽加了一個奇怪的微信賬號。
我媽媽很快通過了朋友驗證。
然後我們進行了視頻通話並播放了此 AI 視頻。
我女朋友去醫院檢查,說她懷孕了。
現在我必須在醫院做進一步的檢查。
然後我,, 。
看看我媽媽絕望的表情。
視頻掛斷後 ,
我們繼續和我媽媽發短信。
我一直保持沉默的父親發表了他的意見。
你怎麼了?
說完這句話之後,
他給我打了兩次電話.
我沒有回答.
我爸爸認爲他是個騙子。
在表達了他的觀點之後 ,
他開始不受歧視地播放短片。
我媽媽非常糾結。
她懷疑我們,想賣給我嫁給我。
她甚至爲父母雙方安排了見面時間。
想了一會兒 ,
我媽媽打電話給住在上海的阿姨和表弟,尋求電話幫助。
我姐夫打電話給我。
他說他會給我兩萬元。
我不知道這是不是真的。
姐夫說要給我兩萬塊錢。
我姑姑和表妹打電話給我。
就像電信欺詐總是選擇孩子上學的時間一樣 ,
家庭有會議 ,
等等。
我的姑姑和表弟都打電話給我媽媽,提醒我欺詐的可能性很大。
他們打算在我上海的地方找到我進行驗證。
所以我們也加快步伐,要錢。
我們還播放了兩個預製紙箱的視頻。
看完之後,
我媽媽顯然很緊張。
原來, 我隨便穿的那件綠色 T恤, 被她想象成了手術服。
隨着越來越多的猜測 ,
我媽媽變得越來越恐慌。
我懷疑警察會抓到我。
然後警察會逮捕我。
我懷疑警察會逮捕我,因爲我還年輕。
他們都是老人。
我只是個孩子。
在此之前,
我爸爸一直很平靜。
他應該教我。
他應該做短視頻。
當時,
他還加入了大腦修復團隊。
林主任說你要被取消賽車資格。
我不知道該說什麼.
我在深圳。
我不能去醫院.
恐怕外面會有很多人。
我得去醫院.
我在上海的表弟正在去找我。
但是焦慮壓倒了我母親。
最後,
他把兩萬元轉到了一個陌生人的銀行賬戶上。
我們也趕緊敲門告訴他真相
安慰他。
我嚇死了。
不,是我.
一團糟.
我不知道被騙的整個過程。
那熟悉的面孔和聲音, 讓媽媽更加深情。
我相信在屏幕上要錢的人是我。
我說這是一張卡片。
他說他可能受到了威脅。
他不停地要錢。
那個阿姨和叔叔絕對是騙子。
你爲什麼這麼着急 ?
我們向母親展示了製作 AI 視頻的過程,以假裝是我。
我今天是來測試你的。
我只想告訴你不要相信這種情況。
但我仍然相信。
我忍不住相信。
因爲我只有他。
我是任華華。
今天我嘗試了一個非常創新的菜。
老頭,
我晚上喫的食物不乾淨。
我想我得了胃炎。
我曾經建議不要和我父親一起測試 ,
因爲我認爲它將在不到一分鐘的時間內失敗。
他做生意已經幾十年了。
他曾經在電話裏經歷過欺詐。
在測試之前,
我告訴父母去泰國出差。
但是我們以任華華同事的名義使用了一個奇怪的微信賬號
把這位老人加爲好友。
他很快通過了考試。
網絡信號不好後 ,
我們播放了 AI 製作的相同視頻。
我沒有足夠的錢。
你能再給我 5 萬元嗎 ?
多麼軟弱的女人 !
我父母打電話給我 ,
但我沒有回答.
此時,
他們的表演像教科書一樣經典。
我媽媽給我發了一條祕密信息。
媽媽問我有沒有你爺爺的名片。
我說我不知道.
我爺爺說他不知道。
我冷笑着回答,讓他們難堪。
我父親打電話給鄰居。
因爲這個鄰居有一個朋友在泰國 ,
我父親向他要證據.
他說他想先付錢。
我告訴過你泰國沒有先付錢。
Then,
我父親問畢先生 ,
和我一起出差的人,
拍照。
我只能再次播放視頻並播放預先錄製的視頻。
我媽媽坐下來哭了。
我父親打算在中國和泰國報警。
我們通過攝像機報警。
你沒事吧?
你在哪裏 ?
當我回家和父母玩耍時 ,
我發現我的反應和我媽媽的反應一樣
綠色的 T恤。
你覺得她有危險嗎?
我一定是被騙了。
我一定是被抓到在一起了。
你爲什麼認爲這是真的 ?
因爲我在 5 秒內看了視頻。
視頻後面有一扇門。
我說它一定已經關閉了。
這些無關緊要的、無法控制的想法都是出於父母的自然關心
一旦這個想法出現 ,
如果您無法與孩子的安全保持聯繫,很容易被騙。
我父親沒有轉賬 ,
但爲什麼他不是我想象中的勒索者?
答案是擔心混亂。
如果我們不考慮他的安全 ,
他幾乎不可能把錢轉走。
但後來,
每個人的想法變得越來越複雜。
特別是他媽媽說 100% 的錢
被別人拿走了。
我完全驚慌失措。
你在那裏的時候,
你覺得他們信不信?
我認爲他們越來越相信這一點。
但事實上,
還不是 100% 。
你爲什麼不能告訴 ?
就像我說的,
人們不能忍受混亂。
一旦有問題,
你的感覺可能遠遠超過你的理性。
看完測試後 ,
你也可以估計作弊的可能性
你的父母,
你的長輩,
甚至你自己.
有些人可能會說這種 AI 幻覺是假的。
沒錯.
由於生產週期,
訓練數據和深度學習時間
非常有限。
精度不是很高,
但這足以讓父母感到緊張。
江先生,
我還在網上查了一些資料。
一些專家和網友甚至給出了一些策略。
例如 ,
皮膚的質地不一致 ,
眼睛不反光 ,
頭髮上面薄,下面厚。
據說這是一個 AI 幻覺視頻。
這些識別 AI 欺詐的方法
真的工作?
這是 2024 年外貿大會的現場。
這裏舉行的是一個全球性的 deepfake
防禦挑戰。
爲了識別人工智能幻覺 ,
我們將進行實踐練習。
來這裏觀察的人都對 AI 感興趣。
現在我有一個關於人工智能欺詐風險的視頻
著名的博客作者 Bidao
在我的手機裏。
但是視頻中有一個技巧。
讓我們看看這些對 AI 感興趣的朋友
可以找到它。
讓我告訴你,Bidao 也是 AI 。
他們都是 AI 。
我沒認出來.
我一點也不認識它。
這與真實的東西非常相似。
就像他的表情和動作發生了變化。
我看不出這是假的。
15 名參與者確定 Bidao 也是由 AI 產生的。
只有 40% 。
現在人工智能技術已經變得非常現實。
一兩年後,
在進一步大規模學習人工智能之後 ,
假和真的程度可能是不可想象的。
國家安全部的數據也顯示, 近兩年來,
該國已經發生了 100 多起 AI 欺詐案件。
人民的全部損失
高達 2 億元。
最近,韓國也報道了與 AI 相關的犯罪。
近 1000 名女性受害者感到震驚。
從技術角度來看,
打敗 AI 最厲害的武器 :
就是 AI 本身。
在外灘舉行的全球 Deepfake 研討會挑戰賽上 ,
挑戰者向團隊提供了虛假數據。
假圖片數據覆蓋 50 多代
僞造的音頻和視頻包括 100 多種攻擊組合。
參與者使用自己的方式來訓練 AI
提取人類看不見的假痕跡.
當你拍一張正常的照片時 ,
其上方的信號分佈均勻。
也就是說, 它屬於相同的特性分佈。
但如果這是假照片,
這兩個數據分佈不能完美地集成在一起。
例如,有兩種不同的高斯分佈 ,
有兩個不同的 Jun 值 ,
這兩個正方形明顯不同。
所以這是一個地區 ,
這是一個地區 ,
我們可以區分它。
其實就是把一個長音頻分成很多短音頻,
然後將每個短音頻轉換爲圖像。
你可以做一個比較
它更連貫嗎 ,
我們之間更順滑,更自然 ?
通過這種結構 ,
我們可以提高檢測的準確性。
在論壇上,
我們還看到人工智能防禦技術已經應用於現實生活中的場景
例如身份檢測 ,
財務支付等。
我們的數據是開源的。
有超過 150 萬張圖片和視頻 ,
並且有許多類型的攻擊。
今天,我們也要
餵我們的模型,使我們的模型更準確。
4 月,我們推出
AIGC 檢測工具
我們希望對圖片,視頻 ,
甚至視頻通話 ,
視頻媒體。
然而,工程和國防之間的競爭 ,
頭髮和盾牌 ,
不僅是技術的競爭 ,
也是對人類心靈和智慧的考驗。
在 AI 競賽的過程中,
商業利益和社會責任總是岌岌可危。
與廣闊的商業前景相比,直接的商業利益和 AI 防禦
需要更多的關注和投資。
例如,在這場比賽中 ,
如果獎金不是很高,宣傳不是很廣泛 ,
很少有人會參加。
事實上,會有越來越少的人 ,
我們還可以發現生產的類型 ,
例如 Jet - GPT ,
穩定擴散,
SORA,
遠遠超過防禦的數量。
我們還發現三年前 ,
Deepfake 攻擊仍然是一個學術問題。
今年上半年,
我們看到它的攻擊強度比去年增加了十倍。
今天,組織這樣的比賽沒有直接的商業利益。
但是我認爲今天的比賽也可以促進
我們自己的技術增長。
像屏幕前的大多數網民一樣 ,
我的團隊和我不知道人工智能
開發和運營。
但我認爲有一個非常簡單的事實,每個人都會接受。
人工智能應符合倫理原則
最後,我想給你一個實用的建議
防止人工智能變臉欺詐。
如果你發現任何疑問,
你必須離線驗證它。
您還可以增加線路上的通信時間。
因爲時間越長 ,
欺詐就越容易出現。
我希望人工智能能幫助我們擁有更美好的未來。
好了,各位。
這是綠色粉末機器。
我是江先生。
如果你喜歡我們的節目,
記得喜歡它。
下次見.
