為甚麼谷歌停止了人工智能的成像功能？

嗨 大家好啊 今天這個視頻呢 我們聊一下為什麼谷歌停止了它的人工智能成像的功能啊 我們知道這個谷歌最新的人工智能這個平臺呢 叫Jimmy 以前的Bird就是被Jimmy替代 Jimmy算是目前谷歌上能拿得出手的這個大模型 但是呢 出事了 最後導致就直接先停止這項功能 主要是因為哈 他的他不是說能力差多少 是吧 他直接就是反智反人類 就是根本就就不make sense 不make sense 就比如說 我們讓他生成一個納粹時期的德國士兵 這麼一個圖像是吧 他給你生成一個 比如說有黑人面孔 亞洲女性面孔 就這麼一個東西 你看我們預想當中的是吧 德國納粹不是沒有女士兵 他有男士兵女士兵都會有啊 那至少因為德國那個時候他是什麼 他是殺猶太人等等 是吧 他是特別注重自己的那種所謂的形象 他的血統的純正啊 那肯定是白人的這種德國面孔是吧 這是正常的 那最後給你整了一個黑人或者女性 這就大模型本身 他我們可以可以說 他有可能他能力不夠 對吧 但是我們更多的相信他這個平臺 摻雜了太多的人工幹預 幹預到就違反了我們的智商啊 就是正常的這種common sense 他就不管了 這個是比較比較有意思的事情啊 當然這種對圖像的修改過程 在人工智能這個算法裡面啊 整個的這個平臺上我們稱之為過叫補償 是吧 當然他這個補償就過度了 我們不可能不存在補償的情況啊 因為你要對對你生存的結果進行修正嘛 對吧 這就跟我們這個拍照啊 這個拍視頻的這種美顏的這個這功能很像啊 他這個已經不是美顏了 他直接就把這個這個內容給你給你改的面目全非了啊 他根本就是連個baseline他他都不管了 他就按我們常規的話說 連這個AI的底線都不要了 這種的結果我們簡直是無法接受 是吧 那叫不合理的圖像啊 當然了 為此呢 這個谷歌向用戶道歉了啊 這個是作為大公司還是比較比較有意思的啊 然後有人在社交媒體上就吐槽谷歌 那個你給我生成一下美國這個開國元勳華盛頓的這個這個圖像是吧 結果他給你生成了一個黑人 因為我們知道這個在開國元勳就是那個時候的美國的這個領導者啊 還是白人對吧 你至少這follow這個history也可以對吧 你應該生生一生生成一張白人面孔 你不用生成華盛頓那個那個那個樣子是吧 你大體你不要離離大譜是吧 他給你生成一個黑人的圖片 然後他並且他會拒絕生成一些 一些內容圖片 比如說抗議運動相關的一些圖片 他他就無法生成啊 那這個就說明他在裡面摻雜了很多的過濾啊 很多的 一些就是我們用戶就想讓他生成那些對吧 他結果他直接就拒絕 當然了有人有人說那你讓讓他生成黃色圖片是不是 當然這一個啊就對於我們社社會 這個人羣來說 像這種我們是可以理解的 因為你要訪問這個所謂成人內容的話 你要有一個年齡的界限是吧 他目前是沒有的 所以他就不給你生成這個我覺得可以理解 但是你你可以就是有些內容他直接就拒絕拒絕是拒絕生成啊 比如說有些遊行的抗議的啊 他他不給你做 這個是比較有意思的啊 然後有人就分析出啊 就是Jimmy他典型的這個所謂的反文明 就像馬斯克說的反文明 可能有一個脫口秀是吧 專門講這個事情啊 這個馬斯克在X平臺還把這個視頻給轉發了 然後 馬斯克就嘲笑這個谷歌 人工智能這個平臺啊 輸出這個結果的這個這個事情啊 反白人就是前面說的那個 生成美國開國元勳的事 是吧 他好像就是避免避免這個觸碰所謂的種族問題 結果他反而自己就踩了 我讓你生成一個白人 結果你給我生成黑人 這太搞笑了 對不對 有人說這個命貴那個命貴 誰的命不貴 是吧 誰的命都很貴 你不要跟我瞎扯淡 是吧 大家都是都是平等的 我不歧視你 你也別歧視我 對吧 你也不要覺得你自己你自己很高貴 是吧 你你整就是整過了這個 這個就就適得其反 物極必反 對吧 肯定會產生一些副作用的事情啊 還有一個所謂這種 這個過度過度保護哈 你比如說類似敏感的圖片 或者是有些有害的圖片 當然這個是是可以理解的 但是你得給出理由 對不對 啊 你比如說你你生成納粹士兵 你可以不生成 啊 你也可以說我我無法生成相關內容 就是尤其這種內容的啊 告訴你關鍵字是什麼 你不能生成 結果他給你生成一個黑人的 或者是女就是亞洲面孔的啊 這種因為我們知道那肯定是不make sense的 對不對 啊 這這就屬於過度過度的補償啊 或者或者你像那個從開國元勳那個圖片 我們可以看到就谷歌處理這個東西有點交往過正了 是吧 過於謹慎啊 連連這個truth他都不過不管了啊 這個我不得不讓我們想起一個叫白左的現象 是不是白左的現象 就是白左的最大特點 就是他不是說 他不是站在這個truth啊 這個這個角度來看 他是說誰弱誰有理 然後誰弱勢誰有理 他屬於這種的 所謂同情弱者 當然了 同情弱者是我們普羅大眾的一種普遍心理 對吧 你如果比我好 我幹嘛要同情你 是吧 這種 你同情弱者 你纔有一種所謂的成就感 是吧 然後你幫了他了 就說明你還是有價值的 有人比你差呀 至少你可以幫到他啊 這是一種類似居高臨下的一種感覺 有人說做慈善 就也是一種所謂的心理或者是生理的一種需要啊 這個也是可以理解的 這是所謂的人之常情啊 這個是是是可以的 但是你這個過度了啊 就就就就就不行了啊 當然 你像谷歌他也承認自己錯誤 是吧 就類似這種 嗯 某些某些無害的啊 是吧 或者是一些這個過濾條件 他設的也過多了 結果導致他聲稱的這個結果就根本不是用戶想要的 所以在谷歌的這個道歉信中呢 他也提了他不得不說 因為他這個數據規模太大 然後他整個平平臺這個參數也太多 他即使去微調 他可能也無法保證百分之百的cover所有的這種edge case 他因為他這個模型在設計之初 在創建過程中 可能就已經把這東西給給深入靈魂 已經寫的很深入了 對吧 他現在技術即使要改正 可能得一點一點的去往裡摳 所以呢 他就他道歉 即使我們將來重啟這個人工智能的這個成像能力的時候 我們也無法保證 Jimmy你無法不生成這種尷尬的內容 也就是說 他們會改 但是不一定完全改正 這個我們可以允許他去 就是作為一個從用戶的角度上 你可以犯錯 但是你可以接受我微調嘛 你比如說你生成一個美國客戶網頁的圖片 結果生成一個黑人的是吧 我告訴你不對 你給我生成一個白人的 你微調一下就可以了 至少我的session 我的這個session裡面 我在提問的時候 你給我這個結果 我覺得這是可以的 這樣讓用戶參與到當前的session裡面 也許不影響這個其他的用戶模型 我覺得這個是可以的 這就是所謂定製化 這個可能會很有意思 並且這個技術難度很低的 知道吧 因為你在這個session裡面 你針對這一個用戶 他的數據量並不大 所以你並不影響你的算力 反正你因為你這個用戶的信息 這個session你是有的 對不對 他一登入以後 他的數據過往的問題你都有 所以在這裡面 你可以做一個小小的平衡 這樣改起來更快 但當然說 谷歌提出說不能百分之百確認 是吧 將來重啟的時候不會尷尬 是吧 但是他給的理由就是說 我們會根據具體的案例進行修正 同時他強調人工智能技術 是一門新興技術 當然人工智能 它肯定不是個新興技術了 老早我們就開始研究了 比如說robot 對吧 那個時候已經有了 你的program本身 就是我們人類智慧的一個延續 也算是人工智能 包括一些工具 你可以 它也是我們智慧的一個延伸 他提出來所謂新興技術 實際上也就是從所謂大模型 就是chat gpg這個時候 你這麼說也可以 就是能達到 說讓人眼前一亮 能夠以假亂真 可以說是一項新興技術 同時他自己也承諾 是吧 我們一定會竭盡全力 要保證這個內容是安全的 要負責任的 作為一家大公司 像谷歌這樣的公司 這不甜蜜也是令人惋惜 所以谷歌的股價也是瘋狂的跌 是吧 我們當然是希望谷歌 能夠快速修正這個問題 是吧 能夠推出更多更好的 高質量的產品來 好 謝謝各位 歡迎關注丁哥的頻道 我們下次再見