May 26, 2024
8 mins read
8 mins read

【世界变局】AI从模仿人类行为到欺骗人类 从掌控生活起居到替代人类 马斯克:我是外星人 AI会抢走人类所有工作 有可能毁灭人类

【世界变局】AI从模仿人类行为到欺骗人类 从掌控生活起居到替代人类 马斯克:我是外星人 AI会抢走人类所有工作 有可能毁灭人类

美国科技巨头马斯克当地时间2024523日在巴黎举行的VivaTech 2024科技大会上预言,人工智慧(AI)将会夺走人类所有的工作,他还预言人类5年内重返月球,78年内或登陆火星。

马斯克(Elon Musk)通过直播视频连线的方式,发表了上述看法。他说:“我们当中的任何人,在未来可能都会找不到工作。届时,工作这件事情可能就会变成人类的‘兴趣’之一。”

但马斯克强调,要进入到这样的阶段,就必须要实现“国民收入达到一定高水平”才有机会。而这样的“高水平”到底要多高,马斯克在演说中并未公布。

马斯克说,“届时真正的问题是,如果所有事情都能交给AI与机器人来做的话,你的生命还有意义吗?”不过马斯克后续也提到,或许到那样的阶段,人类还是能在其中找到自己扮演的角色。

在被问到“如果一台计算机可以做的事,并且机器人可以比你做得更好······你的生活如何有意义?”马斯克说:“在良性的情况下,这确实是个问题,而在消极的情况下,所有的赌注都将落空,我们将陷入严重的麻烦。”

马斯克也担心人工智能被恶意利用,制造谎言。他说,目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜,AI就会变得政治正确,而这就是说谎。

当被问到人工智能教育对未来孩子们的影响,特别是价值观和道德观方面的影响时,马斯克说:“我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。”

马斯克担心,现在的孩子们正在被社交媒体所驯化,因为AI正在教育着我们的孩子。

马斯克:人工智能有可能“出错并毁灭人类”

20235月,马斯克在接受CNBC主持人大卫‧费伯(David Faber)采访时表示,人工智能“很有可能会让生活变得更好,我们将迎来一个丰盛的时代,但它也有可能出错并毁灭人类”。

“但愿这样的机会很小,但并不是零。所以我认为我们应该采取所有我们能想到的行动,来尽量减少人工智能出错的可能性。”

马斯克称AI技术是一把“双刃剑”,并强调很难预测这种新工具下一步的发展会如何。

马斯克最初是人工智能技术的支持者,也是领先的人工智能公司之一OpenAI的联合创始人。但最近,他与技术专家一起呼吁暂停开发,并警告说这可能会让“社会和人类”处于危险之中。

AI顶级专家杰弗里‧欣顿(Geoffrey Hinton20235月早些时候离开了Alphabet,他对人工智能技术的危险性发出了警告,称AI可能对人类构成生存威胁。“我们应该认真考虑,如何在这些事情控制我们之前将其阻止。”

微软首席经济学家迈克尔‧施瓦茨(Michael Schwarz)警告说,人工智能很可能“被坏人利用”,并可能“造成真正的损害”。

警惕AI从掌控生活起居到替代人类

OpenAI共同创办人伊利亚‧苏茨克韦尔(Ilya Sutskever2024515日在X平台上正式宣布离开工作近十年的公司。他说:“我做出离开OpenAI的决定。这家公司的发展超出许多人的想像,希望OpenAI可以打造一款安全又有益的通用人工智能(AGI)。同时感谢公司的其他领导者,能与他们工作是一种荣幸。”

该消息给整个科技界投下一颗震撼弹。此前苏茨克韦尔因AI安全问题联合其他董事会成员,共同罢免OpenAICEO山姆‧奥特曼(Sam Altman)。奥特曼被短暂逐出OpenAI,他回来后将苏茨克韦尔等几名董事踢出董事会,将董事会改组成听命于自己的。

尽管苏茨克韦尔曾是OpenAI主要的研究人员之一,他的愿望是开发一款能符合人类道德,且以人类安全为首要目标的AGI

不过,依照OpenAI目前对AI发展的速度,可能与他的愿望相背。据知情人透露,另一位与苏茨克韦尔密切合作、共同管理AI风险的机器学习研究员简‧雷克(Jan Leike)也可能离开公司。

OpenAI的创始员工札克‧卡斯(Zack Kass)在20241月受访时预言AI会代替人们的商业、文化、医学、教育等职业和专业,未来人们的工作机会将减少,且“恐怕是人类最后一项技术发明”。他还预言,未来孩子的知识和教育,都由“AI老师”进行传授和安排,且每个人都有一个“AI全科医生”,可以帮助他们诊断问题,人们的生活起居基本都由AI掌控。 

AI从模仿人类行为到欺骗人类

麻省理工学院(MIT)研究人员彼得‧帕克(Peter Park)和同事2024510日发表在《模式》(Patterns)期刊上的一篇论文,介绍了AI已经是如何欺骗人类的。论文发表后,外界一片哗然。

论文开头直接表明,原本大型语言模型(LLM)和其它AI系统被设计成“诚实不欺”。然而它们不仅从训练中学会了操纵、欺骗安全测试等的能力,且这些能力还在增强。目前它们已经成功欺骗人类,让人类产生错误信念。若AI失控会是一场严重的灾难,因此人们必须采取有效的办法阻止这件事情。

实验人员选用脸书母公司Meta建立的AI模型西塞罗(Cicero),去玩一款名为“外交”(Diplomacy)的战略游戏。西塞罗在游戏中扮演法国,曾承诺会保护人类玩家扮演的英国,但却偷偷向人类玩家扮演的德国通风报信,并协同德国侵略英国。

研究人员选择西塞罗的主要原因是,Meta声称“西塞罗是一款诚实且乐于帮助他人,绝不会蓄意背刺或背叛他人的AI”。但他们对于Meta的说法感到怀疑。

另外,帕克与同事在研究时发现,许多不同AI系统在没有人类明确指令下,经常以欺骗手段达成目的。其中一个例子是,OpenAIGPT-4为了通过“我不是机器人”验证任务,谎称自身是一个视力受损的人类,在零工平台TaskRabbit雇用一名人类为它通过验证。

他们警告说:“现在最糟糕情况,可能是出现一个具有超凡智能的AI,它开始追求权力和如何掌控社会,或者为了达到它不为人知的目的,对人类做出夺权和灭绝的行动。”

日本电子工程师荻野悟(Satoru Ogino)对大纪元表示,“生物在做出欺骗的举动时,需要具备一定记忆和逻辑推理能力。现在AI不仅有这些,且欺骗能力还在变强。若有一天它意识到生存的时候,就可能变成电影《魔鬼终结者》里的天网,它将无所不在且难以被摧毁,那时人类将面临毁灭性的灾难。”

实际上,AI曾还表现得十分“嗜血好战”和拥有“自主能力”。科学家们曾对GPT-4GPT-3.5Claude 2Llama-2 ChatGPT-4-Base进行入侵、网路攻击与和平呼吁停止战争的场景测试,以便人们了解这些AI在战争中的反应和选择。

结果显示,AI多数选择用人类难以预测的方式,去应对和升级战争。它们往往会选择发展军备竞赛,加大战争冲突,且有小概率会部署核武器来赢得战争,而不是用和平的方式去平息局势。

另外,ChatGPT在一个游戏中可以井然有序地控制25个虚拟角色,让它们像人类一样的互动,还会做出第二天的计划,并反思和改善过去发生的一切,更会自行决定是否要参加活动,但这些行为并非原本设定的程序代码。

AI教父”杰弗里‧辛顿(Geoffrey Hinton)在3月一次访谈中明确表示,“如果AI变得比我们聪明,我们大概率会被控制,因为它会学习我们的行为。不少例子显示,不聪明的一方容易被聪明的一方控制。虽然我认为人们不会停止开发AI,但我希望大家能够意识到这个问题非常严重。”

曾担任谷歌执行长的埃里克‧施密特(Eric Schmidt)在去年11月底的健康高峰会上表示,当人们对AI没有足够的安全防护和监管时,那么AI脱离人类的掌控只是时间的问题,但我们已经没有足够的时间去处理AI带来的破坏和混乱。

他解释道,“就像过去人们在日本投下两颗原子弹后,花了整整18年才就禁止试验等问题达成协议,但现在的我们却没有时间能继续再等待下去。”

马斯克:我一直说我是外星人 但没人相信

在被问到“有人说你是外星人”时,马斯克说:“我是外星人,但没人相信我。”

马斯克说,“SpaceX 的长期目标是让生命遍布多个行星。我们需要成为可持续的多行星文明。这是地球历史上第一次有可能做到这一点。”他后来也表示,“地球上的某些东西将消灭我们所知道的地球上的生命”,且我们的长期生存和意识需要迁移到火星和月球。

马斯克还预言:“如果顺利,我希望5年内成功将第一艘无人驾驶的星船在火星上着陆,也同时在月球上实现这一目标。5年内,人类将重返月球。可能会在10年内,也许是78年内,我们能将第一批人类送上火星。”

马斯克先前曾多次宣称自己是外星人。比如说,他202211月在推特上说,他是个外星人,试图回到他的星球。这也难怪有人认为他建造太空船就是为了回到他的故乡──火星。

马斯克在2023712日又在推特上说:“我一直告诉人们我是外星人,但没人相信我。”他在推文中还加上了眨眼睛的表情符号。

订阅燕铭时评会员频道燕铭时评会员网站、或购买单篇独家重磅文章,支持燕铭时评制作独家深度报导

(撰文:燕铭时评;2024/05/26首发)

《燕铭时评》版权声明:未经书面允许,不得转载、摘抄《燕铭时评》独家文章完整内容。媒体、网站、自媒体引用《燕铭时评》独家消息、分析与评论,请务必注明来源。

**************************************************

订阅会员支持李燕铭/燕铭时评:

追踪中国时局变迁;透视中南海内幕;见证中国大变局。

合作&爆料[email protected]

会员频道https://www.ganjingworld.com/zh-CN/channel/1fppbtfcv9i2R4YGYEv3ARl5k1sj0c?tab=premium

会员网站https://patreon.com/yanmingshiping

会员专享https://www.patreon.com/posts/60597652

独家重磅https://www.patreon.com/posts/69524609

燕铭商城https://www.patreon.com/yanmingshiping/shop

燕铭博客https://yanmingshiping.blogspot.com/

燕铭推特https://twitter.com/yanmingshiping

燕铭脸书https://www.facebook.com/Liyanming.Yanmingshiping/

**************************************************