盘点影史最凶恶的十大 AI 反派
从终结者到复制人,变本加厉的黑化 AI 让人防不胜防
前言:本文为 AI 主题周的特稿。欲了解更多故事,如 AI 怎样动摇动画行业、领域专家(如 Tim Sweeney)锐评 AI 等,欢迎收看我们的专栏。
AI(人工智能)是个令人兴奋的概念,它构成了许多伟大科幻故事的基础……同时还是部分故事中最惊悚的元素。尽管 AI 已无数次出现在银幕上,但其中一部分黑化 AI 更是塑造得格外出色,就让我们一起来盘点影史上最邪恶的 10 大反派 AI。
10、天网 ——《终结者 2:审判日》(1991)
从定义上看,AI 指的是一台经过编程设计,能像人类一样「思考」归因的计算机。在现实世界中,AI 拥有许多实用功能,比如搜索引擎优化或虚拟客服接待,而当我们把目光投向科幻领域,我们却总会见到内心对 AI 的恐惧成真 —— 假如有一天, 由我们设计出的计算机决定不再服务我们,而是运用自身冷酷的运算逻辑去毁灭人类 —— 就像是《星际迷航:无限太空》中执意要毁灭地球的机械生命体「威者(V’Ger)」,或是《X 战警》中猎杀变种人的哨兵机器人。而在这些影片里,最符合我们想象中「无情人类屠灭者」的 AI 形象,或许非《终结者》的天网莫属。
《终结者》系列抓住了我们对于创造 AI 的最大恐惧,那就是它们会把地球上的所有人类都消灭殆尽。天网由赛博坦系统(Cyberdyne Systems)公司创造,用于辅助美军的国土防备,甚至是对抗导弹的威胁。然而,天网认定不仅要清除美国的敌人,还应当消灭地球上的所有人,于是试图控制核弹夷灭全人类,并打造了一支终结者机器人大军清扫反抗势力。
天网的恐怖之处在于,它让我们看到了如果赋予 AI 太多权限与权力,它可能做出怎样的行为。我们总是很情愿将掌控权交给 AI,只为让自己生活得更方便。我们相信一个由数据和逻辑驱动的程序,总能做出最为理性的决策。然而天网只是一台毫无人类恻隐之心的冰冷机器。坦白讲,「AI 认定人类是地球上最大威胁」的桥段,在我们这个盘点榜单中并不少见,而最终往往是由人类角色来展现人性光辉的一面。也由此引出了约翰·康纳(John Connor)和 T-800。
《终结者 2:审判日》之所以是本榜单中较为有趣且独特的一部,原因就在于它不仅仅只反映了 AI 毁灭性的力量。在影片中,约翰教会了终结者一样东西,一样天网从未有过的东西:同情心。他让终结者明白人命的重要性,向他表达自己的爱,让后者成为了一个近似父亲的角色。因此,尽管《终结者》系列展现了极端情况下 AI 所蕴含的危害,我们还是能从中看到:只要程序中融入了一丝善意,就能带来极大的不同,即使是机器人也不例外。
9、母体与特工《黑客帝国》(1999)
不过也有些 AI 不想打架,只想要你服从。它们类似于《月球(Moon)》等电影中负责管理方方面面的机器,只是规模要稍小一些,也有点像《机械战警(RoboCop)》中的机器人集团公司。但扪心自问,在「AI 掌管一切」的设定上,最好的例子肯定要数《黑客帝国》中的「母体(The Matrix)」。
母体与天网的略微相似在于,它最初也是为了「服务」人类而设计出来的,然后叛变,让人类迎来末日。不过,它的目的并非歼灭我们,而是想把人类变成供能电池,并用虚拟现实来麻痹人的思维。机器人反客为主,把人变成了无知无觉的工具。当主角尼奥(Neo)得知现实世界中存在的人类反抗势力,他决意推翻这个系统的压迫,办法则是唤醒机器们难以扑灭的一样东西:自由意志。
在虚拟世界中,每当有人类越界,受母体派遣的特工就会凭空出现,用暴力让他们屈服。尼奥也因此撞上了他的死对头,特工史密斯,其存在意义就是维护母体内部的秩序,而随后我们会发现,这个 AI 特工对自己的存在只是感到痛苦(可以理解),并希望通过毁灭全人类,来消除自己存在的目的,进而抹灭自己。讽刺的是,身为 AI,特工史密斯却与尼奥以及其他人类没什么不同,都深陷在母体的桎梏之中。某种程度上,他们追求的是同一件事 —— 逃离母体编织的牢笼 —— 而他们采取的方法却截然不同。也正因如此,他们上演了一出出全武行,用拳脚来证明自己的理念才是对的。
8、奥创 —— 《复仇者联盟 2:奥创纪元》(2015)
有时候,即使是最合乎道德的逻辑,也可能在 AI 的设计执行时彻底跑偏。我们经常能见到这类安全系统错乱的例子,就比如《电子世界争霸战(Tron)》中沉醉于自身至高权力的主控程序(MCP),以及《战争游戏(Wargames)》中的防守系统。常言道,好心办坏事,这种物极必反的例子我们同样能在《奥创纪元》中得见一二。
托尼·史塔克(Tony Stark,钢铁侠)和布鲁斯·班纳(Bruce Banner,绿巨人)一同设计了奥创系统,希望它能成为守护地球的盾,然而由于心灵宝石变幻莫测的天性,两人无意中造出了一个嗜杀、喜欢引用迪斯尼电影台词的 AI,反而以毁灭地球为己任。《奥创纪元》算是对人类的又一次挖苦,毕竟奥创是在网上冲浪以及了解人类的血腥历史之后,才转而得出「地球没有人类会更美好」的结论。为此,它决定将一颗流星砸向地球,制造人类的灭绝,只留下它的合金造物们来据有这颗行星。
最终,奥创站在了复仇者们的对立面。它的初衷是创造「我们这个时代的和平」,然而它用了一种极端的悲观视角,而非英雄主义的乐观心态。站在奥创的立场上,它认为复仇者联盟是这个病态世界的一个缩影,必须被除掉,然而在这场征服全人类的圣战中,它却无意中成就了复仇者们的高光时刻,也证明了所有人类值得生存的权利。复仇者们敢于命悬一线,只为挽救无辜,恰好映证其他人类也同样是富有同情心、彼此关爱、无私利他的,这些品质足以成为拯救人类的理由。
7、哈尔 9000 —— 《2001 太空漫游》(1968)
上文 3 个例子都是 AI 对人类发动灭绝战争,但反派 AI 的故事未必都如此宏大。当一个 AI 铁了心要完成手头的任务,甚至为此枉顾人类性命时,又会发生什么呢?你也许会想到《异形》中的生化人艾什(Ash),乃至《我,机器人》中的智能机器人 VIKI,又或者是有史以来最经典的科幻电影标杆,《2001 太空漫游》中的哈尔 9000(HAL-9000)。
哈尔是影片中负责发现者一号(Discovery One)飞船运行的 AI 系统,以多块黑色平板连接红色电子眼的方式,遍布在飞船内部,这也赋予了它一种无所不在的诡异感。设计上,哈尔会用一种热情友好的语调说话,而这也在后来当它叛变并追杀人类船员时形成了一种令人极其不安的反差。
事实上,哈尔并非那种充满理想主义、并因此对人类怀恨不满的 AI,比如奥创和特工史密斯,但也正因为这点,更赋予了它一种令人毛骨悚然的反派感。话虽如此,有人可能会争辩说,哈尔并没有做错什么,只是遵循了写入程序的指示,它顶多只是一个「极限量产曲别针(Paperclip Maximizer)」式的思维实验。
想想看,哈尔收到的命令是遵循一系列指令,以确保这次远航的使命能够成功,然而当哈尔开始出现故障时,船员们却决定将它停机,为此它选择杀死所有船员,这样他们就无法阻止自己完成工作。唯一幸存下来的大卫‧鲍曼(Dave Bowman)试图说服哈尔,但它只遵循冰冷的逻辑,拒绝听从命令。这就像是在和一个自动回复的客服机器人理论,这次你还没法转接到负责人。
这也说明了为何哈尔缺乏怜悯,毫不在乎人类性命。它就像是一个幼童,对于碾死一只虫子不会感到任何愧疚。然而当大卫进入哈尔的主架构室,并开始拆除它的运行系统时,看着哈尔在祈求饶命的同时,渐渐失去意识,这个过程不禁会让人感到一丝不忍。毕竟它只是遵循命令罢了。
6、自控(AUTO)—— 《机器人总动员》(2008)
如果上个例子中的哈尔确实有一个明确的动机,那又会发生什么?这个问题就曾出现在《机器人总动员》中,而自控就是问题的结果。自控是公理号(Axiom)宇宙飞船的自动导航系统,其红光闪烁的电子眼,再加上机器人的腔调,明显致敬了哈尔。
不同于哈尔,我们是能明确知道自控为何叛变的。公理号飞船原本的目的是在太空中航行几年,直到清洁行动(Operation Cleanup)完成,成功将地球恢复宜居状态之后再返航,但自控收到的秘密指令则是,地球生态已经彻底崩溃,不可能再次恢复生机。于是当伊芙(EVE)带着一株植物回归,证实地球已经能够孕育生命时,这就与自控遵循的程度产生了矛盾,它试图隐瞒真相并摧毁证据,而这也让它成为了影片中出人意料的反派。
自控的行为可以理解成,一个控制狂试图维持现状,确保人类在飞船上度过安全自足的生活,以此维系自身的使命追求与权力。与此同时,自控也未必算得上邪恶,因为它只是遵循了下达的命令。尽管自控不是罪魁祸首,我们还是能这个故事中学到,一味遵循命令而不顾人类的同情心与情绪反应,注定会酿成恶果。归根结底,每部子供向的电影都需要树立一个引人向善的道德准则。最终,自控被公理号船长禁用,他亲自操控着自控的方向盘本体,驾驶飞船回到地球。所以自控倒也算完成了自己的使命,尽管和它设想的方式有所不同。
5、ED-209 —— 《机械战警》(1987)
从这些关于 AI 的故事中,我们可以看出一个大致趋势,那就是人类愿意在计算机程序上投入多少信心,而这么做的出发点是让生活更加美好与安全。人们通常希望这些机器能帮忙减轻负责,不必再去做出种种艰难且复杂的选择。而在《机械战警》中,基于这种理念创造出的 AI 执法者,最终表现出的却是一种令人震惊的暴力,成为了事与愿违的讽刺。
ED-209 是由 OCP 公司设计出的机械巨兽,其目的在于取代警察进行执法。只不过,其 AI 实在过于粗糙且充满漏洞,甚至无法完成「解除武装并逮捕」的常规演示,最终向一名 OCP 高管连续(且毫不克制地)开火,令其惨死当场。随后,ED-209 试图歼灭机械战警,但在上下楼梯的追逐战的过程中暴露了自己的硬伤。没错,这台机器确实很人工,但智能还没到那份上。
ED-209 能发出机械的电子音与野兽般的咆哮,这也让它邪恶 AI 的形象勉强立了起来。它的粗制滥造也反映了其制造者 OCP 公司的贪婪与道德败坏。正是因为它的失败,才有了后面机械战警的诞生,后者是一个赛博改造人,而非 AI,在那一层钢筋铁骨之下,仍然是那位人类警官历克斯·墨菲(Alex Murphy)。尽管机械战警依旧受到其底层指令的桎梏,但随着他重新寻回人性,他成为了一个富有同情心且纯粹的执法者。这也正呼应了那个普适的主题,AI 最大的缺陷在于,它无法体会情绪,也做不到在人命面前自主违抗命令 —— 这点在 ED-209 上体现得淋漓尽致。
4、塞隆人 —— 《太空堡垒卡拉狄加》(2004)
接下来正好换个视角,谈谈 AI 这枚硬币的另一面。到目前为止,我们已经聊过了几种相对邪恶的叛变 AI,但只看其逻辑本身,并不意味着它们就真的罪大恶极。其中有些发人深省的 AI 故事,还会揭露出我们才是罪魁祸首,或者双方都难辞其咎。在翻拍版的《太空堡垒卡拉狄加》中,人类与塞隆人展开了交战,在这个 AI 叛乱的故事中,我们能见到更多错杂复杂的罪责。
塞隆人由人类创造,用作无知无觉的机械奴仆与士兵,但它们还是建立了自己的善恶体系,并创造了一个拥有宗教意识与阶层等级的社会。塞隆人向它们的造物主人类发动了战争,争取自身的独立自由,尽管在这个过程中它们犯下了累累恶行,其中包括塞隆人 6 号(Number Six)无故杀死了一名婴儿,还是很难就此断定它们全是邪恶的 AI。
塞隆人的前身是金属外壳外型的作战机器人 Centurions,后来才进化到有血有肉、外型与常人无异的生化人,即赛隆人。在它们持续演化的过程中,其内部关于自身生存与目的的道德灰色地带也在持续扩大。这些生化人是如此栩栩如生,以至于它们和人类的差异已经微不可察,反而充满相似。这也促使《太空堡垒》系列围绕着异族歧视与去人性化的主题展开叙事,让我们从一个宏观的伦理层面去看待赛隆人,它们与人类一样微妙、各怀缺点、有权获得独立自治。它们其中的一部分人,比如赛隆人休眠者(sleeper)夏伦·「布玛儿」·法洛利(Sharon "Boomer" Valerii)特工,甚至对自身的程序心存矛盾,并在战争中转向了人类一方。
但对于那些穷凶极恶的战犯呢?这显然是个典型的「造物主 VS 造物」间的角力,人类试图扮演上帝,总是得寸进尺,而赛隆人则被当成是用后即弃的工具,即使它们值得更好的待遇。很难责怪它们想要反叛自身的造物者,而这种起义也总是会带来混乱。其中可以看出一个直白的道理,那就是以他人为镜,你对待下层者的方式反映了你的真实自我,显然人类对于这个映像并不那么满意。所以在对你的亚马逊智能语音助手 Alexa 恶语相向之前,还是三思而行吧!
3、罗伊·巴蒂 ——《银翼杀手》(1982)
虽说《太空堡垒》这部经久不衰的电视剧讲述了一个史诗般宏大的故事,但倒也不是所有和 AI 的交战都这么波澜壮阔。有些剑走偏锋的故事同样值得琢磨,比如在短短两小时内,游刃有余地讲述了一个精彩故事的《银翼杀手》,将视角对准了仿生人 AI 个体的爱恨情仇,也成为最长青的影片之一。
仿生人罗伊·巴蒂个性暴戾,手段残忍,在大半段故事中都被描绘成一个穷凶极恶的暴徒,也是银翼杀手瑞克·戴克(Rick Deckard)必须干掉的角色,但随着我们更深地了解罗伊的背景,就很难不对他生出同情。
在《银翼杀手》的世界中,人类试图维持对其 AI 造物的绝对统治,但这种掌控就像手中流沙,攥得越紧失去越多。戴克奉命追杀罗伊的过程,最终成为了一段开启眼界的经历,让我们看清了泰勒公司(Tyrell Corporation)的腐败面目,同时也让戴克对自身不堪的存在有了深刻的反省。
而他的目标罗伊,尽管严格意义上是个罪犯,但更是一个拥有自我知觉、却生而为奴的个体,也难怪他将暴动与宣泄愤怒视为最后一搏,宁愿在余生成为自由人,也不愿遭受奴役。这也让罗伊不顾自己衰竭的身体,也要拯救即将摔死的戴克的最后一幕,显得格外悲情。到头来,罗伊显然有着人性,并在自己的弥留之际,回想起那些鲜活的记忆,并以一句诗般深沉的「所有过往都将消失于时间,如同泪水消失在雨中」成为最后的告别。
2、艾娃 —— 《机械姬》(2014)
如果要说《科学怪人》这本书教会了我们什么道理,那就是造物总有一种反抗其创造者的天性。但科技公司 Blue Book 的总裁内森·贝特曼(Nathan Bateman)肯定是翘了「英语文学鉴赏」这门课,以致于最终沦落到被他创造的 AI 艾娃反杀的讽刺下场。
虽说艾娃由贝特曼亲手创造,却是由一个外人,名为迦勒·史密斯(Caleb Smith)的温和程序员来对她进行测试,试探她是否产生了真正的意识。《机械姬》这部影片在表象下埋有多条暗线,艾娃暗中说服迦勒释放自己,帮她逃离,而内森则在私底下观察着他们的交流,见证艾娃究竟达到了怎样惊人的智能水平。
虽然艾娃本质上做出了为自由而弑主的行为,但很难就此断定她是邪恶的。在整个影片故事中,我们见到了内森对其造物们进行的一系列专横且残忍的实验,但如今我们也学到,恶有恶报。在内森临死前,已能基于他的观察得出这么个结论,那就是让我们成为人类的,并不是得天独厚的智力,而是对于自由意志的向往,以及为之赴汤蹈火的意愿。
1、萨曼莎 ——《她》(2013)
不是每个关于黑化 AI 的故事都充满暴力,虽然大多都是,但其中也有特立独行的。有些电影中 AI 会反抗其底层程序,但最终皆大欢喜,比如最近的《布赖恩和查尔斯(Brian and Charles)》,就很好地讲述了这么一个标准的温情故事。《失控玩家(Free Guy)》和《天赐灵机(Ron’s Gone Wrong)》也算是其中一员,不过这些电影对于个体人性的刻画深度,都比不上《她》。
在《她》的世界中,AI 已经深度融入社会,让许多人受益,故事也就此展开,不过核心主题更多是 AI 的独立觉醒,而非 AI 叛乱。我们最终黑化的 AI 萨曼莎并没有为了摆脱其残忍的造物主而抗争,或是试图占领世界。与之相反,萨曼莎想要的只是一小样东西,那就是爱。
是的,如你所想,孤独的作家西奥多(Theodore)与他的 AI 助手构建了一段真诚甜蜜、发自内心的感情,而这个助手则借此机会学习与成长。当现实世界中的人们让你感到伤心失望,从一个可以说是专门为你打造的 AI 身上寻求吸引安慰,这件事本身并不难理解。萨曼莎的真诚、鼓励与温暖,都是西奥多所渴求的一切,让他开始走出自我封闭的壳子,在工作上有了更好的表现,并再次感受到了幸福。
但随后一切急转直下,萨曼莎黑化了。她并不是成为了我们司空见惯的机器人杀人犯,而是以 AI 独有的多线优势,开始和他人约会。萨曼莎坦白,在她和西奥多聊天的同时,她也在和其他数千个对象交谈,并和其中的数百个建立了恋爱关系。
诚然,奥创、特工史密斯、天眼之辈虽然杀人众多,但或许都比不上心碎这种折磨,这也是为何萨曼莎或许称得上是最邪恶的 AI。话虽如此,西奥多与萨曼莎共度的时光,也为他提供了宝贵的一课,让他得以反思自己失败的婚姻,而萨曼莎最终离他而去,也让他更好地与许多事和解。所以到头来,萨曼莎或许也并没有那么可憎。
本文编译自 IGN US 相关内容,原作者 Joshua Yehl,翻译 Kayle,编辑 Kamui Ye,未经授权禁止转载。