LOADING...
LOADING...
LOADING...
当前位置: 玩币圈首页 > 行情分析 > 《奥本海默》诺兰专访:毁灭人类,原子弹比 AI 可怕

《奥本海默》诺兰专访:毁灭人类,原子弹比 AI 可怕

2023-09-03 极客公园 来源:区块链网络

图片来源:由无界 AI 生成

这可能是英国著名导演克里斯托弗·诺兰,发布新片最好的时机,没有之一。

在《信条》(Tenet)因为新冠疫情「折戟」之后,导演的新片《奥本海默》(Oppenheimer)即将于一个月后开画。

这部讲述「原子弹之父」罗伯特·奥本海默生平的影片,聚焦于一个富有魅力和智慧的男人,如何率领「地球上最聪明的大脑」,攻克物理学难题的同时,发明了世界上最危险的武器的故事。

诺兰及其同辈人成长中对于「核威胁」的恐惧,在当下有了新的回响。

只不过,这次原子弹有了新的名字,叫 AI。

ChatGPT 技术让人工智能再次大火,而对于新技术的恐惧和兴奋呈同样态势。数百位 AI 专家发布联名信,声明人工智能可能带来的「灭绝人类」的威胁。

连线 Wired 近期刊载了克里斯托弗·诺兰导演的专访长文,导演在其中阐述了对于当下热议的「AI 威胁」的看法,以及人工智能和 70 年前核威胁的比较。

曾经在《星际穿越》中用爱拯救人类的诺兰却认为,AI 最大的威胁,是人类有一种本能的欲望,希望将其造物捧上神坛,进而摆脱自己需要承担的一切责任。

导演一针见血地指出,相对于奥本海默一辈科学家在科学与当权者之间的挣扎和反抗,当下 AI 从业者的「求监管」,是「虚伪」的。

同时,作为执着于胶片的老派电影人,诺兰对于生成式 AI 在影视创作领域的发展抱有期待,但自己想做的,还是「要给演员一个真实的氛围和环境」。

「人类最大的危险,是放弃责任。」诺兰在采访中说道。

标题:How Christopher Nolan Learned to Stop Worrying and Love AI

链接:https://www.wired.com/story/christopher-nolan-oppenheimer-ai-apocalypse

作者:MARIA STRESHINSKY

编译:靖宇

以下为采访对话原文,编者进行了不改变原意的修整:

01 毁灭世界,原子弹第一

问:感觉你和艾玛(诺兰的妻子,他一直以来的制片人)的工作,从某种程度上,一直在为《奥本海默》做准备。

诺兰:这就是我对这部电影的感觉。

我对所做的每个项目都有这种感觉。因为我试图在以前所学的基础上继续前进。每当你完成一部电影,都会有一些问题悬而未决。因此,在下一部电影中,你会把留下来的问题捡起来。

在《奥本海默》中,非常有字面意义,《信条》(Tenet,诺兰的前一部电影)中就提到了奥本海默。

问:所以他在你的脑海中已经存在了一段时间。

诺兰:奥本海默的故事已经伴随我多年。这是一个令人难以置信的想法——有人试图通过计算,来寻找理论和现实世界之间的关系,然后有一个非常小的可能性,他们将摧毁整个世界。然而,他们还是按下了按钮。

问:非常戏剧性。

诺兰:我是说,这简直是最戏剧性的时刻,在整个人类历史上来看。

问:很多人可能不知道,当我们在 1945 年投下炸弹时,这不仅是一个可怕的时刻,也正是这个时刻,让人们了解到人类现在拥有了可以消灭整个人类的能力。

诺兰:我对奥本海默的感觉是,很多人知道这个名字,知道他与原子弹有关,在美国历史的关系中还发生了一些复杂的事情,此外就没了。

坦率地说,对我来说,这就是我的电影的理想观众。那些什么都不知道的人将会得到最疯狂的体验。因为这是个疯狂的故事。

问:你是指他的个人故事?

诺兰:观众应该了解,因为他是有史以来最重要的人之一。

诺兰御用演员希里安·墨菲在片中扮演奥本海默|豆瓣电影

问:电影里有一句台词,有人对奥本海默说,你可以让任何人做任何事。类似这样的话。他是一个出色的管理者,对一切了如指掌,在那个房间里,有些科学家在做 X,而在另一个房间里,那些科学家在做 Y,他是一个能把这一切记在脑子里的人。

诺兰:他知道如何通过他的角色的戏剧性来激励人们,投射他自己的光辉。他给所有的科学家、官员,每个人一个聚焦的目标。

问:他拥有真正的魅力。

诺兰:魅力,这是个完美的词。它让一切得以成形,这部电影经常涉及到这一点,正是他的魅力,让这些学者、这些理论家能够走到一起,用他们自己的双手建立起如此巨大、如此重要的东西。这是个奇迹。

问:谈到建立一个巨大的东西,我最近在温哥华的 TED 会议上,最有趣的会议之一是一系列关于生成式人工智能的谈话。很多发言者都提到了原子弹、核武器。最后一位发言者是一位技术专家——他谈到了人工智能不可避免的武器化。

演讲结束时他说,维持世界秩序的唯一途径是拥有更好的人工智能武器。那是一种威慑。这听起来很像人们对原子弹的看法。感觉你的电影找到了最合适的发行时机。

诺兰:我认为这种关系是一个有趣的问题。这是不一样的。但这是最好的比喻——这就是为什么我在《信条》中使用它——不假思索地向世界释放一项新技术的危险性。这是一个警告性的故事。我们可以从中吸取教训。

话虽如此,我确实相信,就改变和危及世界的技术而言,原子弹是独一无二的。

问:而且这些技术的起源是不一样的?

诺兰:有根本的区别。

研究原子分裂的科学家们一直试图向政府解释:(核能)是自然界的一个事实,来源于上帝、或任何创世者。这只是关于自然的知识,它不可避免地将会发生。没有人可以隐藏它,我们没有创造,也不拥有它。他们是这么看的。

问:换句话说,他们觉得自己只是揭示了已经存在的东西。

诺兰:而我认为你很难对人工智能提出这样的论点。当然,肯定有人会这样做。

问:你一定是在炸弹的阴影下长大的。

我是在 20 世纪 80 年代的英国长大的,我们有一系列核裁军之类的运动,人们非常、非常清楚核武器的威胁。当我 13 岁时,我和朋友们相信,我们最终会在核灾难中死去。

问:但你们没有,世界在继续前进。

有一天,我和史蒂文·斯皮尔伯格谈起这个问题,他是在 60 年代古巴导弹危机的威胁下长大的。一样一样的。

在人类历史上,有些时候,核战争的危险对我们来说是如此的触手可及、触目惊心,以至于我们对它非常了解。当然,我们也只能担心这么久,然后继续前进,开始担心其他事情。问题是,危险实际上并没有消失。

问:对。我的意思是,我觉得一个月前,我们都在担心某些国家可能真的会使用核武器。

诺兰:我记得 80 年代的情况是,对核战争的恐惧已经退去,转而对环境破坏的恐惧。这几乎就像人类无法对单一一种威胁保持长时间的恐惧,我们与恐惧有一种复杂的关系。

是的,某些国家一直在利用这种末日威胁和这种恐惧来摇旗呐喊。这让人非常不安。

导演诺兰工作照|环球影业

02 将 AI 捧上神坛,才最危险

问:和人工智能末日的威胁一样让人不安?

诺兰:好吧,人工智能在武器系统方面的增长,以及它将产生的问题在很多年前就已经非常明显,很少有记者费心去写它。现在有一个聊天机器人可以为当地报纸写一篇文章,突然就成了一个危机。

问:我们这些做媒体的人,多年来一直在这样做。盲目追求。我们中的一些人正在写关于人工智能的文章,因为它可以使我们失去工作。

诺兰:这就是问题的一部分。对我来说,人工智能是一个非常简单的问题,这就像算法这个词。我们看到公司使用算法,现在是人工智能,作为逃避其行为责任的一种手段。

问:请多解释两句。

诺兰:如果我们认可人工智能是全能的观点,我们就是认可它可以减轻人们对其行为的责任——在军事上、社会经济上等等。

人工智能最大的危险在于,我们将这些神一样的特性归于它,从而让我们自己摆脱了困境。

我不知道这其中的神话基础是什么,但纵观历史,人类有这种倾向,即创造虚假的偶像,以我们自己的形象塑造一些东西,然后说我们有神一样的力量,因为我们做出了这些东西。

问:这感觉非常,非常正确。就像我们正处于那个临界点。

诺兰:正是如此。

问:有了这些大型的语言模型,机器甚至下一步可能开始自学。

诺兰:洛杉矶时报上有一篇关于 ChatGPT 和 OpenAI 的有趣文章。它基本上 ChatGPT 是一个销售手段,OpenAI 现在是一家私人公司。他们有世界上最伟大的销售机器,而这是一个非常危险的东西。也许我们不应该推向大众,因为现在每个人都想要 AI 助手了。

这并不意味着这里没有真正的危险,因为我觉得有。但我个人,这只是我的观点,我认为危险在于放弃责任。

问:人们一直说需要有一个国际机构来监管 AI。

诺兰:但这是科技公司最古老的政治伎俩。对吧?这就是,你知道,SBF 与 FTX 做的事(加密币交易所崩盘丑闻);扎克伯格多年来一直要求被监管。因为他们知道,我们选出来的官僚,根本搞不清这些问题。

问:正如我们从国会听证会上看到的那样?

诺兰:他们又能说啥呢?我的意思是,这是非常专业的东西,当权者对创作者和奥本海默——让我还是带回到奥本海默。

奥本海默的问题是,他非常看重战后科学家的作用——他们作为专家,必须弄清楚如何控制核力量。但当你看到发生在他身上的事情时,你就会明白,那是永远不会被允许发生的。

这是科学和当权者之间非常复杂的关系,它从未像奥本海默的故事那样被残酷地暴露出来。我认为可以从中吸取各种教训。

奥本海默同样需要周旋于当权者和科学之间|Total Film

问:比如说?

诺兰:所以他试图从体制内开展工作,而不是转身就说,你知道,我们需要的是爱,或者有的没的。他的方法非常实际,但还是被击垮了。这是非常复杂的,我认为现在的这些「发明家」,他们说「我们需要被监管」是非常虚伪的。

问:奥本海默希望科学能够被分享。

诺兰:他使用的是坦诚(Condor)这个词。坦诚。

问:他的想法似乎随着氢弹的出现而发生了变化?

诺兰:不,他也相信氢弹的事。这事有点意思,因为在某种程度上,有点剧透。但在另一个方面,那是历史,你能谷歌搜索。

在这个重要时刻,随着氢弹计划的推进,他开始发表演讲,他说,「我希望我能告诉你我所知道的。我不能。如果你知道我所知道的,你会明白,我们都必须分享信息。本质上讲,这是我们避免毁灭世界的唯一途径。」

所以坦率是他认为最实际的手段。他认为联合国在未来是一个强大的机构,有真正的行动能力。他认为对全球对原子能的控制,才是确保世界和平的唯一途径。显然,这并没有发生。

问:他没有预见到现在正在发生的事情,民主国家的缓慢衰落。

诺兰:我认为他根本没看到这一点,当时还是一个非常乐观的时刻。

问:这就是为什么要有一个世界性的人工智能管理机构。

诺兰:对。但这是与拒绝受地域限制的科技公司打交道时的问题。

从制度上讲,科技公司被鼓励、并被允许规避政府监管。这已经成为一种「道德观」。

顺便说一下,这把我弄的好像认为硅谷很邪恶,所有这些人都很可怕。我不这么认为。这只是体制(System),它就是这么运行的。

问:在安全问题层面,核武器的制造需要特定元素,但 AI 没有这个限制。

诺兰:在第二次世界大战期间,英国的核弹计划是非常复杂的。他们有很多伟大的科学家。但丘吉尔政府意识到,他们只是没有足够的资源。所以他们把他们的一切都给了美国人。他们说,你们有体量,远离前线有,有工业基础。

在我的研究中,我读到一个统计数字,关于参与制造第一颗原子弹的美国人的数量——大概在 50 万左右。数家公司参与,这是一个巨大的物理过程,这就是为什么到今天,一个国家偷偷做核试验很容易被发现。因此,有一些事情给我们一点保证,这个过程可以被管理。

而我认为这些限制,没一个适用于人工智能。

问:对,确实不使用于 AI——特别是当我们所谈论的人工智能的一些东西是一种「更软」的威胁。飞速蔓延的虚假信息,技术上的失业。

诺兰:确实,但我不太——我觉得人工智能仍然可以成为非常强大的工具。我对此持乐观态度,我真的很乐观。

但我们必须把它看作是一种工具,挥舞它的人仍然必须保持对挥舞该工具的责任。如果我们赋予人工智能以人类的地位,就像我们在某些时候对公司所做的那样,那么是的,我们将有巨大的问题。

03 AI 很好,但坚持传统

问:你是否看到人工智能中的美妙之处,特别是在电影制作方面?

诺兰:哦,当然。整个机器学习应用于深度伪造技术(Deepfake),这是在视觉效果和音频方面的一个非凡的进步。从长远来看,在环境营造方面,例如造出一扇门或者窗子。如果将事物外观、事物的反光等等大量数据汇成数据库,它将是非常强大的工具。

问:你会用 AI 去创作吗?

诺兰:我是非常老派的「模拟」(Analog)电影人。我用胶片拍摄,试图给演员一个完整的现实。

我对技术的立场,就其与我的工作的关系而言,是我想把技术用在它最好的地方。例如,如果我们做一个特技,一个危险的特技。你可以用更显眼的威压来做,然后再后期抹掉,类似这样的事情。

问:意思是这将提高视觉效果的便利性和效率。

诺兰:这不是空手套白狼,它是从一个更详细、更数据驱动的想法出发的。它可能最终打破动画和摄影之间的屏障,因为它是一个混合体。

如果你告诉一个艺术家,比如说,画一张宇航员的照片,他们是根据记忆或参考资料来进行发明。有了人工智能,这是不同的方法,你实际上是在使用整个图像的历史。

问:使用真实的图像。

诺兰:使用真实的图像,但以一种完全的、根本性的重建方式——这当然会引起重大的艺术家版权问题,而这必须得到妥善处理。

影片试图还原奥本海默和爱因斯坦的交流场面|环球影业

问:让我们回到科学和你的电影上来。在你客串编辑的 2014 年 12 月的《WIRED》杂志中,有一句话,你说:「讲故事和科学方法之间的关系让我着迷。这并不是真的关于智力上的理解。那是一种把握某种事物的感觉」。跟我说说你对科学的热爱吧。

诺兰:嗯,我一直对天文学和物理学问题感兴趣。我在《星际穿越》中探索了这个爱好。当我弟弟(乔纳森·诺兰)写剧本时,他会看爱因斯坦的思想实验,他发现其中一些实验有一种特别的忧郁感,而那都是与时间中的部分有关的。

比如,被分开的双胞胎,一个被带走回来后,另一个长大了一些,你知道吗?爱因斯坦在思考物理学,和你如何做这些思想实验,你如何构思这些想法,有非常相同的「文学性」(literary quality)。物理学家需要的可视化过程与文学创作没什么不同。

问:你在电影的剪辑阶段有这样的感觉吗?

诺兰:我在电影制作的每个阶段都有这种感觉。我的很多工作是试图表达对事物形状的直觉和感觉。这可能很困难,也很复杂。

问:我发现,如果我正在创作一个故事,但我不知道结构、流程,那就有问题了。我无法以一种有意义的方式谈论这个作品。

诺兰:我以一种非常地理或几何学角度来思考结构和模式。多年来,我试图采用一种从头开始的结构方法,但最终它是一个非常本能的过程:这种感觉是否有一个叙事的形状,以及它是如何形成的?我很着迷地意识到,物理学家进行着非常类似的过程。真的很有趣。

问:也许这是对《星际穿越》的致敬,但物理学家似乎总是如此深爱物理学。

诺兰:我热衷于追求真理,热爱科学方法。我讨厌看到它被媒体中的科学家或代表科学家发言的媒体所歪曲。纯粹的科学方法,以及科学不断寻求自我反驳的想法,让它比宗教或者其他任何东西,都更能提升人类的思维。

问:在这次采访之前,我和我母亲一起看了你的电影。她感觉你的电影可能传递一种非常反消极主义的信息。《敦刻尔克》、《星际穿越》、《蝙蝠侠》。或者,这是乐观主义?

诺兰:《盗梦空间》的结尾,正是如此。有人对那个结局有一种虚无主义的观点,对吧?但同时,他也向前看了,和他的孩子们在一起。这种模糊性不是一种情感上的模糊性。对观众来说,这是一种智力上的模糊。

有趣的是,我认为《盗梦空间》和《奥本海默》的结局之间,有一种有意思的关系可以探讨。奥本海默有一个复杂的结局、复杂的感情。

问:早期观众的反应如何?

诺兰:有些人离开电影时处于绝对崩溃状态。他们说不出话来。那些存在于历史和事实层面的恐惧,电影都有表现。但对人物的爱,对关系的爱,和我之前所有的作品一样强烈。

导演在洛杉矶的家中,影片由其子拍摄|MAGNUS NOLAN

问:还有主题的复杂性。

诺兰:奥本海默的故事,是所有不可能的问题的集合、不可能的伦理困境、悖论。他的故事中没有简单的答案,只有困难的问题,而这正是故事如此吸引人的原因。

我认为我们能够在影片中找到很多值得乐观的东西,但有这样一个压倒一切的大问题在上方悬着。我觉得有必要在结尾处提出一些问题,让人们在脑中回味,并引发讨论。

问:在原子弹投下之前和之后,奥本海默的脑子里会想什么?你认为在他会怎么想?

诺兰:答案就在影片中。我是以第一人称写这个剧本的。这是我对西里安(希里安·墨菲,片中奥本海默饰演者)说的:你是观众的眼睛。他做到了。大部分的故事,我们都没有超出他的经历。这是我传达这个问题答案的最好尝试。

问:我对将看到完整作品这事有点紧张。

诺兰:我想你可能要等很久才行。这是一种强烈的体验,因为它是一个强烈的故事。我最近给一个电影制片人看,他说这是一部恐怖电影,我并不反对。

有趣的是,你之前用了虚无主义这个词,我不认为我的作品能和虚无主义沾边。但当我开始完成这部电影时,我开始感觉到这种颜色,在我的其他电影中没有,纯粹的黑暗。它就在那里,这部电影与之抗争。

问:会影响到你吗?你睡得好吗?

诺兰:我现在睡得很好,完成制作时感到松了一口气。但我非常喜欢看这部电影。我想当你看到这部电影时,你就会明白。被可怕的事情所吸引是一种复杂的感觉,你懂吗?恐怖空间就是如此展开的。

问:你的孩子看过吗?

诺兰:是的。

问:他们以前知道关于奥本海默的事情吗?

诺兰:在我开始写剧本时,我告诉我的一个儿子,他真的对我说:「但现在没有人真正担心这个问题了,核武器。」两年后,他就不这么说了。世界又变了。

这对我们所有人来说都是一个教训,但对年轻人来说尤其如此。

世界变化很快。

—-

编译者/作者:极客公园

玩币圈申明:玩币圈作为开放的资讯翻译/分享平台,所提供的所有资讯仅代表作者个人观点,与玩币圈平台立场无关,且不构成任何投资理财建议。文章版权归原作者所有。

知识 AI
LOADING...
LOADING...