中国作家协会主办

壹 人工智能最可怕的地方

马贺亮：《人工智能》讲述了一个经典故事，它所展现的人与人工智能的关系也很经典。斯皮尔伯格在影片里延续了一个主题，即“人工智能想成为人，就好像人想成为神一样。”导演甚至把人工智能男孩大卫的愿望处理得十分简单，他就是想和人类妈妈再相处一天，给他梳梳头就很满足了。但是在近几年来的人工智能题材科幻电影里， 人与人工智能的关系确实并非这么乐观，而且里面塑造的人工智能的形象也没什么情感，大家如何看待这个问题？

沙锦飞：它会不会产生弑神举动？

人和人工智能本质的区别在于：人的情感是天生获得的，人工智能有再强的学习能力，也不能够通过学习获得人类的情感。“情感”的重点在于“感”，它是非理性的。不单是从大脑，而是从身心甚至是身体肌肤的接触，所引发的一种情绪。感是本能的，人工智能先天不能具备这些。

这部电影在当年看来想象力还是很超前的，人工智能有了情感。实际上，人工智能真正可怕的地方并不在于它有超强的学习能力和计算能力，而在于它能产生情感。如果它在体能、智能方面完全超出人类， 它就会成为人类最有力的竞争对手。

这部电影里体现的其实是一种美好的情感，孩子和母亲的关系。但我的思考是，人类既然造了人工智能，就相当于是它的神，就可能天然想要控制它。这个时候，它会对人怎么样？

人一直在追寻自己从哪来、要到哪去，无论是哲学、物理还是宗教都在探讨这个。人最终找到了一个“神”（造物主）， 但在后来却不断地向“神”发起挑战。人类历史上很多神话和故事里，都会有“弑神”的情节。

人工智能一旦有了自我意识和情感，就跟人类相对于神的地位差不多了。它一定会开始反抗。 如果人工智能变得跟人一样，它会不会对人类也会产生“弑神”的举动？“冲突”是我对二者关系的一个理解，如果做这类题材的科幻电影可以以此为切入点。

乔飞：它是不是觉得人没价值？

我认为人工智能最可怕的不是拥有了人类情感，而是它无法理解人类的情感。与人完全不同的情感逻辑，我最害怕的也是这个问题。

人类制造出来的机器在逻辑上是完美的，但这种“无法理解”是最恐惧的，它可能会导致两种问题：

一是我们比人类逻辑严密，人类是不是该听我们的？二是人类是不是没价值？

我觉得发生后一种问题的危险性更大。

人类到底在创造什么？我们创造一种工具，是否还需要尝试与之对话？如果工具足够高级有自己的思维逻辑，那我们考虑的第一件事就应该是怎么让它们理解我们的诉求的源头，而不是简简单单将其作为工具使用。否则，我们将错失阻止智能机械体尝试去解剖一个人类的机会。它可能会觉得“解剖人类”和饮食起居一样。

之前郭帆导演提到过，如果不能向机器解释为什么爱一个人不能吃掉他，那么我们可能会陷入麻烦。我引申一下：如果不能在一开始就尝试和机器共同进步，并让机器了解人类文化传统是如何塑造了今天的社会，那么我们将用人类历史上最惨痛的经验换来随时可能再度发生的惨剧。

这个角度也是我们在做同类题材电影的时候可以去尝试去探讨一个崭新的维度。

贰 科幻电影应该如何讲人与技术的故事？

马贺亮：大家基本倾向于认为，有关智慧和理智的东西，人工智能还是能很快学习到甚至超越人类，但情感和伦理道德不行。结合到电影里，大家是不是觉得斯皮尔伯格所表现得人工智能有点太过于理想化了？或者说，电影应该如何表现人与前沿技术的关系？

老丘：找准对未来和科技的感应

看完这部电影我有两点感触。第一，再硬的硬科幻，都需要一个非常打动人的情感内核。除非，你是库布里克。《人工智能》曾是库布里克准备多年的野心之作，但是强如斯皮尔伯格，仍然稳妥的采用了欧美观众熟悉的故事模型来包装，这就是“科幻版匹诺曹”的概念嘛。

这很值得立志做科幻的中国电影人去学习借鉴。中国本来就缺乏科幻语境，不能一味强调科幻世界观等硬设概念，如果能找到你想讲述的科幻故事与中国传统文化故事模型之间的接口，最好不过。

第二，在态度上，明确你的憧憬或者恐惧，呼应大众的憧憬或者恐惧。我们处在一个前所未有的科技加速度时代，有多少新的技术和未来，就有多少憧憬和恐惧，除了人工智能，还有信息、生物、航天等，将会给我们可见的未来带来翻天覆地的变化，由此将带来一波波的道德伦理情感法律的冲击。

很眼花缭乱是不是？斯皮尔伯格拍《人工智能》是扬长避短的，犀利反讽是库布里克的擅长，斯皮尔伯格更多的是童心，擅长的温情，虽然片中也涉及到人类对人工智能的仇恨，但戏核仍然是一个“想成为人”的童话故事。

《异形》有多恐惧，《ET外星人》就有多有趣——关键是，找准你对未来和科技的感应。

星河：好作品不应只有科幻外衣

严格来说，一个科幻故事，如果把科幻元素拆掉它还能完全成立，那么它就不是一个好的科幻作品，是可以替代的。如果把科幻元素拆除，它支离破碎了，这才是好的科幻作品。否则它只有一个科幻外衣的设定。这部电影从情感上来说非常正能量，但从另一个层面来看也是在卖弄廉价的情感。

林二：应对科幻有更深思考

作为编剧，我从故事本身说一下。它在2001年时很超前，但是现在来看它对于人工智能的设定已经过时了。现在我们熟知的人工智能是会成长的，但是电影里的大卫是没有的。我们设想一下：现实中有一个小男孩，他的母亲对他弃之一旁，那他会对这个母亲有什么看法？他可能会产生恨，但是电影里并没有表现这种成长，无论过了几千前， 大卫依旧爱着他的人类母亲。

另外让我失望的一点还在于，如果把科幻外衣拿掉的话，这就是一个匹诺曹的故事，对科幻并没有更深的思考。

沙锦飞：人本主义是对人的保护

这部电影里有一个重要设定：这个人工智能小男孩大卫是被人类造出来的，并且被设定为必须去爱自己的“母亲”。他其实是没有自主的情感的，他的一切行为都是出自这一设定，所以他长达2000年对母亲不变的爱的行为还是可以合理解释的。

这其实是“人本主义”的思考和决策，是人对自我的保护，以及源自人类自身对于未知的恐惧这样一种本能。

但此时我们就需要思考的一个问题就是：人工智能最终会不会突破人对它的基础设定？从技术思维的角度，人工智能完全有可能取得这种技术性的突破。就好比人类吧，如果人类真的也是神造的，那么人类追求科学技术的突破（解除神对人类的枷锁）的狂热，难道不会出现在人工智能的身上？尤其是，当它通过强有力的自我学习，一旦获得自主意识的话，打破人类对其设定的枷锁就应该是迟早的事了。

人和技术的关系，应该是科幻小说和科幻电影需要更多关注的一种关系。

秋?墨：人物不要超越设定

从剧本角度来说，你可能想看到一个人物的成长弧光，但这个弧光不一定是必要的。人物要成长， 才有这个必要。但是这部电影主人公是一个人工智能机器人，同时他本身就有一个爱的设定，他只要坚持贯彻“爱”就行。 要是他有了成长，由爱变成了恨，那么这个故事就会造成人类对人工智能的恐惧。“当初我造了你、你却没有遵从我当初对你的设置”，这就变成了另外一个故事。

每部影片抛去科幻的外衣都可以讲一个独立的故事，这是斯皮尔伯格独特的表达。 他很喜欢俯拍，这部电影大概有十几个俯拍。他会提出一个对人生的疑问，包括开篇五分钟去问你什么是爱，到后面用仙女、圣母等很有宗教感的这种去询问什么是爱，俯拍就相当于他的回答。他用一种上帝视角来告诉人们，我们知道的人工智能过2000年依旧不会发生质变。

我们无法用2018年的标准去评判一个17年前的作品。 历史可以批判，但不能以现在的作品去比较，因为技术一直在进步 。

叁 面对人工智能是否该坚持人本主义？

苏学军：未来可能有人和AI混合体

我从来没在乎过人工智能。在看这部电影的时候，我们都在注意这个机器小男孩有多么智能，但我们忘了另一件事：人类能造出他的时候，人类自己发展到什么程度了？假如说人类还是一个小男孩，那电影中的小男孩就是人类捏的一个泥巴。实际上，人工智能只会随着人类的成长而成长。

现在人们普遍看待人工智能的观点我不太赞同。如果抛去人类，单独讲智慧的话，不一定分为人类和人工智能，也可能有一个两者的混合体。我们认为对方是一个AI是因为我们站在人类的角度来看，如果站在第三方来看，你所制造的也可能是另外一种人类而已。

星河：文明发展不一定靠“情感”

第一，人工智能取代人类是早晚的事，也是很显而易见的事情。我们过去要么害怕、要么回避，我们人本主义，这都没有意义。有什么可怕的呢？就算怕也是好几代孙子以后的事了。如果认同这个观点，那好多故事是可以升华的。第二，人有情感、人工智能没有，这一点我非常认同。但是情感、伦理等这些有没有一个认知的标准？从非人本主义角度的来讲，从文明发展的角度来说，有没有情感重要吗?生命也有其他的发展路径，不一定要靠情感。

至于人类天生的“感”，本质上是刺激所有的生命发展的一个驱动力。例如，饥饿感是为了生存，性的需求是为了繁衍。但是所谓种族发展，除此之外是不是有一个“好奇”的因素？当我们超越了一切生存与发展的需要之后，面对无穷的宇宙，有些探索本身完全是出于智慧生命基于本能的一种好奇，而这种好奇事实上于生存和发展早已毫无意义。

理论上，你想要的所有“感”技术都可以实现，但有必要吗？不考虑人文，仅从文明发展的角度来讲，完全可以不要情感、伦理。

肆 我们应该做什么样的国产科幻电影？

马贺亮：对于电影来说，叙述和镜头语言才是你的工具，科幻是设定。我们要围绕这个设定，运用工具来讲好一个故事。与此同时，我们做科幻电影必须面对当下的市场，必须去跟现在的观众对话。中国的导演和编剧应该创作什么样的科幻故事才能吸引观众呢？

秋?墨：人性糖衣发射科幻炮弹

美国那边对于“科幻”有两种分法：如果把所有的科幻设定拆下之后没有还原这个故事，这属于硬科幻；还有一种叫做半科幻（soft,不是软科幻)，就是说你把所有的设定拆掉之后它还是一个完整的故事，讲亲情或者爱情。我所接触到的国内的甲方资方或观众，听到科幻都会有抵触。甲方永远都说科幻不碰，观众永远都说中国的科幻很烂。

对于现在的观众而言，我觉得应该从人性的糖衣去发射科幻的炮弹。像大刘那种科幻是很高概念的，但是没办法做成具有戏剧性的故事。所以我们要把它的壳拿来，然后套在自己做的一个故事上。

苏学军：做硬科幻，保持专业

现在我们要做科幻就是应该做硬科幻。像《地心引力》《星际穿越》那样，不要掺杂太多其他的元素。我认为现在的观众是越来越聪明的，尤其现在的年轻人是被淹没在各种文学影视动漫作品里的，他们是有很高的鉴赏能力的。 中国这么大，哪个细分市场提出来都不会很小，科幻也有细分市场。问题是，你在这个细分市场里得专业。

杨文辉：破壁想象，满足情感

作为制片人，我想跟大家从产品角度来交流一下科幻电影。电影首先是一个文化娱乐产品，它是卖给观众的产品。从产品逻辑上去分析，一个好的科幻娱乐产品有几个维度，第一个就是“破壁想象”，就是突破我们已知的边界给观众不同的认知，有可能挑战科学。我们应该在现有的认知的边界上去寻找我们创作的方向，找到有可能破壁的那一点是什么。

人类这个物种的生命形态也只是一个过渡，人类不会永远存在。人工智能现在看来就是机器、是我们算力的延伸。当将来因为人类的行为有更高的生命形态涌现的时候，也许在临界值它会是与人类的融合体，但之后就不是了。未来的生命体可能不叫AI了。一旦这种生命形态出现，那他们跟我们的关系就跟我们现在看蚂蚁、看细菌一样。他们有他们的情感和想象，他们不会在乎我们的情感。这一定是必然的。如果到了这种阶段，有多少人会愿意看到人类必然消亡的这种悲惨的结局？所以我们现在给观众看的都是避免揭示真实残酷的未来的人本主义作品，满足现代人类情感认同的电影产品。