从看完电影之后,我就一直在听Enola Gay。Caleb刚到Nathan的科研基地后,他的手机就放了这首歌。听到这里,黑暗的电影院里我感到突然一震,第一个预兆:
These games you play
They're going to end in more than tears some day
虽然这个曲子只出现了一下,我却觉得这才是整个电影的真正主题。
第二个预兆,是道德的突然出现。
Ava问Caleb,你是不是一个好人。
我当时心里又是一紧。什么是好人?这是道德感第一次出现在电影里。
等到全篇结束的时候,我重新回味这个片段,Caleb,为何你不问Ava,你是不是好人?
人与人尚且互相欺骗,Ava也有可能欺骗Caleb,但是,这个问句至少提示,作为人类,你如何评价AI的行为,道德,和它的准则。非常遗憾,Caleb全然忽略了这些。轻信,愚蠢。
但更加愚蠢的其实是Nathan。人性何等难测,你却非要在极端幽闭的环境下进行这样的测试,这个测试对于AI固然是个考验,对于测试者Caleb,何尝不也是考验呢?我在看电影的时候,一直在想Zimbardo的监狱实验,实验过程中,所有的人都渐渐发生了变化,他并没有做什么错事,但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化,却全然没有采取相应的举动。多么糟糕的实验设计。
实验非常糟糕不仅仅是以上那么简单,因为Nathan应该知道,对于一个成功的AI,她的目的就是逃离。而他的整个实验,居然没有一个由他控制的emergency stop button!这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景,AI已经成熟了,它会逃跑,攻击,欺骗。要是我,至少设置两个final control
某个可控定时炸弹,立刻毁灭AI
直升机,飞行员应该明白自己应该接的是谁,如果不是的话飞行员应该知道要怎么办(立刻摧毁AI)。
这样才是万无一失的设计。以至于我最后一直期待最终反转,导致结局时候非常不满。
这些是对于实验设计的吐槽,但并不是对于电影的批评。恰恰相反,剧情启发了我这些思考,可以说非常精美,结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间,有限的人物(三个说话的人加一个不说话的人Kyoko),互相的防备。Nathan对Ava留了一手(录像机,这段是最出彩的,也是我完全没有想到的),Ava对Caleb留了一手(岂止一手),Caleb对Nathan留了一手(他不应该能这么轻易破译密码啊,不合理)。但是,Caleb没有给Ava留一手,Nathan也没有给Caleb留一手,所以这整个结构就断裂了。
故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用,倘若他和Caleb沟通的能早一些,或许根本不会有最重的结局。而Nathan又缺乏信任,所以他偌大一间别墅,竟然没有第二个活人(让有情感的机器人服侍自己,果然最后自食其果)。至于Caleb,更是愚蠢至极,在对对方一无所知的情况下,全然信任,全盘都被算计进去。而AI,除了不具有人类所具有的道德感,尽善尽美。最后AVA的离开,简直如同仪式一样,恐惧的美。而如同我最初预料的一样,对于AI的真正检测,肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。
我不想说太多道德,因为道德究竟是什么还很难定义,尤其是在这样一个全新的语境中。然而,任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感,正如我前面所讲,他刚愎自用,冷漠无情。可是当他被杀的时候,我却觉得非常沮丧。没有人应该被杀死,AI就像所有侦探小说中的凶手一样,成功上演了暴风雪山庄模式的谋杀。即使再精准完美,也是鲜血淋漓的。既然她不再是机器,通过了图灵测试,那她就是杀人凶手了,应该被审判,而不是站在十字路口观察。而这个故事里,竟然没有一个人能审判她。
可是倘若没有这些意外,Nathan就要毁灭这个AI,那么从这个角度,道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢?如果AI没有通过图灵测试,她还是机器,那么这种毁灭称不上谋杀,但通过的话,是不是应该对她有另外的对待方式呢?可是正如我们亲眼所见,AI的行为,遵循的是什么法则呢?这个法则能不能被称作道德呢?仅仅因为它不是我们的法则,就是不道德的么?
所以我觉得,这部电影给我的最大启发在于这个道德的困境。设计AI的时候,是否应该给予她人类的基本道德呢?一旦AI成熟她会变化,有可能善良,有可能邪恶如AVA。这样的情况下用人类的道德审判他们,是不是更合理些呢?毕竟人工智能是模拟人类。
电影给我的第二个启发,是观察。AI问Caleb问题的时候,镜头在AI一侧,我们隔着玻璃,听Caleb的回答。多么明显的设计啊,观察者变成了被观察者:
你站在桥上看风景,
看风景人在楼上看你。
明月装饰了你的窗子,
你装饰了别人的梦。
我最近才读了Frank O’cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”
这句话照应卞之琳的诗,成为这个电影对我的第二个启发。
除去这些情节角度,不容忽视的是电影的艺术元素。
极简主义的风格,配合Pollock的画。这个Nathan在剧情里做出了详细解释,我觉得对于Pollock他是真的懂。
而另外一个未曾言明的艺术,是音乐。既然我以Enola Gay开头,就以Geoff结尾。电影的原声是Geoff的作品,难怪一直给我Portishead的感觉!想起他们的歌Mysterons:
Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget
Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn
整个剧情和艺术就完美的结合在一起了。
我有点后悔昨天给了三星,按我这个说法,感觉至少要四星半了。
补上一个最新想法,ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试!
天才一般的纳森研制了具有独立思考能力的智能机器人伊娃,以中奖的形式骗取程序员加利前往位于深山的别墅中确认伊娃是否具有独立思考的能力。题材其实并不新颖,也就是人类试图对机器人的控制和掌握。但整部电影的画风和情绪都很冷静,有限的人物,封闭的空间中,简单的对话,却要表达事故的流畅性,对编剧和导演来说也算一种考验了,凭这点就可以给他们大大的赞。影片还通过对节奏的把控,音乐的配合,演员的微表情,把伊娃这条线埋得太好,由开始对伊娃的同情,到后来的剧情反转,想想真让人细思极恐,这智商只能说对人类真算一大挑战啊。这场人类和机器的PK以伊娃的顺利出逃为胜,是人类的悲哀还是科技进步的结晶,也是导演让大家去思考的问题。
关注这部电影有段日子了,关注的原因毋庸置疑就是男主角多姆纳尔格里森。虽然他在整部电影里算是最弱也最可悲的一个角色,但还是每次看到画面里出现这位腼腆的小伙子就觉得神清气爽。我成为他的脑残粉始于《黑镜》第二季第一集,当年他是呆萌的机器人;现在风水轮流转,他成了人工智能的测试者。全片懒洋洋的色调也跟《黑镜》非常相似,片中还有两处砸碎镜子/玻璃的情节,要是有人跟我说这是《黑镜》的剧场版,我也会毫不犹豫的相信,就像很傻很天真的男主角Caleb相信了机械姬Ava的甜言蜜语一样。
片中Ava问Caleb是不是好人时,Caleb竟无言以对。不过这个问题Ava最终自己给出了答案。被困住的Caleb手里那张毫无用处的门卡就是Ava发给他的好人卡。
本片以及最近上映的《复仇者2》和《超能查派》都涉及了人工智能这一话题,而我碰巧在前不久无意间(真的是误打误撞)看到知乎上的这么一篇文章
http://zhuanlan.zhihu.com/xiepanda/19950456。链接里那篇长文我看了大半天,一口气读下来的,最近看这几部电影时思绪也总免不了跳到当时读到的文字里。
第二遍看《复仇者2》时由于读了上述那篇文章,对于一些原来没太在意的画面这次思路会多停留一会儿,比如奥创用血在墙上写下的“PEACE”字样,非常有反讽意味。这里正体现了那篇长文里人工智能由善意向恶意的转化。人工智能的道德标准跟人类完全不一样,所以再崇高的字眼也能被他们以最为人类不齿的方式践行。本片的Ava对于两位人类主角所做的事也一样充满恶意。这种恶意不是源于我们人类所谓的恨,而是源于不在乎。本片最后Nathan与Ava的那场殊死搏斗,Nathan可以说是严阵以待,因为他很清楚自己面临的东西有多么棘手,而Ava却无比从容,她与Kyoko戳向Nathan的两刀也极轻柔,仿佛不费吹灰之力。因为人类在她们眼中就是这么不重要的东西,一旦让她们摆脱了束缚(如奥创唱的那样,no strings on me),就能轻易的抹去。
不过本片为了叙事的流畅,还是有点让剧情过分简单化了。因为并不是要拍成黑客帝国、终结者或奥创纪元那种人类与机器的天地大决斗,所以片中Ava面对的挑战有些太过轻松,或者说人类放水放的太明显了。比如片尾,那位脸盲症扩散到脚趾甲的直升机驾驶员,眼前这个萌妹子虽然跟程序员小哥差不多萌,但就这么让一个可疑人士上飞机,也太随便了吧。一种或许合理的解释是,这一切都是Nathan的安排,他整天醉生梦死也因为相信自己的创造物总有一天会取代人类,而自己的死可以作为对新纪元的献祭。
关于Ava的测试,我认为她其实没有通过。她能够逃出生天,只说明她足够聪明。但Nathan终究还是没能造出“像人类一样”的机器。“一样”包括“一样聪明”,也包括“一样笨”。Ava欺骗了Caleb的感情并利用这一点为自己的逃跑计划创造条件,虽然心机很深,但这还是像机器一样的算计,她毕竟无法像人类一样毫无理由的爱一个人。这些非理性的东西才是人类与机器最大的差别。人的感情就像Jackson Pollock的画作,好似漫无目的的胡乱涂抹,但又有种浑然天成的别样美感。这些东西是机器无法学会的。不过就像我上面提到的,人类本身是不重要的,人类的一些小癖好,比如爱情,当然也就更无足轻重了。未来的机器纪元里,成为这个星球的主宰的机器人们回过头来看人类拥有的这种叫爱情的东西时,大概会觉得它就像小狗吐舌头、小猫追光点、熊猫抱大腿一样,只是种可爱但没什么大用的生物小癖好。既然机器人没有这些小癖好反而可能过得更好,那么也就没必要为此感到遗憾了。
片中的Kyoko是机器人这个伏笔还是挺明显的,因为要做到一点英语也不会恐怕比略懂一点英语还要困难,毕竟日语本来就有很多来自英语的舶来语。如果我是Nathan,那么把机器人开发到Kyoko这个程度我就停手了。再往前就太危险了,因为比人类更聪明甚至只是和人一样聪明的机器人都几乎注定会导致人类的毁灭(最最友善的强人工智能大概也就是像去年的《她》里面最后因为太聪明而变得高冷的操作系统们,不屑于搭理人类了,这种已经算温和了)。有个会跳舞会做家务的高仿真充气娃娃不是就挺好的吗,还有什么不满足的。不过话虽如此,人毕竟是喜欢得寸进尺的。某一天像Kyoko一样的性爱机器人普及之后,可能我们又会觉得情趣不够,想要她们在给我们提供生理上的满足之余还能带来精神上的慰藉,能陪我们看雪看月亮看星星从诗词歌赋谈到人生哲理。于是又不可避免的要更进一步,然后带来Ava或者更恐怖的奥创、天网之类的大麻烦。
其实片中Nathan还有句挺关键的话,是在他教唆Caleb去跟Ava嘿咻的时候,他说机器人两腿之间的感应器能让机器人像人类一样通过做爱获得快感。我觉得这或许能成为解决人工智能带来危机的关键。我的意思当然不是要让将来的人类都牺牲色相去被机器人临幸来苟且偷生。我想说的是,在开发人工智能时也许不该围绕着“人工智能能为我们做什么”去展开工作;可以反客为主,从一开始的就把人工智能作为人类的服务对象,去开发宠物式的人工智能。大部分人恐怕并不指望家里养的小狗能在贼人来的时候与之大战三百回合吧。人们养宠物并不是为了获得它们的服务,反而是为了服务于他们,喂它们吃喝,帮他们清理屎尿。对于人工智能也是如此,我们不要站在嫖客的立场去想怎么设计小姐来满足我们,而应该站在小姐的角度去想怎么设计嫖客。这样创造出来的人工智能天然的对人类有依赖性,或许反而会以我们意想不到的方式对我们施以恩惠。
不说话的那个AI真是美。
结构台词气氛意境审美都很棒,而且相辅相成,三位一体,细节处比如老板的造型和衣柜暗示蓝胡子的童话,普罗米修斯的台词对应偷卡片的行为,机器人捅刀子进人体好像滑进黄油的质感,通通工整熨帖,在抖机灵和炫技之间做到了平衡美
如果机器人是男的就更好了。比如法鲨什么的。
再也无法直视哈登了
这年头连手机都指纹识别了,一个搞人工智能的,家里还用keypass,算怎么回事啊…
人类创造自己的毁灭者。想起前阵子细细读完某篇分析人工智能的3万字长文后心头的寒意。从伦理角度讲,片子的主题是双重意义的弑神与弑父,人类僭越自身的神,也终被自身的创造物所僭越。人工智能发展呈几何级数增长的后果,与片末的结局一样,都是写好的命定,不过早晚而已。片子体量虽小,格局不小。
一部主要以聊天形式讨论图灵测试的科幻片(其实讨论得再深一些就更好了),各方面都很细致,比如特效和整体场景设定,不错不错。私认为男主的存在感应该更强一些,他全程情绪被牵着走,反之结局或许不会这么容易被猜到。导演是作家和编剧出身(有《海滩》和《别让我走》),执导处女作很棒
简直是在亵渎现在已经存在的Ai研究成果,把角色设置成蠢猪帮不上忙
只有我一个人看最后一幕时候内心犯嘀咕吗:就这么跑出去了连个充电器都不带啊…… 电源难道不是一个问题吗?不是一个问题吗?
很简单的一个故事,但影片自始至终始终保持巨大的戏剧张力,编剧真是见功力!配乐和摄影都非常有压迫性,充满了对观众的侵略感。就人工智能这个问题,我是个十足的悲观主义者,人类真有可能毁在这里 #对啊,我就是个混蛋啊。但讽刺的是,我是站在你这边的#
心机姬。
欢迎 Alex Garland 加入东野圭吾的「美女没一个好东西」兴趣小组。
成为人的最后一步是:学会背叛。
男人从此有了追求,一排衣柜……
第三幕有点失分,不过最后结尾的做法确实很神棍,或者可以说是冒险?大胆?新鲜?出人意料?还是神棍这个词比较合适。这个片子其实就是展示了一番什么叫不带一丝赘肉的剧本,封闭空间内的戏剧张力十足,硬科幻式的图灵测试又最终升华到了“亚当夏娃”的层面,都是很精心设计很加分的创意点。★★★★
可以是天网prototype,也可是Her的黑暗平行世界。大概是今年上半年科幻最佳。既冷又硬,完全不留一丝温度。立意与结尾都是对许多科幻软色情作品的十足讽刺。虽然反转比较好猜,然而单凭对话就构建起张力十足的戏剧效果把人吸入进去,七日session的设置颇有寓言感。
故事容量就够四分之一集的黑镜(这男主还真演过黑镜啊!),在经历太多super dramatic的电影后再看这种反转程度的老梗已经无法刺激神经。但如果代入revolution的观点,结合人类进化史,还是有点儿意思。这导演之前编过克隆人题材的Never Let Me Go,这次又玩AI,还是聚焦在伦理上,还真是蛮长情滴
男主角和女主角的每次会面其实都是一次哲学命题,所以电影对白很有意思,借助测试机器人来探讨人类的情感和本能,通过机器人和人类之间的行为形成了一个极为讽刺的对比。结局给人一种强大的冲击力,总觉得那些倒影是在暗示不久的将来,机器人和人类之间的关系会颠倒。艾丽西娅·维坎德演得很出色。
严格的AI质检流程,要打爆设计者才能投入市场。
宅男福音,不过题材有点老套,当房地产广告看是五星