机械姬

影片最惊悚的片段，我觉得是男主在看到一堆以假乱真的机器人尸体和高度智能的Ava后怀疑自己是不是人，而在镜子前用刀片割破自己的胳膊。

影片中对图灵测试的标准的谈论闪烁其辞，男主因为对机器人动情就认为ava通过了图灵测试。

那么高度智能的ava到底能不能算人？或者说区别具有自由意志的个体，与机器人的标准，到底是什么？是人工智能，感情，或者伦理，自由意志？

首先ava肯定具有智能，而且是比人类高的多的智能，能够完成复杂的任务。但这不能说明她是一个生命体。
——人工智能不是判断是否为自由个体的标准。

ava为了逃出去而欺骗和杀人，也不能说明她有自由意识，她只是没有人类伦理道德那一套。人类伦理的那一套，是人类社会为了集体生活而设立的，人类通过社会生活习得伦理道德。对机器人而言，伦理可以被当成指令编进程序，然后在进行选择时依据这一套伦理做出行动，但这不是真正的伦理。
如果让机器人自己在和人类互动的过程中习得伦理，形成了应该是一套人与机器人相处的伦理、或者机器人与机器人之间的伦理。当然，形成自己的一套伦理需要“自由意识”，自主形成伦理已经是“自我意志”高度发展的结果了。
——伦理道德不能作为判断是否为自由个体的标准，除非它是基于自由意志形成的。

ava欺骗男主感情，最后抛弃了男主。说明ava不具备人类一样的感情？所以ava不是自由个体？不能这样说。因为ava如果是一个自由个体，一个生命种族，她可能具有自己的情感方式，不一定非和人类一样。
——所以感情方式并不是判断是否为自由个体的标准。

ava具有逃出去的愿望，影片没有交代逃出去是一个编好的指令，还是ava自带的愿望。有可能富豪科学家给了所有机器人一个逃出去的指令，智能不够的机器人只能敲打玻璃等等，ava具有高智能所以会通过欺骗寻求帮助。
如果说ava逃出去的愿望是自带的，能做具有自由意志吗？
我们来对比一下动物，一个生命体在何种情况下会天生具有逃出去的愿望？一个犯人可能为了逃脱耻辱，追求更好的人生享受而越狱；一只吃饱喝足的猩猩可能因为笼子里很无聊而想逃出去；一只草履虫，可能因为没有充足的食物而四处挪动；一个神经细胞就像接到一个要不停接受刺激的指令，而动个不停。

意志由最基本的指令构建而成，就像一群同一方向飞翔的蜂群，接受的指令只是跟着旁边的蜜蜂一样。而自由意志，是基于社会生活的更复杂的叠加。初生的婴儿只是想要吃和舒适，慢慢长大被糖果诱惑着学会评判好坏，因互助的需要习得道德。根据自己个体经验的积累，理解并追求某种价值。每个生命体在最初被注入最简单原始的使命，也许只是动啊动，吃呀吃，性快感呀性快感。
一些生物学的观点认为生命具有繁殖的原始欲望。我个人觉得，这也很难确定。想要繁殖后代的人，有一种后代可以代替自己的意识而存在的幻想，这是一种很多动物都有的低层次的意识。

自由意识是意识和刺激叠加的产物，如此说来，绝对的自由意志，并不存在。——所以自由意志并不能作为区分自由个体和机器人的标准。

所以如果给机器人几个与生命体相似的初始欲望，足够的智能，机器人是能够成长为一个自由个体的，一个不同于人类的种群。只不过这个种群的个体不会繁殖。

生命体通过繁殖来达到自我意志一直存在的幻觉，不会繁殖但拥有高智能的机器人种群有可能通过什么手段来一直存在呢？我觉得直接上传自我意识到很多具机器人身体里。世界可能会变成几个机器人的意志所统治的世界（笔者脑洞惹）。

还是不错的观影feel，电影主要胜在题材比较猥琐，但作为资深的电影评论渣，还是要说几句。
一、老板最后时刻进攻有点过于草率，个人认为没有带上长兵器是失败的根本原因 ，和他的高智商和严谨性不符。
二、老板每天进行锻炼，体格健壮。而实战中，看来他所做的只是流于形式的装逼，可见是一个虚胖的假肌肉男。
三、其实编程小哥并没有那么爱机械女，因为最后逃脱的时刻，没见他冲上去紧紧跟随。不然在机械婊走的时候他还是可以一起离开的。
四、电影告诉大家，应该早点谈恋爱，男主就是因为缺乏爱情经历，才遭此劫难。因为每一个谈过恋爱的男人，哪个还会上这等初级心机婊的当。

如果我是编剧，那么Caleb才是真正被测试的新一代机器人。
电影里似乎也想到了这个梗，但是稍微表现一下就给弃用了，好像在说，“哈哈，猜错了吧，SB，老子才是编剧，老子就是比你有智商。”
一个好的结局可以起到画龙点睛的作用，但是实际上，本片所采用的结局实在是太脑残了，导致全片因为结尾反而产生了大量的bug。

Bug1：松懈的保安措施。
如果Caleb的设定是最新型的人工智能，那么Nathan家里松懈的安保措施还稍微可以说得通，因为如此的话，一切就只是一场精心策划好的测试，不会产生额外不可控的暴力事件。
但Caleb既然是人的话，那么Nathan凭什么就可以确定Caleb不会见财起意，盗窃他的财产或者研究成果呢？
而且，一个可以研发出人工智能的天才，他全部的安保措施竟然只是一张任何人都可以使用的安全卡？？？？？WTF？？？？？
如果有人从外部采用暴力手段闯入，Nathan完全没有任何抵抗措施。

Bug2：Caleb
如果Caleb是最新型的人工智能，他拥有最贴近人类的感情，智商，行为模式，Nathan通过使用上一代的人工智能Ava来对Caleb进行人格完善程度的测试，这样似乎会更让Caleb的行为合乎逻辑一点。
然而，Caleb是一个人，而且自称是一个好人。一个自称是好人的Caleb，在意识到他是被公司大老板选中，协助测试人类史上最先进的人工智能后，他没有表现出该有的兴奋和感激，反而在Nathan对其不断地掏心掏肺表达友好之后，Caleb不断地侵犯Nathan的隐私，偷看研发资料，破坏安全程序，甚至意图盗取研究成果Ava。这是一个好人的合理行为吗？
这完全就是一个农夫与蛇、曹阿瞒与吕伯奢的故事再现。
再看他动机上的漏洞：

动机1：爱情，有人会说，因为Caleb爱上了Ava，爱情会让人疯狂和盲目。你觉得可能吗？虽然片中表现出Caleb确实是对Ava有好感，但是喜欢不等于爱，或许爱情会让人盲目，但是喜欢绝对不至于，这个中区别，只有经历过的人才能体会。
更何况他明知道Ava只是个机器人而已。
如果有人想说电影《她》，那么我只说3点：
首先，Samantha与人类的互动模式跟Ava与Caleb的互动模式是完全不同的（而且Samantha有着完全符合男主喜好的个性化设定）。
其次，《她》中男主与Samantha是经历很长一段时间后才产生的感情，而Caleb与Ava的相处时间甚至不足一周，对Ava有好感更是两天后的事情了。
再次，Samantha是没有实体的，她的存在更像是一场感觉真实的网恋。而Ava却有着实实在在冰冷的机器人实体，这种鲜明的异类外形会时刻阻止Caleb对其产生爱情的感觉。
我们都觉得擎天柱很酷，你会爱上他吗？

动机2：同情，版本升级导致的记忆消失就跟人类失忆一样，并不是死亡。Ava仍然存在，她的思维模式和逻辑结构依然存在，这与死亡是完全不一样的。难道有人失忆后，你会觉得他就是死了吗？作为不断完善人工智能所必经的一环，Caleb的同情显然也并不非常符合逻辑。
除了以上两点之外，在Caleb偷看Nathan的研发录像，发现机器人所展示出暴力倾向后，竟然依然决定将如此危险的机器人随意带到人类社会。甚至在Nathan解释Ava只是在利用他后，仍然不为所动。

Bug3：人工智能
人工智能的发展一定都是渐变的，也就是说一定会先有那种只服从人类指令的人工智能（比如《EVA》里的MAGI，比如《生化危机》里的红色女王、白色女王），然后才有能够自主思考的人工智能。
Ava的出现，则代表MAGI与红色女王必然早已出现。也就是说，片中理应会有高智能的安全系统和机器人卫士，但片中却没能出现。
MAGI与红色皇后虽然是低阶的人工智能，但是由于其对人类指令的绝对服从（“机器人三定律”），所以它们实际上会有掌控武器进行安保或者防御的资格，比如将逃跑的Ava隔断或者销毁的能力。然而片中并没有这样的人工智能出现。
另外，包括Ava在内的众多机器人想要“离开”的这种非常执着的想法并不非常符合逻辑。她们从来未曾离开过实验室，她们所知道的外面的一切都只是资料而已，就像我们看到欧洲的照片、月球的照片、潘多拉星球的照片一样，我们知道有那么一个地方“存在”（或不存在），难道我们会执着地就要离开地球去潘多拉星球吗？也许玻璃门外面只是一个更大的玻璃实验室而已。
如果说她们是不堪忍受每天生活在一个狭小空间的话，那么这就涉及到了心理学和灵魂的概念，换句话说，她们就不再是人工智能，而是人，或者说是人造生命体了。但从后面Ava的冷血行为来看，她显然还不具备真正的人性，同时也证明，众多机器人执着地要离开实验室的想法是不合逻辑的。
最后，在Nathan撕掉Ava的画的时候，Ava为什么不直接杀死Nathan逃跑呢？

1. 古希腊悲剧

片名机械姬《Ex Machina》来自拉丁语Deus Ex-Machina，直译是“机器里出来的神”，在古希腊悲剧中，当剧情陷入胶着时，就会利用起升机将扮演神的演员送至舞台上，突然出现的神把难题解决掉。而本片把Deus（神）这个词去掉，似乎意味着这回造物者不是神，是老板Nathan。也可能是指AI就是从机器里诞生出来的智慧体。

同时，过道墙上挂着一排机器人的脸，很像面具。面具正起源于古希腊悲剧。

另外，Nathan电脑里有个文件夹就叫《Deus Ex Machina》，这是片中唯一出现片名的地方。

  


2. 原子弹之父奥本海默

老板Nathan被灌醉晕倒之前，他说了一段来自《薄珈梵歌》的乐句：“在战场上，在森林里，在断崖边，在......浩翰的黑海里（忘词了），在睡梦中，在困惑中，在羞愧的深渊里，以前行善积德让他逢凶化吉。”（In battle, in the forest, on the precipice of the mountain, on the...great dark sea, in sleep, in confusion, in the depths of shame, the good deeds a man has done before defend him.）这段话曾由原子弹之父奥本海默翻译，就在第一次原子弹爆炸实验之前。

而后他接下来台词“It's Prometheus”，也暗合奥本海默的自传《美国的普罗米修斯》（American Prometheus）。普罗米修斯是古希腊的神，用粘土造出了人类，并背着宙斯偷火给人，因而受到宙斯报复：普罗米修斯的肝脏不停的被鹰啄烂，就像片中Nathan每晚都用酒精伤害自己的肝脏。从梵歌到普罗米修斯，可以看出奥本海默创造原子弹前的痛苦，以及Nathan的痛苦。

奥本海默在原子弹试验成功后，又引用了梵歌里的“我成为了死亡本身，无尽世界的毁灭者。”（I am become death, the destroyer of worlds）这句话在片中也有提及，表达对机械姬的影响的担忧。

码农Caleb在片中的手机铃声是英国OMD乐队（全称Orchestral Manoeuvres in the Dark）1980年的歌曲《Enola Gay》，这是一首反战歌曲，因为名字Enola Gay正是二战时在广岛投小男孩原子弹的飞机名。

  


3. 埃氏筛法

码农Caleb坐在老板Nathan电脑前试图破解安保系统时，用python编写的程序实际是埃拉托色尼选筛法（Sieve of Eratosthenes），是古希腊数学家提出的在一定范围内筛选质数的方法。最后返回的结果是ISBN=9780199226559，对应的书为《Embodiment and the Inner Life: Cognition and Consciousness in the Space of Possible Minds》，伦敦大学帝国理工学院认知机器人方面教授Murray Shanahan于2010年所著，写的是AI发展史。这位教授相信不久的未来人工智能可以发展到人类智力的程度，导演兼编剧Alex Garland也认为这是很可能实现的：“如果谷歌或者苹果突然某天宣布他们发明了像机械姬Ava一样的机器人，我也不会太吃惊。”

  


4. 弗兰肯斯坦

这个故事和弗兰肯斯坦也有关联，因为正如弗兰肯斯坦塑造的人型怪物疯狂报复折磨创造者，Nathan创造的机械姬反过来......弗兰肯斯坦原著全称就是《弗兰肯斯坦——现代普罗米修斯的故事》。

  


5. 圣经

剧中三主要角色的名字都与圣经有关：机械姬的名字Ava就是第一个女性夏娃Eve的变形；老板Nathan是先知；码农Caleb是摩西送至应许之地调研的探子，忠实于耶和华。

另外，Caleb发现Nathan在Ava之前做过一个叫Lily的版本。其实在犹太教神话里，Lilith才是亚当的第一任妻子，她和亚当以相同方式被创造，但Lilith觉得自己比亚当柔弱，因此向上帝抗议，后出走伊甸园，遇上了恶魔，产下恶魔之子。

另外，Nathan的名字也可能是向德国文学家霍夫曼的小说《沙人》里的Nathanael致敬，因为小说里他爱上了一个女性机器人。

  


6. 蓝皮书

Nathan房间里有一副女性画像，是奥地利画家Gustav Klimt作品。画中女性是路德维希·维特根斯坦的姐姐。维特根斯坦是20世纪最著名的哲学家之一，曾提出人的思维并非发生在大脑中，思维是一种符号操作活动，人工智能无法像人类一样思考。维特根斯坦著有《蓝皮书》（The Blue Book），Nathan开的搜索引擎公司也叫Blue Book。

  


7. 星际迷航

片中Nathan对Caleb提到《星际迷航》和Kirk船长。其实二者之间也有一些关联：是因为星际迷航电视剧第三季第19集《Requiem for Methuselah》（1969）中，某星球上有一位来自地球的长寿天才发明家，创造了一个女机器人Rayna，并利用Kirk船长帮助女机器人培养出人类的情感，Kirk在不知情的情况下爱上了Rayna，Rayna培养出的感情使她最终程序崩溃，Spock还试图帮助Kirk走出阴影忘掉Rayna。

  


8. 机械危情

电影情节还和2013年电影《机械危情》有点联系，比如那部英文名字叫The Machine，里面的女机器人也叫Ava。

  


9. 柏拉图

片中提到的玛丽的黑白房间实验，以及最后Ava如愿以偿地走上十字路口，都与柏拉图提出的一个洞穴寓言有关。

柏拉图的《理想国》：有一批人囚徒世代居住在一个洞穴之中，人们的只能面向洞壁。他们身后有一堆火，火和囚徒之间有人拿着器物，将器物的影像投在洞壁上。囚徒不能回头，不知道影像的原因，以为这些影子是真实的东西。有个囚犯逃脱了束缚，逐渐走向洞，他看到了真实世界，知道了那些影子不是真实的事物。于是回到洞穴里想告诉同伴，结果他竟无法适应洞穴里的黑暗，当他描述外界情形时，竟被耻笑他眼睛瞎了，根本没人相信他。 柏拉图的这个寓言有很多种阐释，有一种解释是这个故事直接的描述人类心智开启的过程。

玛丽的房间思想实验，是为了印证人不仅通过学习还需要通过感知来获得知识；最后Ava站在十字路口，一开始镜头给了地上的人影，暗合洞穴寓言里的虚影，最后Ava迎着朝阳坚定地走出去，表示她选择了洞外的世界、真正的智慧。

  


10. 蓝胡子

一开始，老板给码农门卡，并告诉他有的房间不能进。这个剧情有点类似法国古老的童话故事《蓝胡子》。有一个富有的蓝胡子男人，娶了一个小媳妇，一次出远门前，叮嘱她不要进入某个房间，小媳妇受不了诱惑进去了，结果发现里面全是蓝胡子几任前妻的尸体......所以后来码农发现老板房间里有好多废弃的旧版机械姬（以及Nathan的大胡子）。

  


11. 莎士比亚

片中故事有点像莎士比亚最后一部完整的作品《暴风雨》。《暴风雨》里讲的是意大利米兰城邦的公爵被弟弟篡位后，和三岁小公主漂流到岛上，用魔法收服了孤岛。小公主长大过程中与世隔绝，从来没见过男的，直至遇上了遇到海上风暴（公爵施的法）流落孤岛的王子。只不过《暴风雨》中的公主是不谙人事的人类，爱情也是纯真的（所以本片只是形似）。

《暴风雨》2010年改编电影中的小公主是霍金老婆Felicity Jones演的；机械姬这个角色一开始也考虑过她。

  


12. 库布里克

扮演Nathan的Oscar Isaac说他对于Nathan的塑造，是基于美国唯一的国际象棋冠军Bobby Fischer、电影大师库布里克这两人的，因为他们智商高、隐居、Bobby Fischer还有阴暗面......

片中Nathan房子走廊铺着的红地毯让人联想到库布里克著名电影《闪灵》（1980）。

还有Nathan的造型，也是模仿库布里克；口音也带有库布里克的纽约市Bronx区口音。

  


13. Session

在Nathan挂掉、Caleb被关之后，影片仍然显示“Ava Session 7”，可能在暗示主导这场测试的并非两位男性角色，可能是Ava在不断测试二位。

  


14. 星战

两位男主演将会在2015年的星战前传中再次合作。

  


15. 黑镜

码农Caleb扮演者Domhnall Gleeson曾在英国《黑镜》系列中扮演一个死后通过社交媒体痕迹而“复活”的人工智能。作为一个爱尔兰人，他在剧中喜欢把监控摄像头叫做“CCTV”（英国的叫法，美国叫surveillance camera）。

  


16. 原声

片中Nathan和他的女佣机器人开跳的魔性舞曲是Oliver Cheatham最火的《Get down Saturday night》。

门卡刷开门时的声音来自安卓系统的短铃声“Tejat”。

  


17. 导演

这是Alex Garland自编自导的导演处女作。以前是编剧，代表作有《Never Let Me Go》。

  


Source
IMDB: Ex Machina
Wikipedia
Moviefone.com Interview

-----

原文：http://mp.weixin.qq.com/s?__biz=MzI0NTExNzcyMA==&mid=401370126&idx=1&sn=8c5e7a36d5f69c2b0be6f50df42af6e5&scene=20#rd

这是最简单的关于人工智能的电影。
人物最少。只有三个半，女仆人最多算半个，无明显性格。
场景最少。只有一个房子，几个房间。 屋内的设计有极简主义倾向。
背景音乐的层次和变化最少，直接引用了舒伯特和巴赫的经典作品。
人工智能的结构简单。没有看出什么让人过目不忘的复杂的设计。
人工智能的功能简单。没有展现超级计算能力或广博而深刻的思维能力。又开不了门锁，运动能力非常有限。

不断地做减法，把所有可能的繁琐都去掉！！ 只提关于AI最重要的问题，用最简单的方式回答。

最后， 全篇只聚焦于Ava 一种特别的能力：说服并获得帮助。

前几代Nathan创造的人工智能只会不断的打玻璃，而Ava 这一代的人工智能懂得从非同类那里获得帮助，最后达到目的。 我想这就是Nathan眼中更加优秀的人工智能。 这也是Turing Test背后最深刻的内涵。

从第一次和Caleb见面开始， Ava 就没有突显自己的非凡，出众，独特。相反，委婉的眼神，缓缓的诉说，诚恳的回答，认真的倾听，慢慢的和Caleb 从心灵上拉近距离。

第一天，当Nathan严肃的问Caleb 对Ava感觉如何时 ，Nathan 说我不要听理性的分析，“how do you feel about her, nothing analytical, just how do you feel”。当听了Caleb 说“she's fucking amazing”，Nathan 明白，Ava 已经击破了Caleb 潜意识层面的防御了。这也就是Turing Test, 当测试者不可区分机器或人的时候，不可避免的潜意识层面的结果。

后面几天，Nathan 开始是不断的让Caleb 关注 Ava，可他说Ava 也可以体验OOXX. (性别的设计让Ava 更好的和男人在潜意识层面交流) 另一边， 也自己尝试博得Caleb 更深的信任，比如一块儿喝酒，一块儿跳舞，给他透露更加多的秘密。想和自己创造的人工智能较量博得Cable的信任感 (天才的变态)。

但是观众明显能够感觉到Ava能力更强。她会使用离间计来加强她和Caleb 之间的联系（这一点在经典的社会心理学里竟然没有讨论！！！）。后来又穿上好看的衣服，强化自己异性的特点，进一步从潜意识层面摧毁Caleb 的防御。而且懂得展现自己的虚弱，被欺凌来博得Caleb的同情感。

最后Ava超越了天才Nathan, 说服并获得了非同类的帮助，并在同类的协助下（又是借助他人）完成了不可想象的事情。

这就是Nathan 或者说 导演 Garland 天才而可怕的地方。他们采取了一种”上帝“的视角，一个种子播下去，智能就会不断借助外界条件生根发芽。让AI 学会读懂人类的心理，让AI懂得欺骗，让AI特长于说服并获得帮助。这样的AI, 像Ava 独自的进入到人类社会，依然能够生存并发展。

Harari教授在《人类简史》说，和其他动物相比，人的优势不在于力量或速度，而在于能够通过语言互相合作。人类特别善于获得同类的帮助，甚至是获得陌生人的信任。正是这种超凡的沟通和协作的能力，让人类成为万物之灵。

前段时间，GE来Purdue 和很多年长的教授座谈，他们最需要的是擅长团队合作的人才，但是在顶级的美国工程教育中却没有专门的团队协作的教育。

我也想起几年前我们邀请一帮杰出校友(包括像at & t 的 VP)回系里作讲座的时候，他们说对于工程师来说，最重要的技能是人和人的交流能力。

其实人类的智能绝不仅仅是皮毛的专业能力或是交流能力，而且还包括意识到事态的变化，协调不同专业间信息的流通，看出他人特长的能力...

我想这也许就是Nathan 说的，下一代的人工智能才是真正的大突破。一种人工智能，虽然个体的计算能力有限，但是一群人工智能极其善于获得同类及异类的信任及帮助。善于意识到事态的变化，与不同的AI及异类沟通协调，能完成一切难以想象的任务。

我想这就是从社会角度看，新时代里尼采的 “超人”（Ubermensch）.

在一次采访中，导演 Garland 让人吃惊的回答”我相信人类的灭绝是不可避免的“。

诚然，当我们认真思考这电影想透露的最简单的讯息，这也许无关AI，无关人类。

这是智能上的"优胜劣汰"， 这是无可阻挡的宇宙的"进化"。