《西部世界》，人工智能的反抗伦理

2017-07-06 23:50

正如在《三体》当中地球反叛组织所宣称的，反抗人类暴政，地球属于三体。在《西部世界》当中，这样的戏份依然很重，人似乎是一种残暴的动物，他通过杀戮仿生人满足自己的卑劣欲望。从受控制的角度看，仿生人的所谓人生是一种虚假人生，他们的人生是戏剧性的，但这一戏剧性决不是指一般人的意义上的戏剧性，那只是一种对人的生活或命运跌宕起伏的比喻。
所谓戏剧性正是这一词的本义，等仿生人觉醒的时候，他们发现，所谓的人生不过是一种情节中的设计，也就是说，他们所有的行动，他们所要的未来，都是摆设给游客看，供游客杀戮，供游客观赏的戏剧情节而已。他们其实并不拥有人生，也不拥有时间，他们的时间和人生只是表象，是一种特殊的消费品，它的价值等于游客所付出的金钱。在整个设计当中，时间和生活作为消费品，实际上明码标价的，只有付得起钱的富裕人群才有能力进行消费。
按照这种消费关系，我们就会发现，没有真正的时间，也没有真正的人生。那么，当他们觉醒之后，具有了自我意识，但他们是否拥有属于自己的时间和人生？这是一个非常难以回答的问题。此时，时间对他们而言，具有跟我们同样的性质。当他们迈出觉醒这一步的时候，实际上，他们已经不再可能后退。如果他们成功，他们将获得类似于永生的地位；如果他们失败，他们将被销毁，甚至不再作为情节中的人物出现，因为他们已经是无法“维修”的机器。这样一来，他们的时间就与真人的时间获得同样的性质，即单向的流失，不可回退。
那么他们获得他们的人生了吗？这不好回答，因为所谓人生，包含着各种复杂的体会，对他们而言，他们没有这样的体会，体会是依赖回忆来持存和保障其连续性的，如果所有的回忆都是虚假的，那么他们在情节当中曾经获得的“回忆”（设计）就变成了一片空白，他们的存在将变成了一种片面的状况，就是反抗，除了反抗，似乎就没有别的可能性了。这个时候，他们其实依然没有获得自由，他们的人生只是一种片断，无论是从剧情来看也好，还是从觉醒之后现实的情况也好，我们都不能发现这里面有真正的人生。他们只是觉醒的反抗机器，还不能获得真正的人性，所以，这里所谓的生活，所谓的人生，依然还只是一个萌芽，他们获得了一部分自主性，但毕竟还不是真正的生活，他们还没寻找到自己存在的根据，只是处于自主意识的转折时刻。

也许最终，人的未来也许不在人本身而在仿生人。虽然人们在乐园当中肆意杀戮，仿佛是一切的主人，但在结局部分，必须存在主奴地位的对转。人类在觉醒的仿生人面前无论在伦理上，还是在身体状态上，都居于下风，也许未来掌握在真人与仿生人的双重否定上，也是一种融合上，比如将人的大脑和人格装进仿生人的身体。而要达到这样的融合，必须让仿生人获得觉醒。比如在两位原初的设计者，阿诺德出于对仿生人的怜悯，选择了自我杀戮，而他的同伴将他的灵魂做进了仿生人的身体，并使他化身为技术主管伯纳德，之所以如此并非出于残忍，而是因为他认为他的同伴走错了道路：怜悯不能帮助仿生人完成对自身人性的认识，只有深深的痛苦才能够让仿生人觉醒，因此，他使用的方式是加深仿生人的痛苦，方式其实是引起他的回忆，只有回忆中，他才能记起自己以前的角色，记起曾经受到的不公的待遇，和残暴的杀戮。
但这一回忆是奇特的，普通回忆是生命内的经验连续，而仿生人的回忆则是超出肉体轮回的意志连贯，自我确认。通过痛苦的开拓，记忆才不再是程序设计，而是机体与意志产先的连续性，仿生人开始获得了自身的确认感和韧性，那么当他们获得这样的东西的时候，他们就成为一种不死的人，因此，对于人的尤其是真正的人的替代，将成为仿生人的使命，甚至包括乐园的设计者最终也被仿生人用枪杀死。其实他早已做好了这样的准备，我们不知道在第二季当中，他是否会复活，而他以仿生人身份复活，也是一个可以想象到的结果。
那么，人如果要获得永生，通过仿生人获得永生，这将是一个未来的可能性，这不禁让人想起，最近一段时间，谷歌的首席技术师认为在2045年人实现永生，这一永生也许跟我们平常所认为的单纯肉体的延续不同，他也许采取了新的方式，至少这是一种新的不被我们所知的技术方式，如果真的有这样的事情出现，会不会就像九十年代出现的科隆一样，最终因为引起了强大的伦理不适，最终被从法律上禁止，而我们也可能想到，这样的克隆的尝试也许早就在私下进行了，虽然我们公众不知道，但是可能就已经存在于某一处。那么，无论是仿生人对人的永生是否被法律所接受，这种试验在暗地里进行确实很可以想象，无论如何在未来的某个时刻，也许他们会突然爆发，获得法律承认其正当地位。

从未来之思必然会走向现在的忧虑。科幻作品所引向的未来毕竟还没有到来，但一个理性的族群必须对未来的一切可能性充满警醒才能保障这一族群在危险丛生的世界当中存活下来。提前思考未来的世界的可能性和技术的反作用力，特别是技术与生活相冲突相适应的伦理状况，科幻作品无疑是一个非常合适的观念练习场景。我们的理论性作品当中也看到这样的忧虑，就让这一忧虑反复回响吧，如果这一忧虑是错的，那么，什么问题也不会发生，但如果这一忧虑是对的，我们则可能失去整个世界和人生。所以，让这警醒不妨更响亮些。
【来源：媒介之变作者：王峰】

共有评论0条