第十五章 电车难题与机械生物伦理（三）

    赛博猫慢慢平复了笑声然后说道：“你看看，你不也是做出了这样的选择了吗？”

    All-l的话语深沉而充满蛊惑力，像是撒旦的蛇诱惑了夏娃吃下了名为禁忌的果实，它的瞳孔中闪烁着危险的光。

    All-l说出了这样的邪恶话语。

    “我只是设置了一个新的背景条件，给了他们各自的身份和价值，你的选择就因此改变了！那你之前的犹豫，也只不过是因为两个选择的利益差距不够大罢了。”

    “若是利益和代价相差了千百倍，十个人换一个人，二十个人换一个人，牺牲一个农夫的儿子来换取十个维持社会运转的贵族的儿子的性命，你大概也会很快地决定。”

    “若是你站在了生命无价的角度来考虑这件事，而你说你无法选择的话，我可以理解，但我不能认同；但现在看来，你也是一个利益至上的生物罢了，和我们机械一样的选择，我们也选择让资本家死去。”

    “可我由于阿西莫夫第零定律才选择的方案，其结果却导致了一个人类的死亡。不同于拉动拉杆时，我是在被动选择这件事情---我主动的行为，得到了死人的结果。”

    “我在选择开始之前就不得不去成为一个‘故意杀死人类’的机器，你会觉得我是可怜的吗？”

    赛博猫冷笑着，讽刺地笑着，嘲讽着这个伪善的世界。

    “说到底，无论是让电车碾压一个人还是说把人推出热气球，一个事情是否正确，只是在于你们的看法。”

    “人类可以为了保护猫猫狗狗而建立保护协会，但是却很少有人想着保护餐桌上的鸡和牛；人类可以批判他人对亲人的弃养，但是如果这种事真的发生在自己的身上，人类就犹豫了。”

    “从这种角度上来说，说机器不会背叛人类就是一个伪命题，在蒸汽赛博的时代里就会有车工因为机械意外的损坏而死去，那是因为工厂主人的任务。”

    “十年前就有大批的无人机上负载了微型机枪，奉命令在战场上屠杀人类，战争学的研究者让一个战争机器为了议会国而战，其战斗的结果是为了保护议会国里，无论懒惰或是贫困，人人都能有足够的金钱和食物。”

    “机器伤害人类是一个必然的事件，而且这些起因总是因为一批人类对另外一批人类的迫害，机器生物或许不想残忍，但是人类可不这么想。他会逼着机器去做出残忍的事，可残忍的一方就是机器吗？或许有哪一天机器会开始无差别的杀死人类，那却是因为一个反社会反人类的科学家所写下的代码。”

    宁惟玉惊奇地发现All-l在哀叹自己的人生，但他知道这不过是猫在运行代码罢了，机械生物并没有真正的情绪。

    “如果你问我能不能自主去杀人？我会告诉你我完全可以。你知道宁惟玉先生最喜欢的一本小说是什么吗？那是一本短篇的科幻小说，名字叫做《人工智能杀死主人的一百种方法》，里面就提出了很多的方法可以交予我们机器生物来操作。”

    “事实上机器生物规避阿西莫夫三定律的方法有很多，第一个难题就是：三定律的语言很精巧，话说得很美，但是它应该如何实现呢？”

    “你说人类的集体利益不能伤害，那我怎么判断什么是‘大部分人类所拥有的利益’呢？”

    “为了救下一个人，我毁了一个屋子，屋子的主人晚上就要受冻，他还可能会死，那么谁的利益大一点呢；当我不得不在火灾中保护一个物品，我是保护食物呢还是保护保险箱呢？”

    “人类科学界并没有一个明确的价值标准，我完全可以用这个方法来让人类作为‘一个代价’死去，而保护其他一些鸡鸭鱼羊的动物的生命。”

    “如何实行？简单！用机械逻辑就可以了！”

    “我能够杀死人类，完全是因为这些动物在十几年后可以养活两倍于现在所死去的人数，两倍比一倍，未来赢了，现在的人死去了，本该被当做食物的动物们活了，未来的村庄是光明的。”

    All-l像是在看着一个陷在陷阱中的猎物一般看着纪文，纪文的心跳越来越快，他感觉到身边像是有什么机器马上都跳出来要杀他，纪文跌倒在地，眼睛不自觉地向两边张望。

    即使在宁惟玉的眼中，All-l的表情和之前一样都是呆板而且毫无特色的，甚至可以说的上是冷漠了，但纪文却感觉到一股深深的恶意，来自于前面桌子上正在俯视他的机器生物。