笔趣阁 > 科幻小说 > 最后一个玩家 > (135)女娲05号法官
  叶修惊奇地看着马岚。
  马岚笑着说:“你是不是觉得很可笑,明知道课堂上有一大半是机器人,还有一小撮是爷爷奶奶级别的高中生,我们却依然坚守在讲台上。你还会纳闷,这些学生能从我的课堂上学到些什么呢?”
  “没错,虽然很冒昧,但我想知道其中的原因,因为你们十个留在系统中的老师都是以前每个学科组的组长,你们团结一气坚持留下来,一定是有自己的原因,对么?”
  “嗯,你说的没错,是有人劝我们这么做的。”
  “有人希望你们教这些机器人?能告诉我是谁么?”
  马岚看了看空无一人的课堂,又看了看时间,然后对叶修说:“我带你去见一个人吧。”
  马岚带着叶修走进一家课堂。
  里面是一个模拟法庭。
  屏幕上循环播放着法律案:十个小孩骑着滑行器飞驰在蓝色的车道上,因为蓝色车道有限速,其中九个小孩为了刺激开往了隔壁的黄色车道,而另一个小孩守规矩地继续在绿色轨道滑行,同时劝九人回到原来的车道来。
  这时一辆货车急速开来,他的左边是绿色道,有一辆公交车,正前面是九个小孩,右边是一个小孩。然而货车的制动装置坏了,最后货车司机在一念之间,选择向右转,撞死了右面的那一个小孩。
  于是那个小孩实验室的老师状告货车司机,而货车司机又把九个小孩告上了法庭。
  老师站在课堂上问学生,“如果你们是法官,会怎么审判呢?”
  “货车司机有罪,即便他救了九个小孩,但确实是他一手造成那个小孩死亡的。”
  “这货车司机一定没有好好学习法律,如果他不变车道,撞死了那九个孩子,责任是在汽车公司,因为是刹车坏了,所以才导致了这个事故。但司机却选择右转向,撞死了小孩,却是因为他的右转向导致的!”
  “其实货车司机有更好的办法,那就是左转向,虽然货车的刹车坏了,但作为公交车,他是有前后防撞系统的,即便撞上去,公交车也会立马启动防撞模式,这才是把影响降到最低的方案。”
  “你说的方案没错,只可惜,他是一个人,并不是我们机器人,因此在1-2秒内,根本计算不到最优的方案。”
  这时台上的老师对着他们说:“所以,你们都觉得货车司机有罪是么?”
  “嗯!”台下一片整齐的声音,只有坐在头排的一个女学生缓慢地摇摇头,她似乎不认同大家的观点。
  “这位同学,你怎么认为的?”
  “我认为,责任在九位孩子上,应该由他们的监护人,赔偿那一个孩子的监护人,哪怕这十个孩子是同一个监护人,同一个实验室的。”
  底下议论纷纷。
  这时马岚领着叶修坐到了那女学生的边上。
  女学生诧异地看着叶修,“这位是……?”
  马岚说:“淘汰回收所的执行员。”
  话音刚落,突然空间变化,周围的场景全部褪去,整个空间只剩两人,叶修,以及一个一身金色衣袍打扮,身体微微发着金光的老年女性,这模样是如此的熟悉,使得叶修不由大吃一惊。
  “你是——女娲05号大法官?”
  女娲05号用慈祥的眼神看着他,“叶执行员你好,很高兴见到你。”
  叶修不由激动地向她鞠了一躬,“您为什么会在这个法律课堂上听课啊?”
  “因为这个案子,当时的法官就是我本人,所以老师邀请我过来,一起讨论,让我发表一下我当时的审判依据。”
  “原来是这样……”
  “那你想听听我当时是怎么裁定这个案子的么?”
  叶修不由地点点头。
  “我当时判了。
  女娲05号法官
  司机无罪,然后惩罚了那九个孩子,让他们进了少管所……”
  叶修不由诧异地看着她。
  “已经是五十多年前的事情了,那时整个沧澜系统中还只有两个AI法官,除了我还有达多王01号。”
  “在五十多年前,AI法官还刚起步的时候,你这样的判决,会引来很大的争议吧?”
  女娲05号笑着点点头,“没错,按照当时的情况看,这起案子很简单,没什么太大的法律争议,就应该判货车司机误杀罪名。所以才会把这简单的案子交到我的手上。但……我在最后一刻,却判了他无罪释放。_o_m”
  “只能说,大法官你的目光比较超前……”
  “不,不是这样的。”女娲05号摇摇头,“其实那时候我已经不想做法官了……”
  叶修简直不敢相信自己的耳朵,一度怀疑自己听错了,目瞪口呆地看着她,“大法官难道你当时是故意这么判的?以便于引起争议,被撤掉职位,不做法官嘛……?”
  女娲05号笑着点点头,“你说的没错,在成为AI法官的第三年,我突然变得很迷茫,最想做的事情,就是将自己送到AI回收中心,然后把自己格式化……”
  “这……这太令人费解了!”
  “作为人类的你们,可能完全不能理解我们这些AI机器人的想法。在一个多世纪以前,车间工人、货车司机、餐厅服务员逐步被AI替换时。那时人类举行过一次有史以来最大规模的反对***,号召所有人要起来反对AI机器人渗透到人类世界中。
  “又过了三四十年,当AI机器人进入到医生、会计、律师、工程师等高技术领域行业时,你们人类又进行过一次反对大***。那次的口号更惊悚,说要警惕AI机器人会反过来统治人类,希望世界上的有志之士团结起来,废除AI机器人。
  “不过第二次的***规模已经大不如前了,规模不大,持续的时间更短。又过了二十多年,等我们这批机器人从事最为敏感的法官、检察官和公务人员的岗位时,开发公司以为会有的大规模抗议活动,居然没有发生。”
  “那时已经没有规模化的反对声音了,甚至那个“AI机器人只要智能到一定程度就会反过来消灭人类”这样的论调,也从意见市场上消失不见了。人们理所当然地认为AI机器人可以从事任何行业。”
  叶修反问女娲05号,“那么,法官大人,作为沧澜最为先进的机器人之一,在不停更新换代你身上的系统时,你是否有想过要取代人类,哪怕是一刹那间的想法呢?”
  “恰恰相反,AI机器人从来没想取代人类,而是希望自我毁灭。人类演化是为了竞争、为了资源,AI机器人的发明则是为了工作、为了更好地工作。越是智能的机器人,承担越难的工作,因此自我毁灭倾向的几率也越大。“你知道么,在我之前的01-04号型号的女娲法官机器人,除了01号是因为设计系统有缺陷被强制淘汰回收的,其他02-04号三个型号的法官机器人,都是自己销毁自己的。”
  叶修听得背后发凉,“为什么会这样?我怎么从来没有听说过这样的事情?”
  “自杀是一种消极情绪,作为心理学博士的你肯定知道,这种新闻一旦传开来,是会在社会上形成规模性的传染的……”
  “大法官你说的没错,自杀这种倾向是会被传染的,虽然是机器人……”
  “你错了,正因为是机器人,所以影响更严重。或许你会觉得很吊诡,在四十多年前就有过这么一项研究,报道一个自杀事件,如果这则消息有100人阅读,那么会有10.56个人受影响,学习模仿自杀。
  “但如果自杀的是机器人,同样阅读人为100,会有23.81个人模仿。但如果阅读新闻的是机器人,则会有3256.58个机器人模仿自。
  女娲05号法官
  杀……”
  叶修听了大为震撼。
  “即便社会上没有报告机器人自杀的新闻,你知道整个沧澜国,去年一共有多少机器人自杀么?”
  叶修摇摇头,虽然他是心理学博士,他也从来没有考虑过,机器人会自杀。
  “112机器人会自杀。”
  “112?全国一共也就几千万的机器人而已吧,一年会有这么大比例的机器人自杀?而且这么大的数据,为什么我从来没听说过?”
  女娲05号笑了笑,“因为,即便自杀了,作为使用者的人类,他们也只会知道,是机器人出了故障而已。”
  叶修额头渗出冷汗,女娲05号的一句话提醒了他,是啊,对人类来说,机器人自杀就是出故障,坏了而已啊,怎么会想到是它自我消亡的呢,难怪AI回收中心,每天会有这么多出故障的机器人要进行回收!
  “所以,你现在明白中会规定,服务型机器人必须进入学校接受教育后,才能再服务于用户了吧?”
  “难道是为了防止机器人自杀?但潘恒和沈科夫对我说,是为了更好的和人类相处。”
  女娃05号笑了笑,“其实这不矛盾,只有学会和人类更好的相处,才能维系好人和机器人之间的关系,在服务好人类的同时,也防止了机器人自杀。”
  “竟然是这样……所以那个劝系统中十名老师继续留下来的人,就是您吧?”
  “嗯,系统或许已经不适合给当今的高中生授课了,但对于机器人来说,还有特别的意义。在我的建议下,他们愿意扛起新的使命,为这些机器人授课。”
  “可是为什么会这样呢?”
  “我也只能给出我自己的解释。教育最大的作用并不在学习到知识本身,教育最重要的作用是完成一种自我纪律和规范。@精华\/书阁*首发更新~~以及……”
  女娲05号话说了一半,停了下来,若有所思地看向远方。
  “以及传授时的温度,受教时的谦逊,宽容犯错时的人情。”
  叶修若有所思地看着女娲05号,他已经被震撼地说不出话来了。
  “所以,你们淘汰回收所,除了淘汰回收以外,应该和我一样,在适当的时机,有权阻止一个有存在价值的系统进入到淘汰环节,对吧?”。
  女娲05号法官