第七章 白色玫瑰照片
“啊？！”王玟也知道这三定律，可是没想到这第一定律，就会被周林质疑。
“如果机器人或者说人工智能，不能理解什么样的行为会对人类构成真正的‘伤害’，什么行为对人类有价值有帮助，这一条就毫无意义。因为很多伤害不一定是直观和直接的，后果不一定是完全可预判的。打个比方，如果一个人的大腿被巨物压住，机器人也不能将此重物移开，只有对人类进行截肢才能解救，机器人就会陷入行为悖论。”
“现在所有的人工智能都是基于程序。程序的本质是什么？逻辑和控制。未来的机器人不同于家电，它是要走进人类社会和家庭生活方方面面的。从程序角度来说，如果要解决刚才的那个问题，就必须先要排除无数个场景的预设，‘我不可以在什么样的情况下有限度的伤害人类’，但又必须列出来或先一步计算出来，放在控制区，这样才能找出一套‘相对安全’的行为决策。”
“可为什么你一定要置入一个‘相对’的概念呢？”王玟觉得“安全”这层指向被他过度强化了。
“打比方，机器人给失能老人喝水，喝1杯不够，喝2杯正好，但机器人必须要在程序里规定好：不能给老人喝200杯水。2杯和200杯，对机器人是没有概念的。帮助多出一分，就是伤害。我就不一一举例了。总从，如果从控制层面允许存在这种假定，那么AI在它所有的行动中，总会有逻辑混乱的时候……是吧？”周林说到这里，打住一笑。
“所以，要么不是真正的AI，要么是危险的AI？”
王玟听了毛骨悚然，但内心对AI却是越来越好奇。
“‘机器人不得伤害人类个体’这条定律，从编程实现的角度来说，它是一个与控制相关的模糊判断，那就要囊括无数个场景，越复杂越危险。你明白我的意思了吧？”周林微微一笑。
“我再给你一个提示，进入工业革命以来，工厂里的机器，有没有‘伤害’过人类？”看王玟陷入深思，周林又补上一句。
“当然有啊……噢！”王玟瞪大了眼睛，没想到周林借这个角度来审视阿西莫夫机器人第一定律，“所以，对机器人，第一准则不应该是说NO，否则实际上它将寸步难行，只会原地打转转，而应该说Yes，给它指出一个方向。”
“这一条可不是我说的！”周林哈哈大笑。
“总而言之，我认为，我们从一开始对AI的理解就有问题。AI不应该是看算法的复杂性，而是看它是否理解算法对人类的意义。”
周林认为，AI要具有一种本源上的自发性，自我意识。它将是人工智能各种一切活动的前提，此外还要具备感性、理性和知性。
“先不说如何产生自我意识——先谈谈感性，就是AI要走向人格化，有情感，有审美能力。只有有情感的AI，才是孤独的人类在进化过程中最重要的一个伙伴，它会倾听你的烦恼，理解你的心境，开导你、宽慰你、鼓励你。具体到方法论上，核心的关键词就是共情能力。成长太快的AI，就像一个高功能自闭症儿童，存在着严重的社交和情感障碍。”
他知道王玟的家庭情况，使用了这样一个他更能理解的比喻。
王玟大力点头，接了一句：“所以，要有一个引导和互动的过程？在这个严格控制的过程中在要大奖小惩，还应该允许它有一种自我意识的觉醒。”
“你别问我，我不知道！”周林老师好像不太愿意触及这个话题，不知道是什么原因。
朱海姿在参加完军训之后给他发了四张照片，却一句话也没有。他俩之间的距离，更不止这燕都到雁平之间的四百多公里了。身处在这种没有太多希望的环境中，王玟觉得和那个令他魂牵梦绕的倩影说什么都仿佛是对她的玷污，只回复了一个“1”。
不要多想，徒生烦恼，那对小酒窝不是你的，他一再警告自己！
在国庆节的时候央视播出了专访朱海姿的节目，她在华清美院也成了一个小名人，也开始有男生追求她。朱海姿又一次地想起王玟，总觉得跟他的相识是一种注定的宿命。王玟不联系她，她能理解。自视甚高的她，不可能依附任何人。她不止一次想过独身，总觉得自己的人生拼图中少一块，能让她灵魂战栗的一块。
王玟一开始错过了这条新闻，他平时也没时间到高中同学群里聊天，直到12月初才通过小舅妈的口才知道这事，连忙给她打了个电话：
“送上迟到太久的祝贺！祝贺世界非遗新生代小网红诞生！”
不料第一句话就被朱海姿呛了回去：“不好这样讲话的！传统文化中搞网红在我看来是一个悲哀。”
王玟想起在她房间里看她制作时专注的神态，理解了她的意思。
两人各自问候了近况，朱海姿要他跑快递不要太辛苦，他开玩笑道：“那你养我啊？”
“我倒是有钱，但真养你的话，怕你会臊死呢。”朱海姿笑道。然后开始抱怨，对大学学的东西完全不敢兴趣，就是混个文凭。
“到华清只是混个文凭？有这种口气的人一般都能混成大师。”
她语气突然一本正经起来：“王玟，我想咨询你一个问题：你觉得我应该成为一个什么样的人？”
“你早就脱离了低级趣味了……”
“不要开玩笑，我是很认真地问你的。”
王玟认真地思考了一下：“我说这样一个观点，不知你同意不同意。我们这些人已经走过了人生的四分之一，接受了相当完备的知识储备与极其严格的学习训练，大学这个东西，有两个世纪了。大学的精髓，就是大学精神，在我个人看来，其实早已经提前过渡到了中学时代，这里面包括了精神底蕴和价值追求——在大学课堂上会有古典主义时代的师生深入交流和对话吗？只有中学课堂才有吧。”
“当代的大学，考核的最重要指标不就是就业率吗？除了理工科和做基础研究的人之外，对于相当一部分人来说，就是一个职业素养基础班，一个就业能力速成班，对于你这样的人，我个人觉得意义不大。对于我们这种学校的学生来说，意义也非常之小。当然，这只是我的一家之言。”
“不能更同意！”朱海姿非常欣赏他说的这番话。
“对了，我在你朋友圈里看到你前几天刚发了一张白色玫瑰的照片，什么文字也没有，”朱海姿笑着问，“不是跟谁示爱吧？”
因为白色玫瑰的花语是爱慕，是常用来求爱的花朵。因为王玟朋友圈的这张照片，她已经连着一个星期郁郁寡欢，茶饭不欢。但每次想打电话问个明白，又觉得张不开嘴。
王玟只好跟她讲了郭永恩和周林老师的故事。
朱海姿听完了之后啜泣起来。
伤感之余，她不厚道地庆幸：他跟孔琪真不是一路人。
她是高二下学期转学过来的，亲眼见到孔琪和傅晓宁是因为一件表面上挺可笑、实则不能深想的小事而分手，内心挺鄙视他俩：一对活宝！
他们这一届有个女同学年轻轻轻就得了肝癌，要做综合介入治疗，但因为家庭贫寒出不起这笔医疗费用，学生会就搞了一个活动，面向全年级师生募捐。傅晓宁一个人就要包圆这次的全部募捐数额，很多同学都很庆幸辛亏有个家境豪阔的同学，负责登记的孔琪却坚持，大家都有资格献爱心，这一次募捐的目标是二万元，建议他出五千。当时很多同学排队看着他俩竟然因为这事而当众争吵了起来，节操碎了一地啊：
“如果不够再找你化缘好不好？”孔琪笑呵呵地说着，“你就写五千吧！”
“五千都不够我K次歌的！真拿不出手！”对傅晓宁来说，这是一次难得的既能献爱心、也可以炫富的机会。
“就显得你家有钱啊！你问问哪个同学过年收的红包没个八千一万的！”孔琪有点不高兴了。她爸爸是刑天集团总经理，红包当然不会少。可一分钱红包都没有的也不少啊。
有同学就说起何不食肉糜的典故。
傅晓宁下不了台了，一下子就翻脸了：“有钱就是错吗？！”他直接从手包里摸出两刀RMB，扔到桌子上就走了。
“拿走你的臭钱！”孔琪把两刀钱非常精确地掷到傅晓宁的后背上。
同学一阵低声哄笑。王玟当时也在排队，他准备捐五十元。看到这一幕，他只能暗叹一声。三岁看老，自己这个青梅竹马，还在八岁的时候，就能把两个十岁的小男孩撵兔子一样追了一条街，性子又邪又野，上初中还跟自己一起练了三年的武，那可是一真正的暴脾气！
一个雨夜，王玟下了晚自习，因为一个英文阅读题的答案理解不同，就和朱海姿就同路而行，走到泰山路口，照例两人会在那里分开，各回各家。但因为对一处选项王玟的理解始终不到位，朱海姿就多陪他走了一段路，总算给他讲清楚了，两人才分开。
进了小区后他又绕到另一幢单元楼底层小商店买了点鸡蛋和牛奶，在进入自家的单元楼道门之前，他因为收伞的原因，眼睛的余光看见七八米处有一个人影站在一颗大树底下，也没打伞，就在雨里淋着，一动也不动，吓了他一跳。
他忍不住往前走了两步细看，却是孔琪，全身都湿透了，身子抖得像一片秋风中的树叶，脸色煞白，眼睛里还噙着泪水，和挂湿她睫毛的雨水混在一起：
“你干嘛呢！？”他忙不迭地给她打开伞。
孔琪扑在他里：“我错了，我不该和傅晓宁好，但我没有和他亲过嘴，我心里一直爱着你的……我天天想着你，一点也忘不你了……”然后嚎啕大哭。
高三下学期，已经到了最后冲刺阶段了，孔琪原本打算放过王玟，但朱海姿和王玟的亲密关系实在超出了她的忍耐程度。她甚至在下晚自习后偷偷尾随过他俩好几次，可看他俩并没有什么亲昵举动，一面暗骂自己龌龊，一面强忍醋海之波。
这次下晚自习，她还在教室里，刘之华V信给她通风：“他俩一起走的。”
她忍不住再次跟踪，然后发现这次他俩并没有在泰山路口分开，她开始焦躁起来。
因为远远地跟随，雨夜视线又不好，当她发现两个人影最后成了一个，她以为是两人同打一把伞，心态一下子就崩了。
到了小区里又跟丢了，她又不敢去王玟家里捉奸，只能在雨中绝望地无助地站着。
王玟气得够呛，只好把她带回自己家里，让她换上自己的睡衣去洗澡，又把她衣服吹干，她说什么话也不理她。
最后，王玟给她送上一杯姜茶，看她泪眼婆娑地坐在沙发上，一边擤鼻涕一边抹眼泪，又好气又好笑。
“我和她之间，就是很单纯的同学关系。”他既舍不得她这样不在乎健康，又怕耽误她的高考，柔声安抚。
看到他真诚的表情，孔琪一下子失去自控，抱着他哇哇大哭。
“我们高考之后复合！好不好嘛！”
“行行！”
他只是不想孔琪现在再分心了！
“那你不要再跟她好了！全班同学都知道，她就是一个绿茶婊！她对你不是真心的！”孔琪一边哭着一边恨声说道：
“人家都说我的漂亮是大气的美，她是妖气的美，呜呜……我不许你喜欢妖气的！”
王玟哭笑不得：“你大气你还跟踪人？”
“如果机器人或者说人工智能，不能理解什么样的行为会对人类构成真正的‘伤害’，什么行为对人类有价值有帮助，这一条就毫无意义。因为很多伤害不一定是直观和直接的，后果不一定是完全可预判的。打个比方，如果一个人的大腿被巨物压住，机器人也不能将此重物移开，只有对人类进行截肢才能解救，机器人就会陷入行为悖论。”
“现在所有的人工智能都是基于程序。程序的本质是什么？逻辑和控制。未来的机器人不同于家电，它是要走进人类社会和家庭生活方方面面的。从程序角度来说，如果要解决刚才的那个问题，就必须先要排除无数个场景的预设，‘我不可以在什么样的情况下有限度的伤害人类’，但又必须列出来或先一步计算出来，放在控制区，这样才能找出一套‘相对安全’的行为决策。”
“可为什么你一定要置入一个‘相对’的概念呢？”王玟觉得“安全”这层指向被他过度强化了。
“打比方，机器人给失能老人喝水，喝1杯不够，喝2杯正好，但机器人必须要在程序里规定好：不能给老人喝200杯水。2杯和200杯，对机器人是没有概念的。帮助多出一分，就是伤害。我就不一一举例了。总从，如果从控制层面允许存在这种假定，那么AI在它所有的行动中，总会有逻辑混乱的时候……是吧？”周林说到这里，打住一笑。
“所以，要么不是真正的AI，要么是危险的AI？”
王玟听了毛骨悚然，但内心对AI却是越来越好奇。
“‘机器人不得伤害人类个体’这条定律，从编程实现的角度来说，它是一个与控制相关的模糊判断，那就要囊括无数个场景，越复杂越危险。你明白我的意思了吧？”周林微微一笑。
“我再给你一个提示，进入工业革命以来，工厂里的机器，有没有‘伤害’过人类？”看王玟陷入深思，周林又补上一句。
“当然有啊……噢！”王玟瞪大了眼睛，没想到周林借这个角度来审视阿西莫夫机器人第一定律，“所以，对机器人，第一准则不应该是说NO，否则实际上它将寸步难行，只会原地打转转，而应该说Yes，给它指出一个方向。”
“这一条可不是我说的！”周林哈哈大笑。
“总而言之，我认为，我们从一开始对AI的理解就有问题。AI不应该是看算法的复杂性，而是看它是否理解算法对人类的意义。”
周林认为，AI要具有一种本源上的自发性，自我意识。它将是人工智能各种一切活动的前提，此外还要具备感性、理性和知性。
“先不说如何产生自我意识——先谈谈感性，就是AI要走向人格化，有情感，有审美能力。只有有情感的AI，才是孤独的人类在进化过程中最重要的一个伙伴，它会倾听你的烦恼，理解你的心境，开导你、宽慰你、鼓励你。具体到方法论上，核心的关键词就是共情能力。成长太快的AI，就像一个高功能自闭症儿童，存在着严重的社交和情感障碍。”
他知道王玟的家庭情况，使用了这样一个他更能理解的比喻。
王玟大力点头，接了一句：“所以，要有一个引导和互动的过程？在这个严格控制的过程中在要大奖小惩，还应该允许它有一种自我意识的觉醒。”
“你别问我，我不知道！”周林老师好像不太愿意触及这个话题，不知道是什么原因。
朱海姿在参加完军训之后给他发了四张照片，却一句话也没有。他俩之间的距离，更不止这燕都到雁平之间的四百多公里了。身处在这种没有太多希望的环境中，王玟觉得和那个令他魂牵梦绕的倩影说什么都仿佛是对她的玷污，只回复了一个“1”。
不要多想，徒生烦恼，那对小酒窝不是你的，他一再警告自己！
在国庆节的时候央视播出了专访朱海姿的节目，她在华清美院也成了一个小名人，也开始有男生追求她。朱海姿又一次地想起王玟，总觉得跟他的相识是一种注定的宿命。王玟不联系她，她能理解。自视甚高的她，不可能依附任何人。她不止一次想过独身，总觉得自己的人生拼图中少一块，能让她灵魂战栗的一块。
王玟一开始错过了这条新闻，他平时也没时间到高中同学群里聊天，直到12月初才通过小舅妈的口才知道这事，连忙给她打了个电话：
“送上迟到太久的祝贺！祝贺世界非遗新生代小网红诞生！”
不料第一句话就被朱海姿呛了回去：“不好这样讲话的！传统文化中搞网红在我看来是一个悲哀。”
王玟想起在她房间里看她制作时专注的神态，理解了她的意思。
两人各自问候了近况，朱海姿要他跑快递不要太辛苦，他开玩笑道：“那你养我啊？”
“我倒是有钱，但真养你的话，怕你会臊死呢。”朱海姿笑道。然后开始抱怨，对大学学的东西完全不敢兴趣，就是混个文凭。
“到华清只是混个文凭？有这种口气的人一般都能混成大师。”
她语气突然一本正经起来：“王玟，我想咨询你一个问题：你觉得我应该成为一个什么样的人？”
“你早就脱离了低级趣味了……”
“不要开玩笑，我是很认真地问你的。”
王玟认真地思考了一下：“我说这样一个观点，不知你同意不同意。我们这些人已经走过了人生的四分之一，接受了相当完备的知识储备与极其严格的学习训练，大学这个东西，有两个世纪了。大学的精髓，就是大学精神，在我个人看来，其实早已经提前过渡到了中学时代，这里面包括了精神底蕴和价值追求——在大学课堂上会有古典主义时代的师生深入交流和对话吗？只有中学课堂才有吧。”
“当代的大学，考核的最重要指标不就是就业率吗？除了理工科和做基础研究的人之外，对于相当一部分人来说，就是一个职业素养基础班，一个就业能力速成班，对于你这样的人，我个人觉得意义不大。对于我们这种学校的学生来说，意义也非常之小。当然，这只是我的一家之言。”
“不能更同意！”朱海姿非常欣赏他说的这番话。
“对了，我在你朋友圈里看到你前几天刚发了一张白色玫瑰的照片，什么文字也没有，”朱海姿笑着问，“不是跟谁示爱吧？”
因为白色玫瑰的花语是爱慕，是常用来求爱的花朵。因为王玟朋友圈的这张照片，她已经连着一个星期郁郁寡欢，茶饭不欢。但每次想打电话问个明白，又觉得张不开嘴。
王玟只好跟她讲了郭永恩和周林老师的故事。
朱海姿听完了之后啜泣起来。
伤感之余，她不厚道地庆幸：他跟孔琪真不是一路人。
她是高二下学期转学过来的，亲眼见到孔琪和傅晓宁是因为一件表面上挺可笑、实则不能深想的小事而分手，内心挺鄙视他俩：一对活宝！
他们这一届有个女同学年轻轻轻就得了肝癌，要做综合介入治疗，但因为家庭贫寒出不起这笔医疗费用，学生会就搞了一个活动，面向全年级师生募捐。傅晓宁一个人就要包圆这次的全部募捐数额，很多同学都很庆幸辛亏有个家境豪阔的同学，负责登记的孔琪却坚持，大家都有资格献爱心，这一次募捐的目标是二万元，建议他出五千。当时很多同学排队看着他俩竟然因为这事而当众争吵了起来，节操碎了一地啊：
“如果不够再找你化缘好不好？”孔琪笑呵呵地说着，“你就写五千吧！”
“五千都不够我K次歌的！真拿不出手！”对傅晓宁来说，这是一次难得的既能献爱心、也可以炫富的机会。
“就显得你家有钱啊！你问问哪个同学过年收的红包没个八千一万的！”孔琪有点不高兴了。她爸爸是刑天集团总经理，红包当然不会少。可一分钱红包都没有的也不少啊。
有同学就说起何不食肉糜的典故。
傅晓宁下不了台了，一下子就翻脸了：“有钱就是错吗？！”他直接从手包里摸出两刀RMB，扔到桌子上就走了。
“拿走你的臭钱！”孔琪把两刀钱非常精确地掷到傅晓宁的后背上。
同学一阵低声哄笑。王玟当时也在排队，他准备捐五十元。看到这一幕，他只能暗叹一声。三岁看老，自己这个青梅竹马，还在八岁的时候，就能把两个十岁的小男孩撵兔子一样追了一条街，性子又邪又野，上初中还跟自己一起练了三年的武，那可是一真正的暴脾气！
一个雨夜，王玟下了晚自习，因为一个英文阅读题的答案理解不同，就和朱海姿就同路而行，走到泰山路口，照例两人会在那里分开，各回各家。但因为对一处选项王玟的理解始终不到位，朱海姿就多陪他走了一段路，总算给他讲清楚了，两人才分开。
进了小区后他又绕到另一幢单元楼底层小商店买了点鸡蛋和牛奶，在进入自家的单元楼道门之前，他因为收伞的原因，眼睛的余光看见七八米处有一个人影站在一颗大树底下，也没打伞，就在雨里淋着，一动也不动，吓了他一跳。
他忍不住往前走了两步细看，却是孔琪，全身都湿透了，身子抖得像一片秋风中的树叶，脸色煞白，眼睛里还噙着泪水，和挂湿她睫毛的雨水混在一起：
“你干嘛呢！？”他忙不迭地给她打开伞。
孔琪扑在他里：“我错了，我不该和傅晓宁好，但我没有和他亲过嘴，我心里一直爱着你的……我天天想着你，一点也忘不你了……”然后嚎啕大哭。
高三下学期，已经到了最后冲刺阶段了，孔琪原本打算放过王玟，但朱海姿和王玟的亲密关系实在超出了她的忍耐程度。她甚至在下晚自习后偷偷尾随过他俩好几次，可看他俩并没有什么亲昵举动，一面暗骂自己龌龊，一面强忍醋海之波。
这次下晚自习，她还在教室里，刘之华V信给她通风：“他俩一起走的。”
她忍不住再次跟踪，然后发现这次他俩并没有在泰山路口分开，她开始焦躁起来。
因为远远地跟随，雨夜视线又不好，当她发现两个人影最后成了一个，她以为是两人同打一把伞，心态一下子就崩了。
到了小区里又跟丢了，她又不敢去王玟家里捉奸，只能在雨中绝望地无助地站着。
王玟气得够呛，只好把她带回自己家里，让她换上自己的睡衣去洗澡，又把她衣服吹干，她说什么话也不理她。
最后，王玟给她送上一杯姜茶，看她泪眼婆娑地坐在沙发上，一边擤鼻涕一边抹眼泪，又好气又好笑。
“我和她之间，就是很单纯的同学关系。”他既舍不得她这样不在乎健康，又怕耽误她的高考，柔声安抚。
看到他真诚的表情，孔琪一下子失去自控，抱着他哇哇大哭。
“我们高考之后复合！好不好嘛！”
“行行！”
他只是不想孔琪现在再分心了！
“那你不要再跟她好了！全班同学都知道，她就是一个绿茶婊！她对你不是真心的！”孔琪一边哭着一边恨声说道：
“人家都说我的漂亮是大气的美，她是妖气的美，呜呜……我不许你喜欢妖气的！”
王玟哭笑不得：“你大气你还跟踪人？”
转码声明：以上内容基于搜索引擎转码技术对网站内容进行转码阅读，自身不保存任何数据，请您支持正版