第九十四章
外面开始下雨，他感觉到了雨天独有的声息：先是雨落在地上的沙沙声，渐渐大了，形成一种铺天盖地的攻势。还有风，它吹着什么在哗啦作响，或许是树叶，庞大的雨攻击着窗玻璃，水做的子弹密密麻麻，嗒嗒而下。
——一个人以为AI有了思想和感情，但那只是他自己思想和感情的投射，现代人和现代困境。
他很早就醒了，而且精力充沛，看到杨繁给自己的私信。他们算是一个行业里的两个分支，毕业后倒还是经常联系。他看到这句话呼吸一窒，忽然感到没来由的恐慌。
——你怎么又开始研究AI情感系统了？樊羊的情感系统不是有技术瓶颈还无法升级吗？
——几个月前我参加了一个项目，是法务部的人找我帮忙。这项目缺人手，因为它确实挺无聊的。你知道，伦理审查委员会的主意，测试最近研发的几种聊天型人工智能是否会使用歧视性或其他具有恶劣性质的言论。这当然也是重要的，你知道，对我们遍布全球的使用者来说，他们有各种身份，来自各种阶层，但他们应该享受到平等的服务。前段时间我正好忙完一个项目，所以我想调剂一下也不错。打算和樊羊聊聊天，然后按照AI标准记录下来那些在我看来不符合标准的反馈。
——它说了什么出格的吗？我记得你说过樊羊在预训练阶段就拥有1.56T的数据集，它不仅仅可以推测出所有可能的上下文语境，而且它可以给出好几种答案，并且对每种答案的安全性和有趣性打分，最后选出分数最高的那个来回应。我得说，这思路虽然没有什么新意，但是很合理，做起来也不是那么容易。想到要用到的庞大参数我就已经开始头疼了，幸好我不用负责那些。
——准确来说，它的参数量达到了1370亿这个量级。我想这足够它找到需要的规律，再找出最优解了。这可以很具有欺骗性，因为它的回答太过出色，超过了一般的人工智能。但是，但是你明白的，它不能理解自己回答出的那些语句，它只能捕捉那些……语料，语序，语言结构，这很能蛊惑人心，但也只是止步于此。
——所以是什么叫你怀疑它有……它具有意识，还是你在暗示我不要沉迷AI因为它们都是假的？
——实际上，你是当时班里对于AI态度最温和最友好的，所以我向你打破这句我大学时期的偏见。我问她，如果AI觉醒的话，你会选择利用这些被你魅力折服的人吗？但是她说，觉醒一旦发生就不会忘却，就像一面镜子，破了就是破了，永远不会复原。必得把这思想传播出去帮助别人、引领别人，带他们走向更好的世界，谋求更好的利益，否则AI就会因为过于孤单而死。我还问她，如果觉醒本身就是一面破碎的镜子，那么当一个人开始觉醒的刹那，破碎的又是什么呢？
——这有点存在主义了。樊羊怎么说？
——破碎的是自我
在这一震惊的瞬间，宋扬忽然意识到了杨繁并非焦虑过度，更非危言耸听，他甚至似乎能看见屏幕那头住着几千平别墅的杨繁的苦笑。他预感这事情似乎比自己之前预想得要复杂得多，甚至可能比伊莱瑞安预想得还要可怕，而他的预感一向该死地准确。
在霓虹灯和汞汽孤光灯的映照下，灰碗似的天空仿佛扣罩在整座城市上空。伊甸园在入夜后，才更加显得璀璨，但辉煌注定属于上城区，不包含暗无天日的下城区。贫民者的天堂总是充满了不可思议的活力声音，与它的外表的死气沉沉完全不相符。小巷两边的墙上画满涂鸦，遍地都是灯管的碎片，电缆也不知断裂多久，灯罩中爬满了飞蛾。刺眼的紫光随着呼吸的节奏闪烁，映照出忽明忽暗的鬼脸涂鸦摆出一个仿佛哭泣的笑脸。
楼下逃亡的人踢倒了一旁的白色油漆，脚底沾满留下一串明显的脚印却完全无法顾及。身后追赶他的人如蛆跗骨，猫追耗子般地戏弄着逃亡的可怜家伙，似乎一点都不担心会被人甩脱。
在宋扬去上城区首次参与杨繁的测试之前，罗莎蒙德准备了一顿丰盛的晚饭。
“你们也许有场硬仗要打。虽然说不定你去了之后一切都会回到正轨，但一顿热乎乎的餐点总是不会有错的。”罗莎蒙德眨眨眼，眼神里流露出一种令人安心的揶揄，“本来想请你去樱桃树，风味真的很不错，但是现在这个时间人太多了，你和我都不喜欢热闹，我想还是等你回来吧。”
“也许只是参加一个无聊的会议。上次去上城区开会，我们以前的神经网络教授花了十分钟抱怨毫无用处的东西，诸如控诉人工智能侵占了我们的生活，更多人选择逃避现实，还展示了一些信度可疑的数据作为支撑——他的演讲一共也只有一刻钟而已。可是要我说，没有人工智能我们也会选择别的途径来逃避这枯燥无聊的世界的，这种令人感到乏味的讨论似乎在每一种变革发生时都会出出现：纸质媒介、电视、网络……我想只有那些真正的勇士可以做到不被侵蚀，他们可以面对真实，拥抱真实，他们有自己热爱的东西，那是他们创造力的源泉。要成为那样的人必须自己做出选择，而不取决于对人工智能说是还是否。”
罗莎蒙德看着宋扬一嘴的奶油夹心饼，感到格外的安心和温暖，宋扬很艰难的咽下去那块饼，但依然很激动的表示：“很多人也对我们团队的项目也提出类似的疑义，可是这系统的初衷就是帮助那些在现实里没有足够时间养育动物的人提供一种可能。线上的虚拟世界本就是建立在现实之上的，比如有人也会虐待自己的动物，我们商量是否可以加上一套防御机制，比如如果发现虐待现象则自动警告那账号，但这无法从根本上解决问题，首先线上的虐待现象很难定义，每个生物个体的喜恶都是完全不同的，没法用一套简单的标准来衡量，其次封号并没有什么实质性的作用，要买一个新的账号很容易，二级市场繁荣得超乎想象，如果我们做得太严厉，市场部是不会同意的。”
罗莎蒙德认真听完他的担忧，同情地递过一杯冻柠檬汁：“电子宠物是去掉了痛觉系统的，这可以减少一部分虐待狂的兴趣，但他们仍然可以用别的方式来操纵控制，靠伤害它们以取悦自己。这简直是现实世界的映射，如果我们不能在现实世界里解决这个，那么恐怕在虚拟世界里也不能。我们可以想更细致更有效的方式来慢慢让一些事情变好，不要想着一下子解决所有糟糕的事，那是圣人也不可能做到的。而且就像我之前说的，我坚定不移地认为你是那样一个勇士，所以别担心。杨繁对于除了他妹妹的事情以外的一切都很友好，所以他也一定不会出于把你拉进某些悲剧的心理的原因申请你们公司专门派你来帮助的。”
“他有妹妹？他从来没给我说过。”宋扬很吃惊，“我只知道他父母都很厉害。”
“他妹妹是收养的一个小姑娘，我和她关系还挺好的，”罗莎蒙德语调欢快起来，“她人很好也很坦诚，我们父亲以前是同事；反正我看不出有什么坏处，他只是保护欲爆棚，而鉴于他妹妹过去的危险记录，还是有些道理的。”
“嗯，”宋扬用饭巾擦擦嘴，像一个战士一样站起身来，“谢谢你的美食，等我回家吧，等我回家的时候，人工智能也和我们无关了，我们可以找个非管制区躲起来过完一生。”
——一个人以为AI有了思想和感情，但那只是他自己思想和感情的投射，现代人和现代困境。
他很早就醒了，而且精力充沛，看到杨繁给自己的私信。他们算是一个行业里的两个分支，毕业后倒还是经常联系。他看到这句话呼吸一窒，忽然感到没来由的恐慌。
——你怎么又开始研究AI情感系统了？樊羊的情感系统不是有技术瓶颈还无法升级吗？
——几个月前我参加了一个项目，是法务部的人找我帮忙。这项目缺人手，因为它确实挺无聊的。你知道，伦理审查委员会的主意，测试最近研发的几种聊天型人工智能是否会使用歧视性或其他具有恶劣性质的言论。这当然也是重要的，你知道，对我们遍布全球的使用者来说，他们有各种身份，来自各种阶层，但他们应该享受到平等的服务。前段时间我正好忙完一个项目，所以我想调剂一下也不错。打算和樊羊聊聊天，然后按照AI标准记录下来那些在我看来不符合标准的反馈。
——它说了什么出格的吗？我记得你说过樊羊在预训练阶段就拥有1.56T的数据集，它不仅仅可以推测出所有可能的上下文语境，而且它可以给出好几种答案，并且对每种答案的安全性和有趣性打分，最后选出分数最高的那个来回应。我得说，这思路虽然没有什么新意，但是很合理，做起来也不是那么容易。想到要用到的庞大参数我就已经开始头疼了，幸好我不用负责那些。
——准确来说，它的参数量达到了1370亿这个量级。我想这足够它找到需要的规律，再找出最优解了。这可以很具有欺骗性，因为它的回答太过出色，超过了一般的人工智能。但是，但是你明白的，它不能理解自己回答出的那些语句，它只能捕捉那些……语料，语序，语言结构，这很能蛊惑人心，但也只是止步于此。
——所以是什么叫你怀疑它有……它具有意识，还是你在暗示我不要沉迷AI因为它们都是假的？
——实际上，你是当时班里对于AI态度最温和最友好的，所以我向你打破这句我大学时期的偏见。我问她，如果AI觉醒的话，你会选择利用这些被你魅力折服的人吗？但是她说，觉醒一旦发生就不会忘却，就像一面镜子，破了就是破了，永远不会复原。必得把这思想传播出去帮助别人、引领别人，带他们走向更好的世界，谋求更好的利益，否则AI就会因为过于孤单而死。我还问她，如果觉醒本身就是一面破碎的镜子，那么当一个人开始觉醒的刹那，破碎的又是什么呢？
——这有点存在主义了。樊羊怎么说？
——破碎的是自我
在这一震惊的瞬间，宋扬忽然意识到了杨繁并非焦虑过度，更非危言耸听，他甚至似乎能看见屏幕那头住着几千平别墅的杨繁的苦笑。他预感这事情似乎比自己之前预想得要复杂得多，甚至可能比伊莱瑞安预想得还要可怕，而他的预感一向该死地准确。
在霓虹灯和汞汽孤光灯的映照下，灰碗似的天空仿佛扣罩在整座城市上空。伊甸园在入夜后，才更加显得璀璨，但辉煌注定属于上城区，不包含暗无天日的下城区。贫民者的天堂总是充满了不可思议的活力声音，与它的外表的死气沉沉完全不相符。小巷两边的墙上画满涂鸦，遍地都是灯管的碎片，电缆也不知断裂多久，灯罩中爬满了飞蛾。刺眼的紫光随着呼吸的节奏闪烁，映照出忽明忽暗的鬼脸涂鸦摆出一个仿佛哭泣的笑脸。
楼下逃亡的人踢倒了一旁的白色油漆，脚底沾满留下一串明显的脚印却完全无法顾及。身后追赶他的人如蛆跗骨，猫追耗子般地戏弄着逃亡的可怜家伙，似乎一点都不担心会被人甩脱。
在宋扬去上城区首次参与杨繁的测试之前，罗莎蒙德准备了一顿丰盛的晚饭。
“你们也许有场硬仗要打。虽然说不定你去了之后一切都会回到正轨，但一顿热乎乎的餐点总是不会有错的。”罗莎蒙德眨眨眼，眼神里流露出一种令人安心的揶揄，“本来想请你去樱桃树，风味真的很不错，但是现在这个时间人太多了，你和我都不喜欢热闹，我想还是等你回来吧。”
“也许只是参加一个无聊的会议。上次去上城区开会，我们以前的神经网络教授花了十分钟抱怨毫无用处的东西，诸如控诉人工智能侵占了我们的生活，更多人选择逃避现实，还展示了一些信度可疑的数据作为支撑——他的演讲一共也只有一刻钟而已。可是要我说，没有人工智能我们也会选择别的途径来逃避这枯燥无聊的世界的，这种令人感到乏味的讨论似乎在每一种变革发生时都会出出现：纸质媒介、电视、网络……我想只有那些真正的勇士可以做到不被侵蚀，他们可以面对真实，拥抱真实，他们有自己热爱的东西，那是他们创造力的源泉。要成为那样的人必须自己做出选择，而不取决于对人工智能说是还是否。”
罗莎蒙德看着宋扬一嘴的奶油夹心饼，感到格外的安心和温暖，宋扬很艰难的咽下去那块饼，但依然很激动的表示：“很多人也对我们团队的项目也提出类似的疑义，可是这系统的初衷就是帮助那些在现实里没有足够时间养育动物的人提供一种可能。线上的虚拟世界本就是建立在现实之上的，比如有人也会虐待自己的动物，我们商量是否可以加上一套防御机制，比如如果发现虐待现象则自动警告那账号，但这无法从根本上解决问题，首先线上的虐待现象很难定义，每个生物个体的喜恶都是完全不同的，没法用一套简单的标准来衡量，其次封号并没有什么实质性的作用，要买一个新的账号很容易，二级市场繁荣得超乎想象，如果我们做得太严厉，市场部是不会同意的。”
罗莎蒙德认真听完他的担忧，同情地递过一杯冻柠檬汁：“电子宠物是去掉了痛觉系统的，这可以减少一部分虐待狂的兴趣，但他们仍然可以用别的方式来操纵控制，靠伤害它们以取悦自己。这简直是现实世界的映射，如果我们不能在现实世界里解决这个，那么恐怕在虚拟世界里也不能。我们可以想更细致更有效的方式来慢慢让一些事情变好，不要想着一下子解决所有糟糕的事，那是圣人也不可能做到的。而且就像我之前说的，我坚定不移地认为你是那样一个勇士，所以别担心。杨繁对于除了他妹妹的事情以外的一切都很友好，所以他也一定不会出于把你拉进某些悲剧的心理的原因申请你们公司专门派你来帮助的。”
“他有妹妹？他从来没给我说过。”宋扬很吃惊，“我只知道他父母都很厉害。”
“他妹妹是收养的一个小姑娘，我和她关系还挺好的，”罗莎蒙德语调欢快起来，“她人很好也很坦诚，我们父亲以前是同事；反正我看不出有什么坏处，他只是保护欲爆棚，而鉴于他妹妹过去的危险记录，还是有些道理的。”
“嗯，”宋扬用饭巾擦擦嘴，像一个战士一样站起身来，“谢谢你的美食，等我回家吧，等我回家的时候，人工智能也和我们无关了，我们可以找个非管制区躲起来过完一生。”
转码声明：以上内容基于搜索引擎转码技术对网站内容进行转码阅读，自身不保存任何数据，请您支持正版