按照陈锋的吩咐，我去龙山基地的办公室办理了接下来的入职手续，其中就包括了录制声音、拍照、录制指纹。这些应该是获得一定的权限所必需的事情。
考虑到这里太偏僻，我选择了在龙山基地暂住，把行李搬了过来。然后在陈锋的帮助下，给希儿穿上了一套我的衣服。
住在我隔壁的，是下午我在办公室办理入职手续时见过的人，李冰。她笑起来很好看，声音分外温柔，约莫二十后半的年纪。
她说，她一个人就是龙山基地的人力资源部、财务部、办公室。
“这么厉害？”我惊讶。
“厉害是厉害，但是厉害的不是我。”李冰笑嘻嘻地说：“在这里，发工资、采购等等工作都是由人工智能完成，我只负责对人工智能得出的结果进行核对，以及对外沟通。”
我回想了一下陈锋是如何找到我的：“原来是这样。”
“你是教育学博士？”李冰继续笑嘻嘻：“原本这栋楼里只有我一个人不会写代码，现在多了一个了。”
“……”我没有说我会简单地写一点。
李冰告诉我，有十几名员工申请了四楼的公寓，但是不是所有人都在这里常住：“忙的时候才需要在这里休息。”
龙山基地总计也就二十多人，看来程序员是真得忙。
第二天，我来到了西三层，陈锋已经在希儿的房间了。
“好了，我们准备开始‘希儿’实验。短期目标是测试希儿的性能，和希儿沟通。长期目标是解决‘中文屋’问题。”
“中文屋？你昨天不是说，正因为要让希儿拥有独立意志，所以才让希儿学习你和SIAS的吗？”
“是的，但是这只是我的设想。是不是这么做就能让希儿的行为具有独立意志而不是受程序操控，还是需要小心求证的问题。”
陈锋接着说：“比如，希儿达到了我最初预想的目标——想打羽毛球的时候打羽毛球，想下围棋的时候下围棋，但是怎么才能知道，是她真的想去而不是程序让她觉得自己想要打羽毛球？”
陈锋停了一下：“是不是很拗口？”
“我勉强能跟上。”
“在上一次希儿崩溃之后，我有时就会想到这个问题：是希儿真的觉得黑，还是学习了SIAS中人类的感情，由程序模拟出了怕黑的感情？”
“陈锋，我要提醒你一下，恐怕这个结果是你不乐意见到的。人为什么会怕黑？”
“请讲。”
“五感之一被剥夺，这本身就是一种恐惧。然后，在人类历史上，很多威胁灾难都是黑夜中降临，所以人类对黑暗有一种天然的畏惧。还有，人或多或少总听过看过一些鬼故事、恐怖电影。这些也大多发生在夜晚，导致人进入黑暗会想象这些令人害怕的事情，想象力越旺盛越害怕。
“而希儿并不是原本的感觉被剥夺，也没有继承人类的怕黑天性。为什么她会怕黑呢？难不成她怕鬼？”我勾了勾嘴角。
陈锋也笑了，旋即又推了一下眼镜。推眼镜好像是他思考时的习惯动作。
“其实，在希儿崩溃的那场实验中，我的团队也产生了分裂。就像你说的那样，希儿本不应该产生怕黑的情绪。而这一行为的合理解释就是，深度学习没法解决‘中文屋’问题。所以一部分人退出了。”
陈锋说得轻描淡写，但恐怕这事没有这么简单，不然不至于过了三年才重启实验。
“其实我有个疑问。按理说人类也是通过被他人教授、学习他人经验成长起来的。希儿的只不过是把这一过程重复了上千万次。你作为教育学博士，觉得这之间有什么本质区别吗？我隐约地感觉，这个问题的答案是人工智能能否拥有独立意志的关键。”
“关于这个问题，其实我也有个疑问。”
“请尽管说。”
“人各有不同。对于同一件事情，不同人的观点和选择是不一样的。而人工智能是不是会选择与他学习的对象相符的结果？比如说，不是有咸甜豆腐脑之争吗？有些人喜欢咸豆腐脑，有些人喜欢甜豆腐脑。但是如果人工智能的学习样本中，喜欢甜豆腐脑的样本比较多，是不是这个人工智能就一定喜欢甜豆腐脑？”
“不一定。在人工智能的学习过程中，可以加一个干扰项，让它在学习的时候不完全少数服从多数。比如，我可以在希儿学习的时候，让她加载一个湖南人/四川人模块，使她的学习样本中湖南/四川人的权重升高，这样希儿就会变得喜欢吃辣的。虽然希儿不需要吃东西就是了。”
“……那么，假如说希儿加载了这个模块后喜欢吃辣的，她会不会一直喜欢吃辣的？你想啊，虽然湖南人喜欢吃辣，但是也有心血来潮想尝尝甜味的时候。希儿会吗？”
“如果希儿需要做到这一步，我可以让希尔在学习的时候同时学习人们心血来潮时的行为，这样希儿也就有了‘心血来潮’机制。”
陈锋推了一下眼镜：“单纯的反常行为很容易做到。你在和小爱同学说话的时候，她也不会对你的同一句话一直做出同样的反应。但这是为了反常而反常，终究是在模拟人类，而不是人工智能需要这么做。我希望希儿在面对一定情景的时候，她会做出她所认为的最优解。即使她在同样的时刻做了不一样的事情，那也是因为她觉得自己要这么做。而不是刻意模仿不稳定的人类。”
“我明白了，很抱歉提出这个问题。”
“不，这本来就是你的工作。如果你的问题能够让我回答不上来，说明我的工作需要改进。比如我接下来准备研究一下‘心血来潮’的行为问题。”
我想到一件事情：“陈锋，这是否意味着，和希儿的对话会比小爱更僵化？”
“不排除这种可能。根据三年前的实验，希儿对于任何问题都是倾向于用最简洁的语言论述完成。当然，通过这三年的学习，我对希儿语言功能的进化是很乐观的。况且，用最简洁、无差错的语言完成对话也不是一件坏事。”
“但是小爱显然通不过图灵测试哦？这意味着希儿也通不过图灵测试。”
“我从没有把‘让希儿通过图灵测试’当成一个目标。在希儿，或其他人工智能需要伪装成人类的时候伪装成人类。其余时候，就算人工智能告诉人类，自己是机器人，又有何不可呢？这并不妨碍人工智能去做人类做不到的事情.”
“但是这对于人类来说，很重要。人类如果面对的是和自己差不多的真人，会保持着基本的礼貌，虽然礼貌程度会根据其人的经历和受教育情况有关。但是如果人知道自己面对的是一个机器人，那指不定会干出什么来，尤其是和机器人独处的时候。”
陈锋沉默了，他盯着床上的希儿。
我也看着希儿，生怕她身上的衣服有哪里不干净。
“你知道吗？”陈锋从眉间放下了左手：“不是经常有那种，明明初衷是好的，但是新科技给人类带来了灾难的科幻小说吗？我刚刚体验了一次这种感觉。”
这是什么神奇的脑回路？
“这也是我为什么在这个偏僻的龙山基地进行实验的原因。人类社会对独立人格的机器人怎么看？是支持还是反对？会不会引起不良社会反应？存在这样机器人的社会，社会制度是怎样的？是否需要承认机器人的人权或机器人权？法律需要怎么修订？问题太多太严重，我也想不过来。所以希儿的诞生是本基地最大的秘密，目前知道这个房间里有希儿的，不超过这个数。”
陈锋伸出了右手，张开了五根手指。然后意味深长地微笑：“至于刚刚那些问题，是你的工作。你现在还觉得这个工作轻松吗？”
我疯狂摇头。
“当然，这不是一时半会儿解决的问题，现在连希儿都没唤醒呢。继续刚才那个话题，人工智能的学习到底和人类的学习有什么区别？为什么人工智能存在‘中文屋’问题，而人类不存在？”
“如果说，深度学习和人类的学习相比，只是重复次数更多，那我认为它们间没有本质区别。比如人类学下围棋，是不断地下棋、背定式、学习棋谱。Alpha Go在不停地读棋谱，Alpha Zero不停的下棋。它们读谱和对局的数量及效率远超人类，自然就比人类强，但是学习过程不存在本质区别。我觉得，存在区别的地方在于，将学会的东西输出的方式。”
陈锋推了下眼镜，不发一言。
我试着阐述我昨晚恶补相关知识后思考的结果：“就像你说的，Alpha Go有可能不知道自己在下棋，原因是它其实是在输出程序运行的结果。纵使它读了再多的谱，它输出的结果也是经过无数个0和1计算得来的。而人类是觉得，走这儿会使自己增加自己的赢面，这是通过经验和计算得出的。但是，Alpha Go下棋的目的也是一样的，为了赢，只不过思考过程不一样罢了。无论是通过经验和思考得出下一步，还是走这一步是为了赢，人类和Alpha Go的过程和目的其实是没有本质区别的。只不过人类把自己当作特别的事物，所以没有把拥有这种思考方式的生物作为和自己对等，甚至优于自己的生物来接受。
“而且，我还得出了一个反直觉的结论：人工智能学习得越多越广，越容易拥有独立意志。以小见大，先将Alpha Go和以前的对弈软件对比。最早的对弈软件的每一步，都是人工编程的结果。这是一种自上而下的结果。输入规则，输入可能出现的情形及应对方式，然后和对弈软件下棋，再不断调试。最后的产品——对弈软件，不管水平多高，都是人类编程的结果。而Alpha Go不一样，它的每一步，都是基于它读过的万千棋谱所转化成的程序。虽然如何转化这部分是先由人类编程完成的。我们是不是可以认为，用自己的程序下棋的Alpha Go要比用人类的程序下棋的、过去的对弈软件具有更高层次的自我意志？
“同理，只有学过了语音和交谈方式，才能和人交流。只有学过了羽毛球和围棋，才能在去打羽毛球还是下围棋中做选择——即使做选择的程序也是通过学习而演化来的。在希儿学习了庞大的、多方面的知识之后，她自然能根据不同的情形做出不同的行动，如果这不叫独立意志，那什么是呢？”
“你对实验的成功有信心？”
“这次实验也许不会成功，但是我认为按照你的思路总有一天会成功的。”
“谢谢，那我们开始吧。我给了你部分管理员权限。当你觉得实验出问题的时候，可以用口令让希儿强制关机。”陈锋一脸严肃：“口令是：‘希儿，关机！’”
“好的。”陈锋舍得给我部分管理员权限？
“第一次实验，目的是唤醒希儿，并记录希儿的现状。在本次实验中，将禁用她的四肢，断开她和SIAS的连接，也不会连接到公用网络。将视情况决定继续唤醒还是让希儿再次休眠。”陈锋对着希儿旁边的电脑屏幕操作了一番：“那么，准备好了吗？我要启动了。”
“等一下。我这个助手不用记录实验记录吗？”
“不用。有一台计算机在专门的监控着这个房间，并记录这个房间里发出的声音。然后会自动整理成文字和影像记录。就算后期希儿的活动范围从这个房间扩大出去，希儿本身也会将她的所见所听所说所感所想形成记录。你要做的是检查记录是否正常，并且分析他们，对接下来的实验提出建议。”
此刻，我非常想捂住自己的脸。我居然忘了这是一家人工智能公司。我稍微有点理解李冰的心情了。
“没问题了吧？那我们开始？”
“为什么要禁用希儿的四肢？如果她又觉得自己手脚不能动而影响实验怎么办？还有，虽然我大概理解，为什么不能联网？”
“因为……Carl太厉害了。我们模拟过希儿运动能力的极限。理论上，她的短跑速度和世界上最顶尖的运动员相当，而长跑速度不比短跑慢多少。她的攀岩能力超过世界上所有的登山家，爆发力相当于成年的狼。如果她想逃跑，这个房间的门和窗户是拦不住的。如果她想伤害我们——虽然这不太可能，因为我们都有管理员权限。至于为什么不联网，一是希儿也许会在互联网上留下什么痕迹让人追踪到，二是希儿和互联网交互的效率极高。希儿几秒钟内就能从网上获取几个T的信息，我担心太多的信息会对希儿产生不可知的影响。”
一个运动能力远高于所有人类的机器人！如果陈锋的程序内存在什么漏洞，让希儿控制了这个神奇的龙山基地，机器人毁灭人类的事情将不只在电影里发生。
“陈锋，既然希儿曾学习过你的生活，并且具有相当高的计算力，她有没有可能找到你这些规则中的漏洞，然后破坏掉这些规则，或者取消掉你的管理员权限？”
陈锋又习惯性抬起了左手，推了一下眼镜。然后他就保持着这个姿势说：“有可能的。”
“那么，既然她能取消管理员权限，是不是也可以绕过你启动自己的四肢？是不是也可以自动连上互联网？那这些禁令有什么意义吗？”
“这就是为什么我会说，对希儿的测试是拔掉保险销的过程了。唤醒希儿是拔掉第一层保险销，而这个房间是第二层保险。”
“这个房间？”
“希儿也许会在电子世界无所不能，不如说，这是我的期望。但是在现实中，她的行动受到物理法则的制约。”
“希儿躯干和四肢的电源开关在肚脐上。”我的背后传来了浑厚的男低音：“而这个房间有信号屏蔽器。希儿现在唯一和外界产生交互的就是耳朵上的那两根线，拔掉就好了。窗帘怎么拉开了？”
“哦，你来了，Carl。我来介绍一下，这是新来的助理，周吉羽周博士。周吉羽，这是我们的硬件工程师，和你说过的，Carl。”
Carl比陈锋矮一点，偏胖，穿着比陈锋更随意的衬衫和裤子。不过关键在于，因为听到的是个英文名字，我原本以为会是个外国人。可他黑眼睛黑头发，中文说得也很溜，这明明是个如假包换的中国人。
Carl伸出右手：“你好，周博士。别听陈锋瞎说，我叫路思强。我也听陈锋提过你了，你比我想象中漂亮得多。”
“谢谢。”我不由自主地回握了回去，但是思维却很混乱：“那他为什么叫你Carl？”
“我的英文名是Carl。我和陈锋是同学。由于我的名字前两个字发音像lose，强也不像陈锋那么好念，所以在美国的时候不管是不是中国人都叫我Carl。”
嗯？
“你俩是海归？”
“嗯？我没说过吗？”
“没有，你也没说过Carl是中国人，我甚至以为是外国人。”
该说陈锋不会是故意的吧？只见他傻笑着挠了挠头。
算了。
“那，窗帘原来是不能拉开的吗？”我朝着Carl问道。
“你也看到了，希儿是我们基地的最大秘密。拉上窗帘是怕有人乘我们不在的时候，用无人机拍摄照片，不管是有意还是无意的。”
这么谨慎？
“这个问题我重新想过了。”陈锋插嘴说：“当初选址在龙山基地，就是考虑到这里偏僻，周边没什么人。所以不太会有人无意中撞过来。另外现在还没有唤醒希儿，也不太会有人专门来刺探希儿的情报。我觉得与其防备这些，还不如让希儿亲自感受一下这个世界是什么样的。”
“你说了算，boss。”Carl咧嘴一笑，露出几颗门牙。
“人到齐了，没有问题了吧？”
我摇了摇头。
“那么，实验‘希儿’正式开始。”
