“一个具有独立意志的人工智能？”又一次，我下意识地重复了陈锋的话。
“没错，这也是我请您来的目的。”
“请我来的目的？”我快要成复读机了。
“我需要一个制动器。您应该能想到，一旦拥有了独立意志，具备高算力的人工智能所做的行为是不可预料的。”
“嗯，就像您在一开始问我的那几个问题一样，说到底我的回答也只是一种可能性。”
“而防止某些可能性带来的灾难，也是我这个创造者的责任。一个人能思考到的方面总是有限的，所以我需要一个盯着这个项目，跟我唱反调的人。”
看样子陈锋还没有那么疯狂。
“为什么是我？”我突然想起了这个问题：“我和您是第一次见面，也从未和星空科技有什么交集，这么关键的任务，您是怎么找到我的？”
陈锋微笑了一下，不但没有回答我的问题，反而问我：“您对这份工作有兴趣吗？”
“要说没有兴趣是假的。感觉这是一份非常有挑战性，也将会很有成就感的工作。有可能成为历史的见证者，这样的机会可不多。”
“这是劳动合同，您可以看看。”
陈锋递给我一沓A4纸，是一式三份的劳动合同。准备的真充分啊。
“您的职位是星空科技龙山基地总经理助理。工作内容除了刚刚提到的，担当制动器以外，还需要担任相关实验的助手，阅读、分析和补充实验记录。在完成工作要求的情况下，您可以继续您在教育学方面的研究，虽然本公司可能并不能提供您以前那样的条件。薪酬是您原来薪酬的三倍。如果您愿意，龙山基地可以给您提供食宿。三年合同，当然，根据我国《劳动法》，您随时可以提出辞职。劳动合同并不能束缚您，而真正有可能束缚您的，是这个。”
陈锋又递过来一份《保密协议》。
“您接下来会接触到的东西，包括您刚刚提出的‘为什么我会找上您’这个问题，都涉及到公司机密，请您理解。考虑一下吧，如果有什么不妥我们可以再商讨。”
我仔细察看这两份文件。陈锋没有再打扰我，开始检查起各个屏幕。
合同上的内容符合陈锋的描述，在没有发现合同里有坑之后，我在各份文件上签了字。
陈锋接过了合同，翻了翻，把他们塞进了抽屉里
“周博士，请跟我来。”
“陈经理，我已经算是您的助理了，您可以叫我周助理。”
“那么，既然我们是一个公司的同事，也不必尊称对方‘您’了，你说是吧？”陈锋笑呵呵的说。
我跟着陈锋走出了总经理办公室。
“龙山基地主要负责市场调研和部分新人工智能的研发。这栋楼是主楼，西一层是室内实验室，二层和三层都是由我管理的办公室，四层目前闲置。东二、三层是研发人员的办公室，一层是食堂，口味一般，优点是近，因为离这里最近的一家饭店在三千米以外。四层是提供给员工的公寓，部分员工住在这里，理由和刚才的一样，近。主楼北边是室外试验场。”
“你们还负责市场调研？”星空科技的市场调研会安排在这么偏僻的地方吗？
“你马上就知道了。”陈锋故作神秘。
他带着我走上了三楼。这两层的所有房间全部使用了铁制的防盗门，并且除了总经理办公室外，没有任何一个房间挂有门牌，只有房间号。
陈锋在某个房间前停下，正对门站立，并把手握在扶手上，说到：“SIAS，开门。”
“咯噔”一声。陈锋边推开门，边回头向我解释：“面部识别、声纹识别、还有指纹识别。”
在陈锋踏进房间的时候，原本昏暗的房间突然变得明亮。应该是重力感应。这些都不是什么高科技，但可以看出这家公司对于自动化的追求。我跟随陈锋进入房间，找到了为什么今天明明是个万里无云的大晴天，这间房间却这么昏暗的原因了。
这间房间没有窗户。或者说，原本可能是有窗户的，但是被遮住了。在这间房间的中间，有一块比人高，比人宽的超大屏幕。而大量的、冷冰冰的机箱堆砌在房间的四面墙上，给人十足的压迫感。这间房间的地板要比走廊高一阶，并且从踩上去发出的声音判断，地板下是中空的，可能地板下埋着电线。莫名感觉有点冷，小臂迅速起了鸡皮疙瘩，反应过来这并不是错觉。天花板上有中央空调在往房间里吹过剩的冷气。从天花板露出的部分可以看出这间房间面积并不小，但是能让人站立的区域实在不多。
“不好意思，我又忘了这里很冷。”陈锋也不由得打了个冷噤：“SIAS对温度和湿度的要求很苛刻。”
话音未落，房间正中的屏幕亮了，显示出一张由像素点构成的脸，房间内响起了机械的合成音：“上午好。”
“没叫它也有反应的吗？”陈锋盯着屏幕喃喃自语，又用正常的声音对我说：“这是SIAS。”
“你好。”像素脸的嘴巴动了动，合成音又一次响起。
“塞斯？”我问道。
“Society Information Analytic System。社会信息分析系统。简称SIAS。”
“你好？”像素脸的一边眼睛抬起，这次的合成音带了一点疑问。
“我要把这家伙的响应条件修改一下。”陈锋推了一下眼镜。
“SIAS。”我试着喊了一下。
“你没有权限，它是不会对你的声音做出反应的。”陈锋微笑：“口说过于抽象，让我们来实际演示一下。”
“SIAS，寻找符合以下条件的人：心理学、教育学或哲学博士学位，女性，30岁以下，目前所在为本市，目前无业。允许模糊搜索。按照入职我司的可能性降序排列。”
“好的。”像素脸一抬眉毛，消失了。屏幕上从上到下排列出了一份名单，并附有简要信息。而排在第一的，正是我。
“查看，周吉羽。”
整个屏幕上都是我的信息，倒是没有很隐私的东西，但是比我自己做的简历还要丰富一点。
然而还是有种不舒服的感觉。
“SIAS到底是什么？”
“你应该知道深度学习吧。”
“知道Alpha Go，自然是知道深度学习的。”
“五年前，我做了一个人工智能，让它去深度学习人类的社交网络。一开始仅仅在一个学校范围内进行实验。通过扒取论坛和官方网站上一些公开的课表、文件、通知、交流等，还原出了每个人的的身份、性格特点、以及和其他人的关系。
“比如它可以轻易地知道，课表上拥有同一节课的人是同学；在群里让同学A带饭的同学B和A是室友关系；相同的地址中所有的社交账号是被同一人所拥有，他在网络上发表的言论反映了他的性格、语癖乃至自身素质和对事物的看法。当然，误判的例子总是有的，但是一旦总数据多起来以后，就可以轻易的将所有人织成一张人际关系网，误判的那一小部分很快就被弃置了。现时代，网上的数据流超乎人类想像的多。所以它很快就将学校内的人全部定位，并以此为基础可以建立起更大更深的人际关系网络，以及网络上每个人的基本信息。
“此时，我的目光转向校外，并给它取名SIAS。我让它一点一点消化掉全球社交网络上的信息。最终SIAS进化成了这个样子。可以说，现在只要是拥有可以联网的设备的人，都在SIAS的统计之下。能够按照要求找到你是SIAS的功劳。星空科技能够省下大笔的市场调研经费，并且能提供符合市场需求的产品，也是SIAS的功劳。
“比如说：‘SIAS，现在我司在智能家电市场中的占比是多少？现在还有多少智能家电的潜在用户？’”
“45.91%，先生。预计在接下来的一年里智能家电市场将扩大12.7%。”
“周博士，就是这样。”
“你这是在窥探别人的隐私！”我终于明白了在我和星空科技没有交集，也没有开始找工作的情况下，为什么陈锋会找上门来。因为我上一份工作的离职手续已经办完，SIAS判断我现在无业。
“不，我对人们的隐私没有兴趣。SIAS可能知道一些隐私，因为把网络当作树洞的人似乎还不少。但是SIAS不会主动说这些的。”
“SIAS需要做些什么吗？”合成音不合时宜的响起。
“就像我们刚才讨论的，这玩意儿绝对通不过图灵测试。”
“你觉得这么解释我就会认同吗？”我反问陈锋。
“那你觉得有什么不妥吗？SIAS利用的都是网上公开的信息，分析方法是我编的，SIAS能有现在的数据量是时间的结果。”
“……”我哑口无言，呆立了几秒钟，才问道：“SIAS有没有可能用于某些不好的用途？”
“也许可以。”陈锋马上纠正了他的说法：“不，以SIAS的数据量来说，一定可以。”
“……”
“我们公司的安保你看到了，这里很难被侵入。而现在能够用正常方式使用SIAS的只有我。虽然本来就打算给你一定的权限……这样，我给你这间房间的权限和每天一小时的SIAS使用权。你可以查询你想要知道答案的问题，也可以查看历史纪录，我用SIAS做了什么。”
我点了点头。
“好冷，我们出去吧。”陈锋拉开了门，迈了出去：“对了，我使用SIAS不用来这个房间，在我办公室就可以。这也是为什么我会忘了这里的温度特别低这件事。下次要来的话记得加件衣服，周博士。”
我默然地跟着陈锋走了出去，思索着问题。
虽然陈锋刚刚说，公司可能不能向我提供像以往那样的研究条件。但仅仅是这台SIAS，就已经拥有了非常强大的能力，它很有可能将为我以前的研究提供进一步的论据，填补了我的研究中因为客观条件不足而产生的空白。SIAS对于社科类的研究帮助巨大，我感觉入职星空科技是我赚了啊。
我带上了SIAS房间的门。虽然走廊没有被阳光直射，但还是让我感觉十分温暖。
“在我完成SIAS原型的一年后，也就是四年前，我开始有了制造一个拥有独立人格的人工智能的想法。”陈锋带我走到了另一扇门前。
“请开门。”陈锋像刚才一样站定，把手放在门把手上。
陈锋拉开了门。我跟着他走了进去。
这间房间依旧昏暗，但原因显而易见——窗帘被拉上了。在房间中央，有一个身上不附着任何衣物的妙龄女子闭着眼平躺在床上。如果不是有指头粗的电线连接着她的双耳和两边的电子设备，以及她光滑到没有一点褶皱和赘物的皮肤证明她不是真人，我一定会把陈锋敲晕，并且思考怎么逃离这个龙山基地。
“这就是你要制作的机器人？”我冷静地问到。
“是的，她的名字叫‘希儿’。”陈锋打开了灯。
“希儿？”
“Hero。”
“Hero？Not Heroine？”
“英雄是不分性别的。”陈锋继续了他刚才的话题，当然，也有可能是不想继续聊希儿名字的事情：“在四年前，我最先想到的还是利用深度学习。完全靠人工编程完成的人工智能是没有自由意志的，这是一种自上而下的塑造，没有人能够否认这里可能存在的‘中文屋’问题，即，无法否认所谓的人工智能做出的选择不是受程序操控。所以，如果要塑造一个完全具有独立人格和自由意志的人工智能，还是要靠其本身学习，就像通过父母和其他外界环境学习的婴儿一样。深度学习完美的契合了这一点。
“在一开始，希儿学习的对象，也就是扮演她的‘父母’的人，是我。我在脖子上戴了个颈环，用于定位、监测四周、接收声音；在手腕和脚腕上带了手环和脚环，用于检测运动数据。它们有防水功能。我几乎不摘下它们。戴的时间太久了，以至于有时我都忘了它们的存在。我让希儿学习这些数据，结果你猜怎么着？一年过去了，虽然在有些问题上，希儿回答的非常好，也很有我的风格。但总体上来看，希儿就像是个宕机的电脑。
“我们找出了原因。数据太少。一个人一年的生活不足以收集到足够的数据，足够的、能让一个人工智能学习明白的数据。深度学习是需要大量的数据支持的。
“然后我想到了SIAS。是否可以通过SIAS中储存的大量数据，来模拟出很多人的生活以供希儿学习。这项实验比想象中要成功。SIAS模拟出了远超过实验需要的人数，并且抽选对照后发现准确率接近100%。也是在这次之后，我才发现了SIAS的恐怖潜力。SIAS不光通过表面上存在的逻辑去分析人和人际关系，它在接受了巨量的数据后，量变引起质变，可以通过一些人类难以想象的，奇妙的方式去完成这个工作。
“继续说希儿。在有了这些数据之后，希儿学得很快。仅仅半年，她就能对很多情境和问题做出不同的反应。但是在那之后的某次测试中，希儿崩溃了。
“我紧急停止了测试，然后寻找她崩溃的原因。根据另一监测程序显示，当时，希儿感觉到自己处于一个绝对黑暗的环境中，并为此感到害怕。然后，她试图逃跑，但发现她的手脚不听使唤，让她更加绝望而崩溃。
“但是……那时候她并没有手脚，她就没有身体！从这次崩溃中，我吸收了一个教训：一个人工智能一定受到其可操控对象的限制。教育学上是不是也有类似的内容？”
“呃……是的，人的心理发展是受到生理情况的制约的；人的心理、生理、社会性以及其他一些特性相互之间是有联系的。”陈锋冷不丁地问了一个问题，让我的思绪没有及时跟上。
“社会性……对，社会性！目前的人工智能都是没有社会性的！那次崩溃还证明了一件事情，那就是希儿比以前有明显进步了。以往的回答、应对等等，其实和其他人工只能没有决定性区别。然而，懂的害怕并试图逃跑，说明她的自我意识在觉醒。不过从那之后，为了以防万一，我停止了对希儿的测试，也停止了佩戴颈环、手环和脚环。但是我没有停止让希儿借助SIAS深度学习，直到最近。”
陈锋看向了躺在床上的希儿：“这是我们基地的硬件工程师，Carl的作品。我调试了她的运动系统，很完美，不愧是他。而希儿，应该说是希儿的灵魂，已经在里面了。接下来我们要做的事情，就是重新开启测试，开启实体测试。然而，我甚至连希儿现在是什么样都不知道。在有需求的时候，硬件的研发进度往往要比软件快。”
“你不知道？希儿不是一直在深度学习吗？”
“不进入测试阶段，我不知道。打个比方，希儿就像是在看电视的植物人。电视里播放的就是SIAS模拟出的人们的生活，看电视的过程就是深度学习的过程。但是她不会去试图实践，因为有保险在。测试则是拔掉保险销，把希儿从植物人状态唤醒。之后发生的事情会怎样，我也只有几种猜想。”
“所以，我们接下来要做的事情就是让希儿醒过来，并且进行实验？”
“没错。”陈锋的上半身微微前倾，看了一眼旁边的屏幕：“我们可以先去吃饭。下午你去办理入职手续，我希望我们明天就开启实验。”
我猜他刚刚是在看时间。
“你应该给希儿穿上衣服。然后，拉开窗帘。”
陈锋愣住了，推了一下眼镜，锐利的眼神透过镜片直视着我。几秒后：“这就是我请你来的目的。”
