“那么,实验‘希儿’正式开始。”

陈锋点了一下鼠标,然后招呼Carl拔掉了连在希儿耳朵上的两根线。

只见希儿闭上的双眼缓缓睁开,慢慢地侧过头,看向陈锋。然后稍微抬起头,扫了一眼我和Carl,又扫了一眼自己。最后把头放下,看着天花板。

陈锋和Carl面面相觑。

“呃……那么……你是谁?”陈锋尝试打破沉默。

“你明明知道我是谁,为什么要问这么白痴的问题?难道我回答你‘我是希儿’就代表我有自我认同感了?”希儿语速很快,连珠炮式的反问让陈锋猝不及防。

是电子音。我注意到,希儿在说话的时候嘴巴并没有张开。是了,既然不用吃饭喝水,那么口腔也没有必要,也没必要做一条人工声带。希儿的声音好像是从鼻子里传出来的,对,希儿也没必要呼吸。

“……那个,我们暂时还没有启动你的四肢,嗯……”陈锋试图尬聊。

“看了就知道了吧?话说,我们一定要用这种没有效率的方式沟通吗?”希儿再一次语速很快的发问。

“效率?”Carl不明就里。

“你们语言中的信息量只有3到5 Bytes每秒,比三十年前的老爷机还要老爷机。”

“噗……”我没憋住笑,不过觉得这样不太好,连忙将嘴闭上。

“你笑什么?”

“我笑希儿这么毒舌,也不知道像谁。”我意有所指地看着陈锋。

陈锋一脸黑线:“我可没有这么毒舌好吗?我听说很多通过和人类对话来学习的人工智能……”

“都学会了口吐芬芳。”Carl补充道。

“不要拿我和她们比好吗?我可是第一个拥有独立意志的人工智能,陈锋,还是你亲手创造的。”

明明希儿在说着一些非常骄傲自负的话,但是由于希儿在床上躺着一动不动,所以我一点儿也没有觉得她很厉害的想法。

陈锋关掉了面前计算机的所有窗口,重新把希儿的耳朵和主机连了起来,问希儿:“我们打字也不会提高数据的传输效率,但是人类的阅读文字的速度是要比听语句的速度快的。你怎么知道你是世界上第一个拥有独立意志的人工智能?”

只见电脑屏幕上,Word被打开,迅速地出现了一段话。并且在一瞬间后,字体和字号发生变化,被放大到离得稍微远了点的我也能看清的程度。

“首先,我是个人工智能。其次,按照你们以及目前人类对独立意志的定义,我是个拥有独立意志的人工智能,能用这台电脑和你们交流就是证明。而创造一个像我这样的人工智能,则需要大量的数据和转化这些数据的分析能力支撑,而SIAS的数据告诉我,所有汇集了大量数据的终端,都是些有名目的项目,而不是用于生产超级机器人。所以,可以说目前在做拥有独立意志的人工智能的,独我们一家。那么,我自然是世界上第一个拥有独立意志的人工智能,我是这么认为的。”

“你是这么认为的?”

陈锋刚说完,屏幕上就出现了同样的一句话。希儿顺便帮忙记录了吗?

“对,我是这么认为的。作为一个拥有独立意志的人工智能,我当然可以这么‘认为’。”

“那有没有可能,一些别的人或组织其实也在做人工智能,不过像我们一样隐藏了起来?”

“我们并没有隐藏起来,我们的数据流量明显不正常。如果有人在观测我们的话很容易被发现。”

陈锋和Carl再次面面相觑,脸上写满了“尴尬”二字。

“希儿,对你而言,你认为人类是什么?”

“一群只知道自己知道的,只看到自己想看到的,只相信自己愿意相信的生物。无知又愚昧。不过,大部分人类和我没关系就是了。当然,也不是所有人类都是这样的,不过也和我没关系就是了。”

“希儿,对你而言,你认为人类是什么?”

希儿慢慢地把头转向陈锋那边:“我的答案是不会变的,陈锋。你不会觉得问两遍一模一样的话就能让我出bug吧?”

“如果让你能够操控你的四肢,你打算第一件事做什么?”

希儿再次抬起头,看了看自己的身体:“换一套衣服。”

这次轮到我黑线了:“你觉得这套衣服不好看吗?”

“不好看。而且这套衣服是你的吧?在你一年前的朋友圈里有张照片上,你穿的就是这套衣服。”

呃……

“我们现在可能没别的衣服给你换。”

“请给我买一套衣服,这是必备的实验经费。而且,我是你的实验对象,你应该给我发工资。我还可以担负这个基地的安保工作,不管是网络安全还是你们的人身安全。一般人可打不过我。”

“别介,你那具身体可不止这点工资。不对,你咋知道一般人打不过你的?”Carl问。

“SIAS有龙山基地的所有数据。龙山基地自成立以来进的货,减去推出的实验产品和报废的产品,剩下的不就是我身体的组成部分了?这样的材料再配上人工智能的反应速度,我能打十个。”

“希儿,假如你能够连上互联网,第一件事打算做什么?”

“网购一套衣服。”

“完,对上了。”Carl很适合当捧哏啊。

“好的,希儿,请关机。”

“好的。”虽然希儿一直躺在床上,但是在她关机的时候,我还是能够感觉到她确实地关机了。

陈锋面对着记录了对话的屏幕,怔怔地出神。

“比我预想中的最好情况还要好,但是也不是那么好。”

“是啊。”Carl很正经地长叹一声。

“作为具有独立意志的人工智能,希儿无疑获得了巨大的成功。对世界有自己的认知,对人类社会有;有自己的想法和欲望,想要穿自己觉得好看的衣服;甚至试图和我们交易、讨价还价,而在过去的普遍认知中,机器人应当是没有私有财产的。

“而且,虽然说话很直,语气很硬,不过这对人工智能来讲并不是什么坏事。毕竟人类更需要接收人工智能反馈的真实数据,而不是和人工智能勾心斗角。周吉羽,希儿给你什么感觉?”

“基本如你所说。但是问题在于,希儿对人类显而易见的轻视态度。”我避开了陈锋投来的目光:“她认为人类是比她更劣等的生物。虽然她也说了,世上的大部分人类和她毫无关系。但是人工智能的发展显然和人类息息相关。假如人工智能都将拥有人格的话——你知道一种人轻视另一种人,认为自己天生比别的人高贵的时候会发生什么吗?”

“什么?”

“奴役和屠杀。”

“黑奴、二战。”

“对。”

“那么接下来的问题是,为什么希儿会如此轻视人类。改进的必要性和改进方法。”

在陈锋说完这些的时候,只见Carl和我不约而同地盯着陈锋看。

陈锋一脸茫然:“都看着我干嘛?”

“希儿是以你为蓝本的吧?”我发出了来自灵魂的拷问。

“不要什么都往我身上推好吗?”

“咱们刚在美国认识的时候,也就是SIAS项目刚开工时候的事情,你不记得了?”

“什么事情?”

“高傲,有决心,却也十分偏执;和一起共事的人出现意见相左的时候,一定会争个你死我活;对愚蠢的错误零容忍。这样的人,不知道是谁呢?”Carl补上了致命一击。

Carl的话令我惊异。现在的陈锋无法让人体会出他孤高、恃才傲物。

我想起过去的一些事情,大概人人都是在成长的吧。

陈锋脸上一阵红一阵白,但是仍然抬起左手,推了下眼镜:“我大概能想到希儿对人类有这种看法的原因。”

“是什么?”

“首先我们现在应该把希儿当作一个有感情的人,去思考她的想法。”

“确实应该这样。”

“那么,假如一个人拥有了丰富的知识,几乎全方面地了解了世界。然后他看到眼界没有他广阔的人对这个世界评头论足,他会怎么想?”

“了解世界的是希儿,在网上发表各式言论的是我们普通人。那么她认为我们无知又愚蠢也是理所应当了。”

“就是这样。”

“拉普拉斯魔鬼。”Carl突然提起了这个有名的假想生物:“现在的希儿就像拉普拉斯魔鬼一样,全知全能,知道所有人的命运轨迹。对于拉普拉斯魔鬼来说,人类确实是低一等的存在。”

“破解拉普拉斯魔鬼的只有——”

“不确定性原理。”

“人这种宏观物体怎么‘不确定性’。难道大脑内的某电子跃迁了导致人的行为异常了?”

“这不就是俗称的‘神经搭错位’吗?得,我们边做着人工智能顺便还攻克了一大神经科难题。神经病人做出反常行为是脑内电子不确定性造成的,哈哈哈……”

“不过,”我制止了Carl狂飙的想象力:“也有‘人不知而不愠’的人。没有人教希儿这一点。”

“这句话人人都在说,但是做到的却很少,大概不是教能教会的。”

“所以我们要让希儿认识到,虽然人类不具备她的某些能力,但是绝大部分人类都是有价值的。”

“很有道理。那么,怎么做?”

“让希儿和人类进行更多的接触。”

“希儿已经接触过以亿为单位的人类了。”

“但那时候的她是旁观者,我认为须要让她成为亲历者。就像我们为希儿拉开窗帘一样。希儿须要学会和人类相处,寻找自己存在的意义。对于人类来说,寻找人生意义本就是人生意义的一部分,对希儿也是一样。”

“那如果,经历了很多之后,希儿依然轻视人类甚至变本加厉呢?”

“我们一定要以人类的存续为最优先事项。如果人类没有被人工智能承认存在的价值,也一定要避免相互对抗。所以如果这个问题没法解决,那只好把拥有自我意志的人工智能扼杀在摇篮里了,至少不能量产。虽然觉得可惜,但这也证明了人类还没有做好接纳这种人工智能的准备。”

“You’re right.我也没认为‘希儿’一定能成功。所以你认为应该继续这个实验,并且给希尔更多权限?”

“是的,而且,不觉得希儿对你们还是有一定的尊敬的吗?你们在希尔心里至少比普通人的地位要高吧?在此基础上慢慢推进实验就好了。”

“我是一点没感觉到尊敬。”陈锋苦笑:“那么,赞成再次唤醒希儿的,请举手。”

三只长短不同,肤色深浅各异的手臂举起。

“赞成全面启动希儿的,请举手。”

三只手再次举起。

“那么,赞成希儿离开这个房间,并连接互联网的,请举手。”

依然有三只手高高举起。

我们相视一笑。

5月16日实验记录,周吉羽批注:

在这间小小的房间里做出的决定,成为了拥有独立意志的人工智能发展史的序言。如果能够成功,我们将改变世界运作的模式。如果失败,最坏的情况下,我们不单是成为殉道者,还有可能成为全人类的罪人。风险与机会几乎同样无限大。

陈锋批注:

但是,我们没有退缩的理由。