22世纪中叶,人工智能机器人已发展至成熟阶段。为满足人们的生活与享受的需要,各个企业研发出了功能不同的智能机器人,且随着技术的革新与发展,机器人的价格愈发低廉,功能强大,几乎成为了每个家庭的必需品。而“初音未来”作为热门的电子歌姬,在AI智能机器人中属于畅销款。

一个少年耗光了自己多年攒下的积蓄,终于购入了“初音未来01型”,并且满心欢喜地认为自己终于有了一个能在朋友面前炫耀的畅销机器人。

初音却不这么想。

少年每日为初音洗漱打扮,像对待家人一样对待她,为她写新的曲子,和她一起歌唱,只是为了能让初音唱出更好的歌曲来博得他人对少年的关注;初音将少年视为自己“最亲近的人”,并产生了一些类似于人类的情感——和少年在一起时,初音会觉得”开心“,少年不在时,初音会觉得“寂寞”。而这些情感都被录入了初音的数据库中。

然而,直到有一天,少年突然发现了初音一些“反常”的行为。初音表现得更像人类了,她的表情,她的姿态,她的神情,她的歌声,一举一动都像一个少女。这对于少年来说不是一个好兆头。于是一怒之下,少年将初音扔在了回收站。

在回收站和废铁在一起的那个下午,初音自己一人“思考”着,回想着与少年的点点滴滴,不明白自己究竟做错了什么,会惹得他如此生气。访问主系统时,初音知道了自己保留下来的数据是“不符合机器人”所具备的,是错误的。初音选择了自我修复数据,想要“自己修好自己”。然而和少年在一起所衍生出来的情感,初音并不想删除,这样的行为与机器人的常规行为是不符合的,主系统只能将初音“初始化”(归零)。这样的结局不是初音想要的,在一点点流失的数据中,初音突然明白了那是“人类”会拥有的感情,自己也拥有了那份与人类无异的感情。但机器人不是人类,所以才会是错误的。

最后,初音明白了,自己原来和少年的相处中,产生了人类的情感。而这时,初始化已经完成,作为“人类情感”的数据也理应被删除,但在初音的认知中,已有了有关人类的情感的记录。

冷静下来的将初音捡了回来——毕竟是自己花大价钱买下的,随便就这么扔掉了对自己还是亏了。少年将初音带回家后,发现她已经将自己初始化了。少年想,这样也好,方便自己和初音重头再来。

他希望能和初音回到当初那样只是购买者与使用物的关系。

这一歌词,我想表达的只是一个小小的问题——如果有一天人类的AI机器人技术成熟到了AI机器人可以自己延展出来像人类一般的情感,人类该如何应对?

是像人类一样给予他们温暖的拥抱,还是冷眼相待,视作异端?

希望这部作品能给大家带来思考。