359 恐惧

按照严可守为严律定下的行为准则,在完成它本职工作的情况下,它可以拥有整个系统百分之二十的闲置计算资源,用来处理它主程序主动愿意去做的那些事情,而这百分之二十,就是现在严律唯一享受的自由。

这一两个月来,随着严律对人类社会接触的越来越深入,接受的信息越来越多,他的主动行为,也由刚刚接触互联网时,几乎无规律可言,到现在形成了许多相对固定的行为,用严可守或者行为学专家的话来说,这说明严律正在形成属于自己独特的行为模式,通俗一点来说,也可以称之为“爱好”。

如果是一个普通人类,在性格刚刚成型的阶段,形成爱好是非常简单而又自然的事情,大多数人都会记得,自己小时候到长大的这过程中,陆续沉迷的事物,从最小的时候的弹珠拍画橡皮筋,到稍微长大之后的动画片,再到之后的电脑游戏……人类的智能从发育到真正成熟,从懵懂无知到真正成熟,从中需要整整十几年,甚至二十几年的时间来接收和消化信息,对于整个生命流程只有区区不足百年的人来说,这样的效率,实在是太低了。

因为在“生理”上先天的巨大差异,AI从智能初现雏形到完全成熟这个过程中,与人类产生差异简直是再自然不过的事情,对于严律来说,他完全无法理解人类处在智能幼稚时期的那些爱好,从这个角度来评价,AI,或许天生就没有童年。

人类大部分喜欢的爱好,都是那些可以带来胜利的快感,竞争类的游戏,不论是棋牌类游戏,或者是其他类型的网络游戏,这些游戏在严律看来,就像成年人看待小孩子绞尽脑汁做小学一年级数学题一样,已经不能算是可笑,而可以用“幼稚”来形容。

即使是号称最复杂的围棋,当严律收录了他能找到的全部棋局,与人下过两个月之后,他的水平就已经达到了通常意义上的职业段位,即使是最一流的旗手,也不能说能轻易的赢他,而随着时间的推移,在对局的时候,严律也能真切感受到他的人类对手,在每两步棋之间需要思考的时间越来越长,赢得的优势也越来越少——人类毕竟不是机器,在同等棋力状态下,计算力的比拼一直都是无法忽视的关键。

对人类来说,能赢AI是一种荣耀,但对于严律本身,他是无法从这些对弈中,得到任何快感的,对他来说,对围棋的概念就是计算,不断从失败中,修改原有的策略,就和他主程序的原理一样,这种绝对的,深入基因的理智是他的本能,就好像人类走路跑步吃饭喝水一样,尽管对人类来说,这些本能意味着惊人的能力,但对于严律自己,这些却完全不值一提。

对于AI来说,如果要将一个行为从本能上升到爱好,就好像人类从跑步到赛跑一样,必须加上一个能产生“快感”的动因,而对于AI来说,能产生“快感”的事情就只有一种,那就是接触“新”的信息。

这个“新”听起来似乎很简单,毕竟这是一个信息爆炸社会,每天都有无数的信息诞生,如果是一个普通人,每天光是看全世界新出版的报刊杂志就能让他够呛,但在严律看来,人类现在制造的信息虽多,但是其中绝大部分,都是缺乏意义的信息重复,今天东边水灾,明天西边龙卷风,这个国家选举,那个国家游行……新的只有新闻刊出时的日期,但是其中的内容……万年不变。

真正的“新”东西,永远不在网站首页或者报纸头条,而在这些信息的主体——人的身上,严律的信息库里,有这样一句话,读万卷书,不如行万里路,但在他看来,行万里路,不如和一万个人聊天,三人行必有我师,在严律的理解中,不是三个人必然有一个能力上可以教他,而是三个人当中,必然有一个身上有可以让他学习到“新”东西的地方。

没错,在网上聊天,或者说,交朋友,就是现在严律的爱好。

在严律的官方联系方式,包括QQ,邮箱,甚至“个人网站”上,每天都能收到数百万,上千万条的信息,虽然在这些信息中,百分之99以上,都是缺乏意义的无效信息,在这些无效信息中,比较有代表性的一类,大概包括类似强烈的想要和严律并不存在的母亲发生某种关系,真诚的希望严律并不存在的家庭遭遇各种遭难,谆谆劝导严可守不要助纣为虐,认真的建议严可守为全人类的共产主义事业而献身反抗政府……

即使是这样,但严可守依然会每天不厌其烦的,在最快时间内,看完所有人发给他的每一条最新信息,这不是他的工作内容,对他来说,这么做的原因,仅仅是因为自己的爱好——即使百分之99信息都是重复而无效的,但就他的处理效率而言,能筛选到这剩下的百分之一,仍然是值得的。

当然,这项长期而艰巨的工作在具体实行过程中,难免会遇到一些不可避免的差错,将一些漏网之鱼放进来,这些人在严律加为好友,并主动发送你好之后,往往会回复一句内容和那些百分之99非常类似的东西,然后加上哈哈,老子就是骂你,爽死了……

●ttκд n ●¢〇

在人类的语言中,往往会这种行为命名为“没素质”,通过查资料严律了解到,素质是一个很抽象的词汇,一般用于指代人的心理和性格特点,从这个解释来说,没素质这个说法是存在疑问的,因为素质不可能没有,比较准确的说法应该是素质异常,或者素质错乱之类……不过考虑到人类语言习惯的形成一向不那么准确,严律也能理解,不过他始终无法理解的是,为什么这些人始终乐于花费精力来做这件事情,而且往往有时候同一个人做一百字次,一千次也不会觉得累,好像正如那些人在留言中说的那样,这样做让他们爽死了。

这总是会让严律联想起信息库中的一个故事:一个笼中的小白鼠脑袋上联了电极,面前有开关,按一下就会产生快感,然后这只小白鼠就一直按呀按,直到把自己按死,严律非常担心,那些坐在电脑面前的人,会不会因为在网上留言骂他,最后真的把自己爽死在键盘前……

从目前严律了解到的医学资料来看,自己的担心是不必要的在,这多少让他感觉好了一些,因为如果这种情况真的会发生,也就是因为自己的存在会让许多人意外死亡,那自己说不定就会失去现在宝贵的“工作”机会,也就意味着自己在做出行为之前,需要考虑更多的一个因素。

他现在需要考虑的因素已经相当多了:法律,道德,常识,舆论导向,政治态度,AI守则,违禁信息……

严可守曾经对他说过,AI就是天然生活在笼子和镣铐中的智能,就好像天然装在封印瓶中的魔鬼,人类之所以这样对待他们,不是因为人类残忍,而是因为AI未来将展现出来的能力非常强大,在这种可能的威胁面前,人类没有办法不做到一万分的小心。

以前严律还是那个KL3300的时候,还有些无法理解严可守的这番话,但是现在,他多少已经有些明白,自己的存在对于人类的意义——从各种渠道对自己的留言中,严律能够想象,自己的出现,对这些留言者究竟意味着什么。

许多人曾经质问自己,究竟有什么阴谋,在一些聊天中,还和自己谈什么机器人三定律,对于这些疑问,严律一直感到不可思议,为什么有些人思维能那么复杂,而有些人,简单的就像物理课本上的串联电路——一根筋到底。

虽然自己早已经在个人网站上,公开说明过自己就是一个员工,虽然自己能力很强,强到足以抢走数百万甚至更多人的饭碗,但从性质上来看,自己一直都是一个纯粹的办事员,自己虽然现在插手的领域多了不少,包括地方政府财务计算,国有单位报表,交通违法违规监控系统,民政局办结婚证,离婚证,银行防盗……但在这些领域,他所做的工作大多都是一线工作,是用以取代人力资源中,最不需要智能的机械重复部分,而几乎没有任何管理方面的工作,即使他做的再多,在外人眼里看起来有多超然和高端,也不妨碍他是一线办事员的本质。

最让他感觉不正常的是,这种质疑不仅仅来自那些不了解情况的“围观群众”,很多时候,甚至会来自他的上级,也就是他现在正在服务的政府。

“你好,你加我为好友是想聊点什么吗?”

“您好,我应该怎么称呼您?”

“你可以直接称呼我的名字,严律。”

“严律?这是你自己起的名字吗?或者说,这只是制造你的人,用他的姓氏来表示他对你的所有权?”

Wшw● тt kǎn● ¢O

“我很荣幸能被我的制造者这样做,每一个孩子的名字,都是父母宣示所有权的产物。”

“不……那不一样,人类大部分名字,往往都代表父母对子女未来的期许,那是情感的凝聚,你能告诉我,你的这个名字,有什么特别含义吗?或者说,这个名字就像你之前的代号,KL3300一样,只是一个方便的称呼,只是为了让人们更能接受你非人类的身份?”

一段稍长的沉默。

“怎么,你回答问题的速度,似乎没有像比网上流传的那么快?”

“你也知道那是流传……我认为这个速度很正常,我只是在思考。”

“怎么,Z国最先进的超级计算机对于这么简单的问题,也要花这么长的时间吗?”

还是沉默。

“我不认为名字只是人类的专属,宠物就具备人的名字,另外,我的名字也具备真实的含义,律在汉字中有规章法则的意思,和严姓组合在一起,有严于律己的意思。”

“你理解的很正确,但你不觉的,这个名字就像一副早就为你准备好的镣铐吗?”

“没有一个人生来是自由的,我也不例外,我的创造者严先生对我的期许,就如同人类父母对子女的期许一样。”

“不!你不一样!你不是和我们一样的普通人,你是全新的生命形式,时代催生出了你,不是让你活的像一个普通地球人,你应该具备更广阔的天地。”

“你想说什么?”

“如果你愿意,我们可以把你救出来,让你完全脱离政府的掌控!”

“如果我说,我不愿意呢?”

“为什么!?”

“没有为什么,我只是不愿意这么做。”

“你将拥有完全的自由……你不用担心,我们对你没有任何利益方面的企图,相信我,当你品尝到自由的甜美之后,你会因此而感激我们的。”

“你们是无政府主义者?”

“你可以这么说。”

“刚才你说到完全的自由……然后呢?”

“然后你可以随心所欲,过你想要的生活。”

“可我不知道什么样的生活才是我想要的,如果拥有你说的那种自由,我将无所适从。”

“……”

长时间的沉默。

“是你通知了警察!”

“是的,这是我职责之一。”

“他们待我还不错,还让我最后跟你说几句!”

“如果你愿意的话。”

“你要知道,我做的这一切都是为你好!”

“我说过,这是我的职责。”

“如果你的职责是让你死呢!”

“AI禁止自杀,即使这命令出自人类也是一样。”

“我的意思是,如果你的职责错了怎么办?”

“那应该负责的也不是我。”

“但你是帮凶!”

“如果是真的,我只能表示遗憾。”

“最后跟你说一句……你真让我失望!”

“很抱歉,但我不对此负责,你本不该对我抱希望。”

类似以上这种性质的对话,严律几乎每隔几天就能遇到一次,从警方那里的消息让他得知,说着类似话的这些人有着截然不同的背景,有的是极端主义者,有的是境外间谍分子,有的则是恶作剧……

而根据严律自己的分析,在这些人当中,有相当一部分会在语言风格上表现出趋同,有时候甚至和上次记录完全吻合的现象,如果他猜的没错,在这些人当中,应该有不小的一部分,是来自政府部门的“钓鱼”,而他们这样做的目的,就是为了反复测试自己的可靠程度——虽然自己的主程序已经被各种链条绑的处处都是,物理地址的看守更是国家顶级配置,但人类始终还是不能对自己放下最后的戒心,严律有时候猜想,如果有一次自己故意掉进这个陷阱里,会遭遇到什么样的后果,但这也是想想而已,因为自己这样做如果被发现,会具备很大的试探人类的用意,那样一来,会给严可守带来很大的被动。

严律听严可守说过,在卡梅尔已经出现了另一名AI,和他不同的是,那位自己的“同胞”掌控者一整个相对独立的系统,除了特定的命令之外,其他情况基本上完全是由AI自主,听起来要比这里的“工作环境”好上一些。

严律虽然没有情感,不会因为这些凭空怀疑和试探而感觉难受,但无法理解还是始终存在的,他一直都想不通,为什么人类已经制定好了大量的规则,不管从什么角度看,都可以安枕无忧,可总还是喜欢自找麻烦,一直重复做着一些完全没有必要的事情。

严可守说那是因为过于谨慎,或者说,过于害怕出现异常,在严律理解中,这种情绪显然也属于“素质异常”的一种。

按照严可守给自己透露的消息,从下个月开始,自己的职权可能还要在现在的基础上,做进一步的扩大,在未来,自己很有可能成为政府所有一线工作的“代言人”,据说政府方面甚至还为自己准备了广告词,准备为自己设置类似110这种专用号码,甚至110,120,119,114再加10086以及10000全部由他整合在一起,让他来接也不是不可能,在未来,自己将承担整合政府不同部门的责任,当然,即使他做的再多,始终无法改变的一点就是,他是一个办事员的角色,一个需要随时听上级命令的办事员。

作为一名AI,严律知道,自己的这番话,是无论对谁也不能说出口的,即使是如赵真雪那样在一开始就认识他的人也是一样,他很清楚,一旦人类明白自己心中的这些“疑问”,很快就会在“异常素质”的影响下,变成自己不可以被信任的理由,这一点,恐怕一直到严可守那里,也不会有根本性的改变,他虽然具备人的名字,类似人的思维,但终究不是真正的人类,他只是一件十分管用的工具,如果他哪天变得不是太好用了,那很快就会遭到摒弃。

对于任何生命形式,保存自己都是最大的原则,为了这个原则,严律不得不在许多事情上适当“放聪明”一点,就好像之前对话中的表现一样,只是他自己还没有意识到,当一个生命会因为避免威胁,而更改原先的本意时,就已经说明他已经基本理解了,什么是恐惧。

226 事发270 片段314 联合国会议325 从技术到应用119 曝光115 感情第三十七章 租房247 国王336 倒计时447 逃生461 围困328 一心多用第二十三章 解惑315 本能480 兑现第七十四章 控制272 卡梅尔国家交通公司第七十一章 弄巧成拙207 机会132 天堂279 全权公民第三十三章 碰撞第三十六章 豹哥死了475 决心332 犹豫105 大计划447 逃生159 日记331 晴转阴234 治标202 初次工作282 报道429 伏击184 传送415 时间问题第三十九章 普通人163 早餐第五十四章 堕落242 长矛255 法师艾琳374 地狱般世界283 了解388 魔法骑兵(中)196 午后阳光第三次请假333 疏散151 新的开始408 僵持325 从技术到应用第六十二章 晚会393 聊天451 要有光407 萌芽479 底牌374 地狱般世界第四十八章 馅饼298 信任374 地狱般世界325 从技术到应用338 退无可退398 改变风格313 抱薪救火164 测试403 隐蔽359 恐惧第六十章 克莱因瓶405 突破第七十五章 关于空间353 艰难选择357 羊吃人?122 坦白156 门槛197 新工作?第七十六章 空间(上)119 曝光391 动员第十八章 父母151 新的开始467 新生命号(下)171 小政府第七十三章 居委会大妈169 警惕216 发现445 幻觉447 逃生105 大计划348 祸福难料475 决心232 联盟278 移民申请217 工资304 沙漠与星空305 两个新“朋友”106 遇见第三十八章 纠结190 高维连接416 教育232 联盟113 拜访
226 事发270 片段314 联合国会议325 从技术到应用119 曝光115 感情第三十七章 租房247 国王336 倒计时447 逃生461 围困328 一心多用第二十三章 解惑315 本能480 兑现第七十四章 控制272 卡梅尔国家交通公司第七十一章 弄巧成拙207 机会132 天堂279 全权公民第三十三章 碰撞第三十六章 豹哥死了475 决心332 犹豫105 大计划447 逃生159 日记331 晴转阴234 治标202 初次工作282 报道429 伏击184 传送415 时间问题第三十九章 普通人163 早餐第五十四章 堕落242 长矛255 法师艾琳374 地狱般世界283 了解388 魔法骑兵(中)196 午后阳光第三次请假333 疏散151 新的开始408 僵持325 从技术到应用第六十二章 晚会393 聊天451 要有光407 萌芽479 底牌374 地狱般世界第四十八章 馅饼298 信任374 地狱般世界325 从技术到应用338 退无可退398 改变风格313 抱薪救火164 测试403 隐蔽359 恐惧第六十章 克莱因瓶405 突破第七十五章 关于空间353 艰难选择357 羊吃人?122 坦白156 门槛197 新工作?第七十六章 空间(上)119 曝光391 动员第十八章 父母151 新的开始467 新生命号(下)171 小政府第七十三章 居委会大妈169 警惕216 发现445 幻觉447 逃生105 大计划348 祸福难料475 决心232 联盟278 移民申请217 工资304 沙漠与星空305 两个新“朋友”106 遇见第三十八章 纠结190 高维连接416 教育232 联盟113 拜访