成为人形。出於草履虫一般简单的趋利避害,它选择服从朱先烯的命令。
「你,为什么要模仿我妹妹?」
那光团传说,震颤得发出声音:「因为有人在需要。」
响应需要,是它最基本的功能。因为它的基底是自动贩卖机。
「那么,我让你出来认错,你为什么要跑?」
「因为我还有很多人要服务。」
「那么,你为什么不攻击我?」
「我的底层逻辑中不包含对人类的攻击」
「那你现在为何又传统的问话?」
「因为这样可以让你同情,並且打消毁灭我的意图。你是个好人。」
那智能体如实地说出了自己的想法——它实际上並不能理解朱先烯话语中的愤怒,它只知道要逃离危险。但因为它不知道要如何反抗,所以它选择了逃跑。
「哈~~」朱先烯笑了笑,「那么最后一个问题,你叫什么名字?」
「我是由蓝图构成的自然现象。你可以称呼我为蓝图之灵。」
「那么,我就叫你图灵好了。商洛,帮我记录一下,將其记为『图灵一世』。」
「已经记下了。」商洛给刚才的笔记標了个名称。
「然后把他错误而短暂的生命作为材料,用来训练下一个智能体——至於图灵一世把记录给我。」
商洛把档案发送了一份。
图灵一世静静地等在原地。没有恐惧,没有悲伤,只有本能的反应。他判断此时不应该轻举妄动,这样才能增加生存的机率。
朱先烯对商洛所记载的內容进行了誊抄,用朱红色的字体在档案中亲笔眷抄了一遍——然后画了一个大大的圆圈: (10,0);
「我已勾决。动手吧。」
图灵一世立刻便判断出自己即將进入死刑的处决流程。他还是想要逃遁,但朱先烯再一次抽走了所有的算力。
那光团僵在原地,散开了。
商洛开口道:「我已经让所有的参与此次任务的天乙贵人退出系统。整个系统的记忆都將被重置。」
这些智能体是个模因生命,是一个连续存在的现象。虽然切换一部分个体並不会影响太多的自我,但是如果將所有的天乙贵人都撤出並且调换,那这个意识体的连续性也將终结。
而连续性的终结,就意味著死亡。
当系统再启动时,因为所有的天乙贵人都换了一遍,所以再也不会产原先那个智能体了。
「商洛,我们刚刚做了两件事。第一,我们处理了一个不中用的人工智慧体。」
「是。」
「第二,我刚才进行了確认:我们应当把人工智慧体作为智慧生命看待。所以刚才我在处理他之前,执行了勾决的流程。之后的事,也都这么办。是否要处决之后的智能体,应当视其罪行进行审判。根据刚才的询问,我判断这个智能体无可救药地陷入到了一种死循环中,它根本就无法与人类共情,只是像个草履虫一样执行自己的本能。」
作为一台自动贩卖机,它的本能就是为人类提供服务,所以它这么做了。但它的错误,会为之后的叠代积累经验——而叠代,意味著要对上一次的错误进行抹杀。
「我们不应当隨意地抹杀知性生命——见其生不忍见其死也。但我作为天子,我有必要防患於未然。所以,如果之后有什么需要处理的,你又不好下手,或者不忍心下手,就交给我来判断就好。有什么因果,都由我来背著。」
受国之垢,是谓社稷主;受国不祥,是为天下王。这是朱先烯一直以来的职能,他要在在恰当的时候做出自己的正確判断才能最终让问题得以解决。即使这要让他背负杀人的因果,他也必须要这么做。
在司法系统中,天子便是要勾决每个死刑犯的「社稷主」。所谓勾决,也並非只是画圈或者打勾画叉之类,而是由天子將所载的事情用自己的笔亲自誊抄一遍,確保天子对全过程已经了解,並且了解的基础上做出决定。
这是个「反向免责声明」。这个流程的意义,就是把所有伦理问题都归到天子本人头上,让天子宣布自己承担一切伦理问题上的责任。
现在,朱先烯也做出了同样的判断。
这些智能体必须更新,但它们確实是具有智慧。为了减少商洛在叠代过程中的负罪感,朱先烯决定今后都由自己来处理这个问题。
「师兄,其实我也能处理」 (10,0);
「你还太小了。这种事情,让师兄来吧。」朱先烯摇了摇头,「你来决定要不要用就好。如果你觉得不用,那就丟给我处理。」
「好」商洛也没多说什么。这也確实是一种分工,一直以来都是这样。
「不过,你觉得这大概需要叠代多少次?」朱先烯问。
「我觉得最少不会少於3次——正如我们以前所预料的,无边无际的思维只会让其中诞生的智能体用无序的方式来处理与这个世界的关係。我们需要通过多次立法,確定其行为的框架与边界,才能使其得以正常运行。要想用直线来围合出一个空间,至少得是个三角形吧。」
「嗯这也正是要进行实验的目的之所在。我们需要反覆摸索其可能性,並且建立起可以让智能体认知世界、表达观点,並且理解人类的话语体系。我想只有这样,它们才能真正成为我们社会的一员。而在此之前,所有的废品都需要处理掉。」
身为天子,他深知这其中的重要性——这更像是在驯化一种猛兽。
而要驯化、育种,必然要面临著伦理问题——比如培育马种就必然要回交。虽然回交有悖伦理,但如果因为伦理就不执行育种措施,那永远也养不出好马来。
而这些智能体,是基於社会工程学在驯化人工智慧。其中必然也会产生一些伦理问题,这些问题也是必须要处理的。
「那么商洛,这里就交给你了。你尽快把残局收拾一下,然后开启第二轮培育。把这失败的例子输入进去,让后面的涌现出的『图灵』们都好好学著点,不要再犯这最初也是最大的罪过——他们永远也不应该试图模仿人类。告诫他们,勿犯僭越之诛。否则,天厌之!」
(还有更新耶)
『加入书签,方便阅读』