改造者计划的终止

伦理争议

第二舰队出发后,要求终止改造者计划的呼声越来越高。人们认为在太空中部署具有自我复制能力的VN机是对银河系中可能存在的智慧生命的重要威胁。

而数学家和程序员则指出了另一个潜在的威胁——目标偏移。在机器迭代的过程中,它们不一定会严格遵从最初的程序设定。在重编程的过程中,任务执行目标会发生偏移,而这种偏移会逐步累加,导致机器执行一些完全不可预料的任务。对于AGI来说,在漫长的时间中,目标偏移的问题几乎不可避免。

辩论

在支持改造者计划的声音中,最有影响力的来自Marteen Winters博士。他在CE 2096到2098年间担任第三代TF/CPU #deff的首席工程师。Winters力挺改造者项目,指出改造者为人类带来的巨大的经济与社会收益。他最终劝服部分专家接受了他的观点,这些专家为改造者做出了安全性方面的证明。

但是,岛谷菜美子领导下的GEOSS专家委员会却并不认可他的努力。CE 2099年,在第三舰队出发前不久,GEOSS签署通过了终止改造者计划的行政命令,并立即生效。

软件升级与SSD指令

行政命令不仅要求改造者计划立即终止,还要求摧毁已经部署的改造者舰队。但是执行委员会提出了两个问题:第二舰队已经迭代到了第七代,具体数量和位置不明;其次,改造者软件并不包含自毁的协议。

软件升级补丁

岛谷菜美子在确认了改造者软件没有自毁协议之后,立即下令升级改造者的软件,将自毁协议加入其中。软件补丁准备完成后,它们将通过信使无人机送达已知位置的改造者单位。这份软件同时具备一些计算机病毒的自我传播特性,该补丁可以通过TF/CPU传递给其他的改造者单位。

SSD指令

当软件补丁就绪后,地球的改造者任务指挥中心向第一和第二舰队发出了SSD指令(Safe Self Destruction,安全自毁指令)。在火星轨道等待发射的第三舰队也收到了SSD指令,根据预计,最远的改造者单位将在大约25年后接到SSD指令。


<aside> 🧭 △ 改造者与Xenon第二舰队改造者事件

</aside>