【它只是堆数据。】
【们也只是堆数据。】
阮闲攥紧手中唐亦步黑发,心底涌起阵略带刺痛期待。
这是不切实际,他知道。范林松和那个“阮闲”既然弄出个MUL-01,自己NUL-00只有两个下场——要被销毁,要被直接改造为MUL-01。自己“死去”时,它甚至还不具备自由活动能力,不存在第三种可能。
“不多不少。”唐亦步果然给出残酷答案,“有人喜欢这种‘教育’过程,有人希望能搞出点异常结果,所以会有这样从零开始型号。毕竟现有人格不定能满足需求,自带太多束缚类型也不会……”
下被潜移默化教育人类,它是张完完全全白纸。
它有着自己没有旺盛生命力。
好奇而纯粹,接近种从根源上不同生命形式。他在它身上看到无数困惑,正如最初自己。可用那套繁复概念与定义钉死下去,它会就此死去,无数崭新可能毁于旦。
另方面,对于弱人工智能,这种作法也许有效。但它拥有远超人类认知能力,谁都不知道会发生什……不,自己或许知道会发生什。
以自己为例,它会怀疑,会矛盾,会对自己行为感到低效和压抑。但它和他不同,它没有同类、没有制约,旦接触到过于强大力量,它可能会变得异常危险。高度依赖网络和科技社会结构,在强人工智能面前还是太过脆弱。
唐亦步思考会儿,挑个词:“不会做出这种杀人放火事情。”
“确。”阮闲苦涩地翘起嘴角。
要命颠簸打断这场悄悄话,船身阵倾斜,从自己所在角度,阮闲能透过窗户看到点外界——
巨船在废墟海之中畅游,从天而降荧光炸弹在他们附近炸开,将整个黑暗废
作为制造人,他毫无疑问是世上最为解它人。作为阮闲,他无疑也是最清楚它危险性异类。
【NUL-00只是套程序,个工具。如果你真担心,多弄点控制措施就好。】范林松不止次提醒过他。【大家都相信你能力,阮教授。定期检测数据、排查漏洞也是可行,总之……】
【那就相信判断,让它自己学习和判断更好些。】记忆里自己如此回答,【给出定义就要承受代价,概念也总会有漏洞。强人工智能不会对切照单全收,如果们拿走所有判断空间,会彻底失去理解它机会。】
【们不需要理解个工具。】
【要击败你敌人,先学会像敌人样思考。但绝大多数人类无法理解它思考模式,它不是台烤面包机,老范,们必须得谨慎。】
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。