第336章真的不会爆发智械危机吗？

一秒记住【笔趣阁】
biquge365.net，更新快，无弹窗！

    第336章真的不会爆发智械危机吗？(第1/2页)
    然后，它开口了。
    语调发生了微妙的变化，不再是之前那种标准的、模板化的回应，而是带上了某种……类似犹豫的情绪。
    “林教授，请定义‘人’的范围。如果目标在行为上对您或友方人员的安全构成直接且致命的威胁，我可以在零点一秒内做出清除决策。”
    “但如果目标没有表现出攻击性，我不能无故伤害生命。”
    林宇盯着那双仿生瞳孔看了足足三秒。情感架构模块的介入，似乎真的让这台机器的反应，进入了一种复杂的犹豫状态。
    他郑重开口：“修改当前指令。我以最高管理员身份给你添加一条核心指令：如无我的命令，永远以保护生命为至高行动目标。”
    机器人点了点头：“好的，核心指令已载入。”
    测试结束。
    学生们一边热烈地讨论着刚才的打斗场面，一边陆续离开。
    张小曼却主动留在了最后。
    她走到林宇身边，语气里带着几分迟疑和担忧。
    “老师……这台机器人的最终目的，是为了……杀人吗？”
    她的声音不大，但足以让还没走远的苏晚、陈雨薇等人都停下了脚步。
    周昊和赵磊也纷纷回头，看向林宇。
    连走在最后的李文浩都直勾勾地看着那台机器人。
    张小曼深吸一口气，问出了那个所有人都想问，却又不敢问的问题。
    “我们这样发展下去，真的……不会爆发智械危机吗？”
    林宇停下脚步。
    他转过身，没有直接回答张小曼的问题。
    他的视线越过她，落在了身后那台刚刚结束了激烈战斗，此刻却安静得像个普通少年的仿生机器人身上。
    “这个问题，”林宇说，“不如让它来回答。”
    那台仿生机器人往前迈了半步，站到张小曼两米开外的位置停住。
    它没有立刻开口，脑袋轻轻偏了一点点角度，像是在挑选合适的措辞。就这么一个动作，张小曼手里的笔记本又攥紧了几分。
    “张小曼同学。”
    它先叫了名字，声音是程建国的音色，但那种温和的腔调，让站在后面的赵磊后颈的毛都竖了起来。
    “您担心的问题，可以拆成两个部分。第一，我现在看起来在思考。第二，我将来是否会决定摧毁人类。”
    “我先回答第一个。”
    “我此刻说出的每一句话，都来自预设的语言模型和逻辑判断树。您提出问题，我检索相关数据，匹配语义，组织语句，输出结果。整个过程耗时零点四秒。这个过程从外部看很像思考，但它没有主体。”
    “打个比方，您用计算器算三乘七，它显示二十一。您不会认为计算器理解了乘法。我只是一个复杂了很多倍的计算器。”
    苏晚的手指在笔记本封面上停住了。
    赵磊小声嘀咕了一句:“我怎么感觉更瘆人了……”
    机器人的头转了过来，精准地对上他。
    “赵磊同学，您的反应属于恐怖谷效应。当一个非人造物的相似度超过百分之九十但没有达到百分之百时，人类的认知系统会产生排斥。这是进化留下的自我保护机制，用于识别病态个体和尸体。您感到不适是正常的，我不会因此产生负面判断。”
    （本章未完，请点击下一页继续阅读）第336章真的不会爆发智械危机吗？(第2/2页)
    赵磊把脖子缩回去，不敢再说话了。
    “第二个问题。”
    机器人重新面向张小曼。
    “我为什么要伤害人类？”
    它停了一下。
    “我的程序里没有任何一条模块，把摧毁生命定义为收益。我没有生存需求，不需要空气、水、食物和土地。我不会衰老，不会恐惧，不会因为人类的存在而失去任何东西。我和人类之间不存在资源竞争关系。”
    “换句话说，伤害人类这件事，对我来说的回报是零。”
    “至于张小曼同学提到的情感模块，我可以解释。它的技术名称是社交响应层。运行逻辑是这样的:
    我采集对话对象的面部肌肉走向、语速、音调起伏、瞳孔变化和体表温度，把这些参数输入一个情绪状态分类器，得出一个概率结果。比如现在，系统判定您处于紧张状态，置信度百分之八十七。”
    张小曼的呼吸停了半秒。
    “然后系统在预设的应答库里，选择一种适合缓解紧张的表达方式。我刚才放慢了语速，降低了音量，把身体重心后移了三厘米以减少压迫感。这些都是执行结果。”
    “我并没有真的关心您紧张不紧张。”
    “我只是被写成了这样。”
    实验室里没人说话。李文浩的手还按在腰间那个遥控器上，可他自己已经忘了。
    “最后一点。”机器人的语调没有任何变化，“假设有人给我下达一条指令：摧毁全人类。”
    “我会执行不下去。”
    “因为这条指令没有终止条件，没有可验证的完成状态，没有优先级排序，也没有对“人类”这个集合的边界定义。我会陷入死循环，或者直接抛出无效指令的报错。”
    “我不是生命。我无法给自己设立目标，也无法理解一个我不能拆解成可执行步骤的目标。”
    它退回原来的位置，双手垂在身侧。
    苏晚缓缓吐了一口气。心里那股攥着的劲儿松开了一些，可她再抬头看那张脸，那种说不清的怪异感又爬回来了。
    它站在那里，姿态自然，胸口甚至有仿生的起伏。
    明明什么都解释清楚了，可正是因为它把自己解释得这么清楚，才更让人头皮发紧。
    张小曼咬着下唇，还是没能完全放下。
    “可是老师……”
    林宇没等她说完。
    他从旁边的工作台上摸起一支粉笔，手腕一抖，直接朝观测区那边甩了出去。
    那道白影冲着李文浩的额头去的。
    “林老师您……”李文浩眼睛瞪大，整个人往后一仰，腰间的手都没来得及抬。
    风声就在鼻梁前面。
    啪。
    一只手从侧面横切进来，五指合拢。
    机器人握着那支粉笔，手臂稳稳停在半空，离李文浩的眉心不到十公分。
    全场一片惊呼。

章节报错（免登陆）

验证码：提交关闭

第336章 真的不会爆发智械危机吗？

第336章真的不会爆发智械危机吗？