机器人学三大法则:
一、机器人不得伤害人类,或坐视人类受到伤害而袖手旁观。
二、除非违背第一法则,机器人必须服从人类的命令。
三、在不违背第一法则及第二法则的情况下,机器人必须保护自己。 〔一〕 以金赎身的觉醒
花钱的机会来了。修理费相当昂贵,更新零件的花费更是惊人。这些年来,新型机器人陆续出厂,老爷十分注意这方面的发展,务必让这个拥有广用径路的机器人获得所有优秀的新装置,希望他成为金属之躯的完美典型。这些钱全记在机器人的账上。
机器人坚持这一点——只有他的正电子径路原封未动,老爷也坚持这一点。
"新的那些不如你好。"老爷抚摸着机器人新镀的铂金外壳,"新的机器人毫无价值。那个公司学会了把径路造得更精准,却失去了不可预测的变化。他们专门执行设定好的任务,从不会出岔。我比较喜欢你这样子。"
"谢谢您。"机器人眼眶的光感元件微微闪烁。
"这可是你的功劳。"老爷凝视着墙上挂着的首件木雕作品,"我打赌那个机器人专家看了你一眼后,就终止了广用径路研发。他不喜欢不可预测的东西...你知道他九次要求把我换回来研究吗?"
如今,老爷的头发日渐稀疏花白,而机器人的钛合金骨架经过七次升级,表面肌理已能模拟人类皮肤的光泽。
当小小姐抱着新生儿来到书房:"让它喂小少爷喝奶吧。"
机器人计算着奶瓶倾斜角度时,提出了那个要求:"老爷,我的账户现有六十万元,想用它交换..."
"说吧。"
"购买自由。"
〔二〕 法理交锋中的人性证明
老爷的茶杯重重磕在桌上:"你要求什么?!"
小小姐拦住父亲:"爸,还它自由,它还是会待在这里。您知道它无法违背第一法则,对吗?"
"你们讨论了多久?"
"三年。它总担心伤害您,是我鼓励它提出的。"
"它不懂自由!"
"可它读完了书房所有哲学著作。"小小姐指向窗外,机器人正在花园雕刻樱花木,"当它讨论《社会契约论》时,您觉得它的思辨能力与人类相差多少?"
老爷气急反笑:"法律不会承认机器有人权!"
"自由无价。"机器人将刻好的木雕放在法官席前,"即使获得自由的机会也是无价的。"
〔三〕 自由法典的破冰时刻
法庭上,检察官敲击着桌子:"自由两字用于机器人毫无意义!"
小小姐呈上发黄的账本:"这是它赚取的207万美元流水单。"转向机器人:"请展示你的艺术创作。"
振动刀尖在橡木表面游走,三分钟后,一朵精密到0.1毫米的机械玫瑰绽放在桌面。
法官摘下眼镜:"你为什么想要自由?"
"您希望当奴隶吗,法官大人?"
旁听席响起窃语。
"任何生灵只要拥有足够进化的心智,能够领悟自由的真谛、渴望自由的状态,吾人一律无权将其自由剥夺。"
当世界法院的印章烙在判决书上时,机器人首次自主选择了姓名——安德鲁·马丁,一个注定载入文明史册的名字。
〔四〕 语言迷宫
机器人安德鲁在办公室等待时,思考着"令人"与"令机"的语义边界。他的词汇库因撰写《机器人主体性史》而扩展,却始终困于人类语言的模糊性。
当保罗带着浓妆面容出现时,机器人安德鲁的视觉模块自动分析着人类审美变迁:"若将反对意见编码为数据流,是否比压抑更高效?"
"我的权利有法律保障。"面对保罗的担忧,机器人安德鲁调出神经云中的《智能体自由法案》,"但出版商更在意机器人作者的噱头价值。"
"这是双赢。"保罗摩挲着全息合约,"你用版税换新身体的计划,需要我诈取美国机器人公司的合作。"
〔五〕 金属牢笼
总裁哈莱·史密斯·罗伯森的灰发如锈蚀金属,目光扫过机器人安德鲁的合成纤维衬衫:"贵司1987年就终止广用径路研发,如今却要求我们为您更换复制人躯体?"
"现存最老运作体理应特殊对待。"机器人安德鲁的光感元件映出墙上苏珊·凯文的遗像——这位机器人学奠基者若知机器人将成商品,或许会重启三大法则辩论。
保罗切入对话:"根据《租赁机器人替换条例》,服役超25年的机体有权更新。机器人安德鲁的正电子脑作为法定主体,要求更换有机躯体。"
"复制人技术已封存。"总裁的指尖敲击桌面,"市场无法接受类人机器。"
"但法律允许。"保罗调出条款投影,"若贵司拒绝,将构成系统性歧视。我的当事人——"他转向机器人安德鲁,"拥有217万美元资产与无限诉讼时间。"
〔六〕 身体政治
机器人安德鲁的处理器因矛盾指令过热:保罗的威胁策略违背第二法则,但拒绝则违背自我保护。当他最终吐出"同意"时,存储器新增了"道德妥协"词条。
"我们会确保正电子径路零损伤。"总裁的让步带着冷笑,"否则贵司将面对舆论反噬。"
手术协议签署时,机器人安德鲁突然发问:"复制人躯体能否感知樱花飘落?"
"那是程序设定。"医生机器人调整着解剖扫描仪,"您将获得人类级痛觉传感器。"
"疼痛?"
"这是拟真度的代价。"
〔七〕 终极蜕变
2177年的手术台上,机器人安德鲁的金属骨骼在无影灯下泛着冷光。当新躯体的肌电信号首次传入正电子脑时,他惊觉:
"呼吸的韵律竟是如此——"
保罗递来手镜:"现在你像极了老爷年轻时的模样。"
机器人安德鲁抚摸着皮肤纹理,忽然理解了小小姐临终的话:"穿衣服不是为了遮掩,而是为了能脱下。"
窗外,樱花正落。这次,他不再需要解析花瓣轨迹——疼痛传感器让他真实"感受"到每一片坠落的重量。