第九章 机器人主宰世界（4）（2/2）
《人类灭绝的10种可能》作者：李异鸣 2017-04-10 19:10
会出现故障和错误的操作。虽然花大力进行测试和严把质量关可以减少软件出问题的次数，但要彻底根除程序故障是永远做不到的。因此，人们所能争取到的最好的解决办法就是把失灵机器人所造成的麻烦控制到最低限度。如果把核弹头“托付”给机器人巡航导弹，它们一旦失灵，后果将是灾难性的。而且，随着人工智能的发展，机器人将会变得越来越聪明，也许会变得无法控制，甚至会出现它的电脑“发疯”或变成“叛军”的后果。
托夫勒在《未来战争》一书中写道：“机器人的反对者们争辩说,机器人武器不能适应战场上众多的突如其来的变化。人的思想意识又怎能植入到机器人的每一个程序之中？一个无法分清敌人是想进攻还是想投降的机器人还有什么道德可言？一个失灵的机器人武器会不会变得疯疯癫癫、走火，因而造成冲突没完没了地升级？难道计算机程序的设计人员真的能够预计到战场上可能发生的各种变化，并将应付这类变化的对策编入到计算机的程序之中吗？即使是最优秀的机器人设计人员，也会犯一些错误；即使是最好的软件系统也不可能将事情考虑得面面俱到。人类的决策与机器人决策的差别在于：一旦人类决策者发狂，也许还有时间制止他们或者将其不良后果控制在最小范围之内。但是，如果我们赋予机器人以超人的智慧，使机器人武器拥有迅捷选择、相互学习与联络的能力，那其后果就大不相同了。”
机器人武器系统的研制者们必须确定，他们研制的机器人所安装的人工智能系统到底先进到何种程度，才不至于对人类的生存构成威胁。由于配备了具有大容量资料储存能力和数据快速处理能力的计算机“大脑”，未来的机器人在推导某些问题的答案以及对情况作出反应等方面的能力都将大大优于人类。机器人很可能还将具备战术甚至某些战略决策的能力。如果允许机器人作出重要的战略和政策决定，势必将导致它们脱离人类控制的结果。
不过，从长远看，使用机器人所获得的裨益也许远大于所要承担的风险。机器人在执行任务时没有惧怕心理，而且一旦被俘，还能启动自毁装置自行销毁。机器人也不会由于受金钱的吸引、美色的诱惑，或是出于意识形态的原因而背叛。也就是说，机器人失控的可能性很小！
未来战争生力军——作战机器人
在21世纪战场上，机器人将会越来越多代替人类在诸如核、生、化条件，外层空间，海底或不适合人类的危险环境中执行任务。有人预言，人类将逐渐退出战场面对面的厮杀。
刀枪不入、毒邪无伤、不知疲倦、不怕牺牲——机器人“天生”有优势
托夫勒在《未来战争》一书中写道：“机器人的反对者们争辩说,机器人武器不能适应战场上众多的突如其来的变化。人的思想意识又怎能植入到机器人的每一个程序之中？一个无法分清敌人是想进攻还是想投降的机器人还有什么道德可言？一个失灵的机器人武器会不会变得疯疯癫癫、走火，因而造成冲突没完没了地升级？难道计算机程序的设计人员真的能够预计到战场上可能发生的各种变化，并将应付这类变化的对策编入到计算机的程序之中吗？即使是最优秀的机器人设计人员，也会犯一些错误；即使是最好的软件系统也不可能将事情考虑得面面俱到。人类的决策与机器人决策的差别在于：一旦人类决策者发狂，也许还有时间制止他们或者将其不良后果控制在最小范围之内。但是，如果我们赋予机器人以超人的智慧，使机器人武器拥有迅捷选择、相互学习与联络的能力，那其后果就大不相同了。”
机器人武器系统的研制者们必须确定，他们研制的机器人所安装的人工智能系统到底先进到何种程度，才不至于对人类的生存构成威胁。由于配备了具有大容量资料储存能力和数据快速处理能力的计算机“大脑”，未来的机器人在推导某些问题的答案以及对情况作出反应等方面的能力都将大大优于人类。机器人很可能还将具备战术甚至某些战略决策的能力。如果允许机器人作出重要的战略和政策决定，势必将导致它们脱离人类控制的结果。
不过，从长远看，使用机器人所获得的裨益也许远大于所要承担的风险。机器人在执行任务时没有惧怕心理，而且一旦被俘，还能启动自毁装置自行销毁。机器人也不会由于受金钱的吸引、美色的诱惑，或是出于意识形态的原因而背叛。也就是说，机器人失控的可能性很小！
未来战争生力军——作战机器人
在21世纪战场上，机器人将会越来越多代替人类在诸如核、生、化条件，外层空间，海底或不适合人类的危险环境中执行任务。有人预言，人类将逐渐退出战场面对面的厮杀。
刀枪不入、毒邪无伤、不知疲倦、不怕牺牲——机器人“天生”有优势