(1)过去几乎不重视甚至很少考虑人机关系伦理问题,浅层的原因是人工智能对伦理提出的挑战是一个最近才出现的事物,深层次的原因是人造机器和机器人不具备在现代伦理学中将物纳入考虑范围的几个理由,如人与动物共有的肉体感受性、构成自然整体的一部分,以及给我们带来美感或唤起宏大感和敬畏感。
(2)现在需要认真地考虑人机关系的伦理问题主要是因为以下几方面原因:
首先,机器拥有了人的一部分重要的能力,越来越像人了。当机器开始自我学习、自我改进的时候,机器就开始拥有了智能。智能机器人的出现标志着机器开始拥有了人的一部分能力,如控物的能力、工具理性的能力。这些能力恰恰是人赖以战胜其他动物的能力。简言之,机器在这些方面开始有些像人了。
其次,机器有可能超越人或者替代人。既然机器已经有了一部分人的能力,我们就要考虑未来机器是否有可能也将会发展到拥有自己的情感、意志乃至自我意识。考虑到它们会不会发展到在智能方面超越人乃至替代人。
最后,人机伦理问题涉及到人类安全和利益。目前的人机伦理原则都倾向于做加法,增多或提高要求。但做加法将继续加重机器人判断的负担,还打开了误判或冒名和假托“人类利益”的缺口。