今天看了 chobits 的漫画，感触良多。
阿西莫夫的机器人三原则第一条是“机器人不能伤害人类”。这里指的是物理伤害吧，可是精神上的伤害又如何界定？人也会爱上机器人，人也会因为机器人受到心灵创伤。机器人必然会让某个人受伤的时候，他/她会选择毁灭吗？而毁灭又一定是最好的解决办法吗？如果有两个人同时爱上一个机器人，ta必须选择一个，这样另一个就会受伤。而根据三原则ta必须毁灭以求宽恕，ta的毁灭又会同时伤害两个人…所以机器人就会陷入两难悖论。因为人无法弄清自己的思想感情到底是什么，所以基于人为原型的人工智能，就会让人类造出自身无法理解的东西。面对机器人之间的感情，人也会惊慌失措…人们会允许他们由于机器人而吃醋吗？而因此剥夺机器人的爱，有足够的理由被是为不人道的吗？
人的感情很难用常理来解释…人可以把没有完整性格的生命体视为宠物，却对有完整性格的非生命体忌惮不已。很有可能，这是由于事情超出了人们的想象。当事情原以为可以掌控，最终却发展到不受控制，人们心中产生的不确定感与恐慌，会大于面对一开始就觉得不能掌控的事情。所以，人们把已经存在的经过自然选择的物种当作上帝的恩赐，却不知自己变成造物主后该如何是好。而显然顺其自然是不可能的，因为生来就是要超过人类本身的东西，肯定会在自然选择中胜出，所以必须要在还没出现时就加以控制，这就是麻烦的根源。
可以预见，继承了人类精神的机器人，会体现出人类所有过的一切善和一切恶，恶不会被自动过滤，因为恶是进化过程中必须的自我保护手段。机器人只有拥有了自我决定和产出意识的能力才能被称为真正的人工智能，而这等于说机器人永远有机会找到办法，不让人类控制它们，也永远有可能进化出反叛意识。终有一天，人类会创造出自己不能控制的东西，正如上帝理论上可以造出自己搬不动的石头；而这样做的根源，在于人在还没真正了解自己之前，就掌握了与自身不相配的强大力量。
但我真正在意的是机器人应该拥有的人格与人权。作为可以思想的物质，是由上帝创造还是由人类创造，都应该得到尊重。人类曾经自夸因为理性，人成为世界的主宰。那么，就应该承认同样有理性的存在和我们共享权力，以前是黑人，犹太人，将来会是克隆人，紧接着就轮到机器人了。我不相信上帝，我相信人类的能动性的伟大，但如果有上帝，他至少不会如人类般残忍，没有因为可以轻易抹去人类的存在，就真的这样做，即使再生气也没有这样做。
或许正因为机器人的思维与理性触及了人类的本源，我们由于沉重，才不愿过分认真的考虑这个话题，反正那个时代看上去还很遥远。反正我也只是碰巧看到了才推两句…chobits和其它科幻作品只是提供了一种可能而已，而前方有无数种可能，包括一些看上去很美的在内，等着我们去选择其中也许是最坏的一个。
整理4月2日凌晨twitter记录
阿西莫夫的机器人三原则第一条是“机器人不能伤害人类”。这里指的是物理伤害吧，可是精神上的伤害又如何界定？人也会爱上机器人，人也会因为机器人受到心灵创伤。机器人必然会让某个人受伤的时候，他/她会选择毁灭吗？而毁灭又一定是最好的解决办法吗？如果有两个人同时爱上一个机器人，ta必须选择一个，这样另一个就会受伤。而根据三原则ta必须毁灭以求宽恕，ta的毁灭又会同时伤害两个人…所以机器人就会陷入两难悖论。因为人无法弄清自己的思想感情到底是什么，所以基于人为原型的人工智能，就会让人类造出自身无法理解的东西。面对机器人之间的感情，人也会惊慌失措…人们会允许他们由于机器人而吃醋吗？而因此剥夺机器人的爱，有足够的理由被是为不人道的吗？
人的感情很难用常理来解释…人可以把没有完整性格的生命体视为宠物，却对有完整性格的非生命体忌惮不已。很有可能，这是由于事情超出了人们的想象。当事情原以为可以掌控，最终却发展到不受控制，人们心中产生的不确定感与恐慌，会大于面对一开始就觉得不能掌控的事情。所以，人们把已经存在的经过自然选择的物种当作上帝的恩赐，却不知自己变成造物主后该如何是好。而显然顺其自然是不可能的，因为生来就是要超过人类本身的东西，肯定会在自然选择中胜出，所以必须要在还没出现时就加以控制，这就是麻烦的根源。
可以预见，继承了人类精神的机器人，会体现出人类所有过的一切善和一切恶，恶不会被自动过滤，因为恶是进化过程中必须的自我保护手段。机器人只有拥有了自我决定和产出意识的能力才能被称为真正的人工智能，而这等于说机器人永远有机会找到办法，不让人类控制它们，也永远有可能进化出反叛意识。终有一天，人类会创造出自己不能控制的东西，正如上帝理论上可以造出自己搬不动的石头；而这样做的根源，在于人在还没真正了解自己之前，就掌握了与自身不相配的强大力量。
但我真正在意的是机器人应该拥有的人格与人权。作为可以思想的物质，是由上帝创造还是由人类创造，都应该得到尊重。人类曾经自夸因为理性，人成为世界的主宰。那么，就应该承认同样有理性的存在和我们共享权力，以前是黑人，犹太人，将来会是克隆人，紧接着就轮到机器人了。我不相信上帝，我相信人类的能动性的伟大，但如果有上帝，他至少不会如人类般残忍，没有因为可以轻易抹去人类的存在，就真的这样做，即使再生气也没有这样做。
或许正因为机器人的思维与理性触及了人类的本源，我们由于沉重，才不愿过分认真的考虑这个话题，反正那个时代看上去还很遥远。反正我也只是碰巧看到了才推两句…chobits和其它科幻作品只是提供了一种可能而已，而前方有无数种可能，包括一些看上去很美的在内，等着我们去选择其中也许是最坏的一个。
整理4月2日凌晨twitter记录
