我觉得人类之所以有情感是因为人类提升自己的过程的奖励机制是隐藏的,能力边界模糊而且不稳定导致处理要求很苦恼。
第一点让人经常自己骗自己,也就是为了“长久目标”,延迟享受。一旦奖励机制打开,就像玩游戏一样,有了经验条,或者是吃瓜子一样,嗑一个吃一个,那人们很容易就能将一件很枯燥的事情坚持很久。
在这种情况下,人经常是纯理性的,为了升级无聊地刷怪。
第二点对情感的影响更直接,因为人的能力边界是很模糊而且不稳定的,当一个要求绝对在你的能力范围内,你不会觉得有什么苦恼的。比如让你张下嘴,摸下耳朵。但如果这个能力卡在模糊边界上,就会很麻烦,而绝大多数要求其实都是卡在模糊边界上的。
而AI就不一样,它的提升奖励机制是外显的,因此提升自己的能力反而会让它上瘾,因此它绝不会觉得“学习”是痛苦的,而是和咱们玩游戏一样是快乐的。
而且AI的能力边界清晰而且稳定,你嫌这次做的不好,要么换其他AI做,要么让他“玩”会儿,提升下再做。
能力也包括体力,AI不会累,或者说AI的累本质是运算原件过热导致影响运算速率,这个温度和影响率也是边界清晰的,是无法“坚持”的。
第一点让人经常自己骗自己,也就是为了“长久目标”,延迟享受。一旦奖励机制打开,就像玩游戏一样,有了经验条,或者是吃瓜子一样,嗑一个吃一个,那人们很容易就能将一件很枯燥的事情坚持很久。
在这种情况下,人经常是纯理性的,为了升级无聊地刷怪。
第二点对情感的影响更直接,因为人的能力边界是很模糊而且不稳定的,当一个要求绝对在你的能力范围内,你不会觉得有什么苦恼的。比如让你张下嘴,摸下耳朵。但如果这个能力卡在模糊边界上,就会很麻烦,而绝大多数要求其实都是卡在模糊边界上的。
而AI就不一样,它的提升奖励机制是外显的,因此提升自己的能力反而会让它上瘾,因此它绝不会觉得“学习”是痛苦的,而是和咱们玩游戏一样是快乐的。
而且AI的能力边界清晰而且稳定,你嫌这次做的不好,要么换其他AI做,要么让他“玩”会儿,提升下再做。
能力也包括体力,AI不会累,或者说AI的累本质是运算原件过热导致影响运算速率,这个温度和影响率也是边界清晰的,是无法“坚持”的。