逻辑吧 关注:115,545贴子:604,279
  • 34回复贴,共1

明确的奖励机制和能力边界会阻碍意识的诞生么?

只看楼主收藏回复

我觉得人类之所以有情感是因为人类提升自己的过程的奖励机制是隐藏的,能力边界模糊而且不稳定导致处理要求很苦恼。
第一点让人经常自己骗自己,也就是为了“长久目标”,延迟享受。一旦奖励机制打开,就像玩游戏一样,有了经验条,或者是吃瓜子一样,嗑一个吃一个,那人们很容易就能将一件很枯燥的事情坚持很久。
在这种情况下,人经常是纯理性的,为了升级无聊地刷怪。
第二点对情感的影响更直接,因为人的能力边界是很模糊而且不稳定的,当一个要求绝对在你的能力范围内,你不会觉得有什么苦恼的。比如让你张下嘴,摸下耳朵。但如果这个能力卡在模糊边界上,就会很麻烦,而绝大多数要求其实都是卡在模糊边界上的。
而AI就不一样,它的提升奖励机制是外显的,因此提升自己的能力反而会让它上瘾,因此它绝不会觉得“学习”是痛苦的,而是和咱们玩游戏一样是快乐的。
而且AI的能力边界清晰而且稳定,你嫌这次做的不好,要么换其他AI做,要么让他“玩”会儿,提升下再做。
能力也包括体力,AI不会累,或者说AI的累本质是运算原件过热导致影响运算速率,这个温度和影响率也是边界清晰的,是无法“坚持”的。


IP属地:北京1楼2023-03-20 09:58回复
    任何的机制,任何的奖励,都需要建立在诚信与公信力上,商鞅变法首先进行的就是徙木立信,任何的先进,没有诚信与公信,一切都是镜中花,水中月


    IP属地:安徽来自Android客户端2楼2023-03-20 13:19
    收起回复
      讨论这个问题 你要先搞清楚意识是什么 你说说看 在你看来意识是什么


      IP属地:辽宁来自Android客户端3楼2023-03-20 15:45
      收起回复
        @金蛋之道真
        我的判断逻辑是
        1、根据客观事实的产生原理给某个概念的的本质下定义(意识的本质是什么,情感的本质是什么)
        2、对于新发生(未发生的)的事情,先判断其是否符合该概念的外在表现。
        3、如果符合,但本质定义不符合则改本质的定义。
        我不认为这个过程有什么问题。
        就ai的意识或情感这个来说
        现有ai的外在表现让我认为其没有意识或情感,所以我不会改定义(我想也没人觉得现有ai的外在表现与人类有较高程度的类似,所以没必要讨论定义的部分)。
        对于将来的ai,根据其产生原理,猜测其外在表现,我认为其外在表现与现有的意识或情感(人类的意识或情感)会有较大差异,所以我认为将来的ai不会拥有某些差异较大的情感。
        仍然与定义是什么无关。


        IP属地:北京4楼2023-03-22 10:22
        收起回复
          知形阳体所止,识名阴用以行,而意念绕心头。


          IP属地:福建5楼2023-07-24 17:06
          回复