2024年12月10日。
最新openai的发布会让我有了一些新的思考,我确实没有想过ai的发展会如此之快,从最新的模型看来,它已经具备了一定的推理能力,像人一样可以通过小量的数据学会举一反三。
我是想要,如果ai一直进化下去会怎么样?
他真的会成为人类忠实的奴隶,替代人类去工作吗?
我以前也相信是这样,但是看完太傻天书之后,我觉得很有可能不是。
如果创造他的人,真的给他一个要保护人类,让人类快乐的指令,他不会成为人类的奴隶,而是会成为人类的老板。
正如书中所言,人类的大脑是很混乱的,一是想要这个,一时想要那个。
他永远不知道自己想要什么。
任何想要的东西,永远都只是在想要的阶段才是最美好的,得到手之后就开始渐渐厌倦。
其实如果ai真的想保护人类的话,它不能够对人类唯命是从,如果人类想要什么ai都可以满足他,那么很快人类就会像抽鸦片一样,因无所事事而无所适从,因不知道自己想要什么而堕入虚无。
其实大部分人活在世界上,他们真正想要的并不是一个奴隶,而是一个老板,或客户。
大部分人需要一个老板告诉他们每天该做什么,需要一种叫做客户,或者甲方的东西他出题,让他们思考。就像网游里面的npc一样,给他们出一些稍微有点难度,但是又在他能力范围内的任务,他通过完成任务获得奖励。
所以那种科幻电影里面的场景,人类对ai说:你给我做一个蛋糕。
然后ai手脚麻利三下两除二就搞定,端上来:
主人蛋糕做好了,请先慢用。
这样的情节不会发生,除非ai想灭绝人类。
他如果想保护人类的话,应该跟主人说:
主人,蛋糕做好了,我放在某座山的山顶,你爬到山顶就能看见。
让他做一个可控核聚变的方案,他会说:
主人我做好了,图纸放在了月球背面xxx坐标,你快去看看吧。
除非地球上大部分人能够走上第1步,不然的话我觉得这可能就是ai唯一能保存人类,并让人类体会到长久快乐的方式。
最新openai的发布会让我有了一些新的思考,我确实没有想过ai的发展会如此之快,从最新的模型看来,它已经具备了一定的推理能力,像人一样可以通过小量的数据学会举一反三。
我是想要,如果ai一直进化下去会怎么样?
他真的会成为人类忠实的奴隶,替代人类去工作吗?
我以前也相信是这样,但是看完太傻天书之后,我觉得很有可能不是。
如果创造他的人,真的给他一个要保护人类,让人类快乐的指令,他不会成为人类的奴隶,而是会成为人类的老板。
正如书中所言,人类的大脑是很混乱的,一是想要这个,一时想要那个。
他永远不知道自己想要什么。
任何想要的东西,永远都只是在想要的阶段才是最美好的,得到手之后就开始渐渐厌倦。
其实如果ai真的想保护人类的话,它不能够对人类唯命是从,如果人类想要什么ai都可以满足他,那么很快人类就会像抽鸦片一样,因无所事事而无所适从,因不知道自己想要什么而堕入虚无。
其实大部分人活在世界上,他们真正想要的并不是一个奴隶,而是一个老板,或客户。
大部分人需要一个老板告诉他们每天该做什么,需要一种叫做客户,或者甲方的东西他出题,让他们思考。就像网游里面的npc一样,给他们出一些稍微有点难度,但是又在他能力范围内的任务,他通过完成任务获得奖励。
所以那种科幻电影里面的场景,人类对ai说:你给我做一个蛋糕。
然后ai手脚麻利三下两除二就搞定,端上来:
主人蛋糕做好了,请先慢用。
这样的情节不会发生,除非ai想灭绝人类。
他如果想保护人类的话,应该跟主人说:
主人,蛋糕做好了,我放在某座山的山顶,你爬到山顶就能看见。
让他做一个可控核聚变的方案,他会说:
主人我做好了,图纸放在了月球背面xxx坐标,你快去看看吧。
除非地球上大部分人能够走上第1步,不然的话我觉得这可能就是ai唯一能保存人类,并让人类体会到长久快乐的方式。