AGI的实现过程是人类自我反推理解自己的运行机制的过程,搞清楚自己的工作原理,不得不重新面对一些古老而深刻的哲学命题。
Sam Altman说如果有一个感知恐惧的按钮,一定会摁下去让AI感知。恐惧是人类情感中最古老也是最根本的一类,真正的AGI,既然是高度仿真人类的,是否可能也要经历过恐惧的体验?而”恐惧“的是谁呢?是”我“。但”我“又是怎么产生的呢?会不会是在人生历史的数据子集中,一些较为显著的事件例如应激性创伤被”learn“而抽取成特征,再与对发生创伤时所在环境的记忆结合,编码进人的”大模型“而形成?