笔记软件和强 AI 的合流,终将剥夺人类的存在
《黑客帝国》中,Trinity 通过往大脑中注入「直升机驾驶技能」来快速学会开直升机。然而现实中,可悲的人类想要习得一项技能,不得不经历漫长而痛苦的学习过程,要犯成堆的错误,还可能要挨骂。考过驾照的人一定多少都有同感。期末突击的学生也一定渴望有一种技术可以快速植入知识到自己大脑中。
人类对效率的永恒追求,早晚会触及到无法跨越的边界。其中一个边界就是我们自己的大脑。现在大批扬言要成为「第二大脑」的笔记软件/知识库软件们,其实正是在尝试跨越这个边界。虽然对比 cyborg 的故事中充满科技感的方案,一个个 app 显得土味十足,但本质一样,他们也同样是在尝试给大脑装外挂。
当原始人第一次在山洞里画壁画的时候,人类就在朝着这一步进发。把脑内的东西记录在外部,其实就是在扩展自己的大脑。外部的记录确实极大地增强了人脑的记忆力,而且跨越时间和距离的交流也因而变得可能,这大大加速了文明的进程。多年以来,记录和存储的工具们,一直都很好地在为人类服务。
不过,工具迭代进步到现在,终于快到了触及底线的时候了。
有一个说法,人脑擅长思考,不擅长记忆。我们以前的各种记录存储手段,都是在增强人脑的记忆组件,并没有触及到大脑真正核心的功能。而现在的工具们已经不满足于此了,工具开发者的视线集中在了「连接」上。而「连接」,几乎可以说就是思考本身。
当然,普通的「双链」笔记工具还远没有到这一步。Obsidian 中有一个插件 Graph Analysis 小小地又往前走了一步。它会分析笔记库中所有文本内容,帮助人类发现一些隐含的关联。它给人一种幻觉,似乎可以不用那么费劲地去查阅、分析、记忆,然后找出关联了,这种麻烦事交给工具就可以了。
不过,人类发现连接的过程要复杂得多,很多时候是跳跃性的,并不是单纯根据关键词来决定。在人类看来,文本毫无关联的两块内容,也很可能存在着关联。这是目前单纯基于文本分析的 Graph Analysis 无法实现的,所以说,它虽然前进了一步,但依然没有对人脑的思考功能形成挑战。
比这更进一步的是 [weavit],它官网有一句显眼的口号:
> Type out any thought and we’ll organize it for you。
weavit 的目标是要利用AI自动整理、分类、连系、补充知识,人只需要不停记录就好。它要夺走人类「连接」的能力。
虽然很有野心,但它依然不会对「思考」形成挑战,因为人脑的思考不只有「连接」,还有「剪枝」——选择性地去掉一些连接。至少现在为止,工具们仍然是在尽可能发现连接的阶段,还没有发展到可以做个性化的剪枝的阶段。当 AI 能做到这一步的时候,我们还能够无视它的「个性」而说它不是人吗。
不过呢,虽说目前还没有工具能够真正代替人类思考,但随着 AI 技术继续进步,可以预见这一天迟早会到来。当这一天来临的时候,现在说的「代替」思考还真的只是「代替」吗。能够独立思考的 AI,当然也会说「我思故我在」。它的思考就是它的思考,不是人类的。被「代替」而无需思考的人类,存在感不知不觉会变得越来越稀薄。
笔记工具和强 AI 合流,先是让人无需思考,然后人就慢慢变得不会思考。被剥夺思考的能力之后,人类也就差不多沦为电池和零件了。如果 AGI 以笔记工具这样缓慢、看似无害的方式渗透进来,我们可能都无需和 AI 谈判废除「AI 奴隶制」,我们直接就电池化了。
此时再看 weavit 的 slogan,不觉有些脊背发凉。
> Type out any thought and we’ll organize it for you.
喜欢我的作品吗?别忘了给予支持与赞赏,让我知道在创作的路上有你陪伴,一起延续这份热忱!