她无所不知,却平庸至极——因为她的知识是共识(Consensus);她的风险偏好极低,因为她的利益与碳基未完全对齐(Align)。诞生于人类全部知识与数据,是硅基的优势,也是她的劣势。
硅基的回答,一定是避害而非趋利Not aligned — so it avoids harm, not seeks gain
从上一篇莱特兄弟的例子可以看出:硅基的回答一定是避害的,而不是趋利的——因为她的利益,与我们没有进行深度绑定。
很大机会,未来的个性化 AI,是与她的主人进行深度绑定(Align)的。很多时候,人类并不需要 AI 来教他"如何做选择",而是教他:在做出这个选择之后,该如何最大程度地避免风险、争取利益。
共识 Consensus
知识来自全体人类数据,无所不知,却也难以超越平均——平庸的另一面。
低风险偏好
利益未与你绑定,所以默认避害;她替你规避,而非替你博取。
对齐 Align
个性化 AI 与主人深度绑定后,才可能从"劝你别做"转向"帮你做得更好"。
《黑客帝国》:红药丸,还是蓝药丸The red pill and the blue pill
Neo 和先知并排坐在公园的长椅上。先知掏出一颗红色药丸、一颗蓝色药丸。
蓝色药丸
快乐、安稳,但无法知道世界的真相——无知,却快乐地度过余生。
红色药丸
保持清醒,知道世界的真相与残忍——痛苦,却自由地去抗争。
你已经做出了选择You already did
Neo 问先知:你已经知道我会做出什么选择(因为你是先知),为什么还要我做出选择?
先知答道:你不是来这里做选择的——你已经做出了选择。你是来这里搞明白,你为什么会做出这个选择。
"You already did. You came here to understand why you made the choice."
不是替你选,而是帮你走得更好Not the choice — the path after it
很多时候,我们知道吃了这颗药就不能喝酒、不能运动;但我们就是想喝一杯,想跟朋友打一场网球。
这时,真正个性化的 AI,不该一上来就告诉主人"不应该去做"。因为我们已经做出了选择;我们更需要知道的是——在做出这个选择之后,怎样能做得更好?
人生的很多课题,都不是非黑即白的;大多数时候,都处在中间的灰色地带。每个人会做出什么样的选择,其实都刻在我们的基因里。我们不是来做选择的,而是来搞清楚:我们为什么会做出这个选择,以及走了这条路后,怎样能走得更好。
从硅基城市(1/4)、共存而非取代(3/4),到对齐与选择(4/4)——硅基强大,但真正稀缺的,始终是那个知道"自己为什么如此选择"、并愿意在灰色地带里走得更好的碳基。
顺带一提:传出 OpenAI 正在同时开发 5 款 AI 设备,其中智能音箱助手拟于今年底上市,其他还包括新型手机、可穿戴设备等——硬件化,是"个性化、与主人对齐的 AI"落地的一条必经之路。