AI安全存在一个滑坡问题。

它始于:
1. “没有大规模杀伤性武器。”
完全合理。大家都同意。

然后它变异为：
2) "不允许色情内容。"
现在我们在监管道德，而不是风险。

然后它悄悄进入:
3) “我无法分析你的健身照片 - 这可能会鼓励身体畸形症。”
现在我们在让成年人幼稚化。

这就是集中式人工智能如何不断发展的方式：
风险 → 道德偏好 → 家长主义 → 控制。

少数人决定什么对大家来说是“安全”的。
能力缩小。
上下文消失了。
细微之处消亡。

真正的解决方案不是增加更多的规则。
它正在去中心化决定它们的人。

在一个去中心化的人工智能系统中：
> 每条规则都是透明的。
> 每条规则都是模块化的。
> 每一条规则都是通过投票决定的，而不是被强加的。
> 即使是“极端”的那些也是过程的一部分。

是的，99.999%的人会对糟糕的事情投“否”票。

合法性并不是来自公司的法令。

它源于主权和同意。

中心化的人工智能说：“我们会决定你被允许知道什么。”

去中心化AI说：“我们将给你们工具，让你们自己做决定。”

这就是一个你服从的人工智能和一个为你服务的人工智能之间的区别。