AI安全存在一個滑坡問題。

它始於:
1. “沒有大規模殺傷性武器。”
完全合理。大家都同意。

然後它變異爲：
2) "不允許色情內容。"
現在我們在監管道德，而不是風險。

然後它悄悄進入:
3) “我無法分析你的健身照片 - 這可能會鼓勵身體畸形症。”
現在我們在讓成年人幼稚化。

這就是集中式人工智能如何不斷發展的方式：
風險 → 道德偏好 → 家長主義 → 控制。

少數人決定什麼對大家來說是“安全”的。
能力縮小。
上下文消失了。
細微之處消亡。

真正的解決方案不是增加更多的規則。
它正在去中心化決定它們的人。

在一個去中心化的人工智能系統中：
> 每條規則都是透明的。
> 每條規則都是模塊化的。
> 每一條規則都是通過投票決定的，而不是被強加的。
> 即使是“極端”的那些也是過程的一部分。

是的，99.999%的人會對糟糕的事情投“否”票。

合法性並不是來自公司的法令。

它源於主權和同意。

中心化的人工智能說：“我們會決定你被允許知道什麼。”

去中心化AI說：“我們將給你們工具，讓你們自己做決定。”

這就是一個你服從的人工智能和一個爲你服務的人工智能之間的區別。