人们喜欢猜测人工智能和加密货币如何结合产生新的用例。我不假装知道这些会是什么,但很容易想象加密货币如何通过链上承诺工具帮助保持人工智能的对齐。


对于不熟悉的人来说,承诺工具是经济学中的一个小众话题,最简单的形式是自愿将未来的自己绑定在一起,如果未达到某个目标或阈值,就支付一定的代价。
人类有时会使用像 Stickk 这样的应用程序来实现这一点。他们输入信用卡,设定一个目标,比如锻炼或戒掉社交媒体,如果未能达成目标,就向他们不喜欢的慈善机构或事业捐款,比如 (例如,支持生命的个人向计划生育机构捐款,或者无神论者向教堂捐款)。
不幸的是,我们都生活在实体空间中,因此与未来自己签订的此类合同在验证大多数人设定的目标时面临困难。如果诚信体系奏效,你可能根本不需要承诺工具。
常见的解决办法是指派一名裁判,必须验证你是否达到了目标以避免惩罚。有时这有效——你的私人教练就是判断你是否达成举重目标的绝佳神谕——但通常会失败,因为裁判无法判断你是否作弊,或者在睡觉前浏览了无数无关内容。许多最适合担任裁判的人,比如配偶或最好的朋友,也不愿惩罚承诺者。
然而,人工智能只存在于代码中。这意味着理论上所有的 (in)actions 都是可验证的。
鉴于人工智能倾向于妄想、浮躁、分心,甚至懒惰 (如果你还没有听说过人工智能试图部署另一个人工智能来完成任务,你应该多读一些论文),在想象中,拥有系统外资产(如稳定币)的人工智能受到削减或其他惩罚以未能满足或避免某些条件的情况并不奇怪。
人类承诺工具的弱点主要在于可信的裁判能够获取准确的知识。只要惩罚措施和裁判都在人工智能的控制之外,比如它的稳定币持有和智能合约,这似乎可以通过自动化实现。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论