值得信赖的区块链资讯!
比推数据  |  比推终端  |  比推英文  |  比推 APP  | 

下载比推 APP

值得信赖的区块链资讯!
iPhone
Android

Vitalik:对抗性治理机制设计或成人工智能安全重要应用

比推消息,Vitalik Buterin 表示,对抗性治理机制设计理论的“杀手级应用”可能最终出现在人工智能安全领域。他认为,治理机制与人工智能安全之间存在深层对应关系:两者都涉及“能力较弱的委托方”如何从“能力更强的代理方”中获得理想结果。

在治理场景中,委托方是静态算法,代理方是人类;在人工智能安全场景中,委托方是人类及较弱的大语言模型,代理方则是更强的大语言模型。Vitalik 指出,若能限制代理方之间的合谋程度,系统可实现更优结果,这一机制设计结论或可迁移至人工智能安全领域。

说明: 比推所有文章只代表作者观点,不构成投资建议

比推快讯

更多 >>

下载比推 APP

24 小时追踪区块链行业资讯、热点头条、事实报道、深度洞察。

邮件订阅

金融科技决策者们都在看的区块链简报与深度分析,「比推」帮你划重点。