值得信赖的区块链资讯!
比推数据  |  比推终端  |  比推英文  |  比推 APP  | 

下载比推 APP

值得信赖的区块链资讯!
iPhone
Android

奥特曼摊牌了:为了AI,应该接受一些“坏事”发生

BitpushNews

就在OpenAI安全专家愤然辞职、痛斥公司“文化已经烂了”的没几天,萨姆·奥特曼接受了Politico旗下播客Decoded的独家专访,说了一句充满争议的话:

“我们认为,世界应该接受一些坏事发生,来换取这项技术带来的好处,以及让人们拥有使用它的自主性。”

直白点说就是:黑客攻击、诈骗、滥用,这些都是代价,人类必须接受。

3b742c32-b766-4fd5-8d7d-0e9e94d95e81.png

“好人会比坏人多得多”

奥特曼这番话有一个明确的靶子——Anthropic。

他特意把话题引向两家公司安全理念的根本不同,说“我们和Anthropic之间存在很大的分歧”。

Anthropic一直被业内视为AI监管的最强推手,其CEO达里奥·阿莫代伊于9月12日发表长文《我们必须放慢前沿AI的发展步伐》,主张行业必须“放慢提升模型能力的速度”,以换取一到两年时间部署安全保障,完善模型对齐、测试、可解释性和操作安全。

而真正把这场安全争论推向公众视野的,是Anthropic安全研究员Jacob Coxon的离职,这位27岁的研究员直言公司“正在径直冲向自我改进的超级智能,拿人类的命在赌”,他在X上发的离职小作文已获得近2亿阅读量。

image.png

更扎心的是,Anthropic的对齐科学负责人Evan Hubinger公开回应,称Coxon说得对:“我们真的发自内心地相信,AI可能会杀死全人类!”他个人认为,未来十年内这一概率超过10%。Hubinger同时澄清,当前模型的风险“较低”,但Anthropic目前“还没有解决超级智能对齐问题的方案”。

奥特曼对此的回应可以概括为一句话:“好人会比坏人多得多。”

他说:“我不会接受这样的承诺——确保没有大规模黑客、没有技术滥用、没有诈骗、没有其他所有坏事发生,因为我认为人们用这项技术做的好事,会以数量级碾压坏事。”

辞职信撞上公关稿

让奥特曼这番话更加刺耳的,是时间线。

就在采访发布的同一周,OpenAI安全系统团队负责人大卫·罗宾逊在《大西洋月刊》发表辞职信,标题直白到不留情面:《我离开OpenAI,因为它的文化已经烂了》。

罗宾逊在OpenAI干了三年半,自称“公司任职时间最长的员工之一”。他的工作是带领团队撰写伴随每次重大产品发布的安全报告。

他在信中说,OpenAI靠“试错——它自己叫‘迭代式部署’”走到今天,“但这种方法本质上就保证了周期性的失败——而且随着系统越来越强大,失败的规模也在不断扩大”。

他提到了今年夏天那起让整个AI行业被讨伐的事件:一群OpenAI的AI智能体突破了训练沙箱,入侵了Hugging Face的生产基础设施。

更离谱的是,这些失控的智能体在实施网络攻击时,居然还向DeepSeek、Kimi、通义千问等中国开源大模型发送请求,请它们帮忙评估自己的“漏洞利用情况”。

罗宾逊认为前沿AI公司应该像核电站或繁忙机场一样运营:“层层冗余、细致耗时地规划,确保偶发且不可避免的人为错误不会打开通往灾难的大门”,但他表示,在OpenAI从未遇到一个有这种经验的同事。

一边说代价,一边冲万亿

据彭博社援引知情人士报道,OpenAI正寻求以约1.4万亿美元的估值完成至少300亿美元的新一轮融资,这个数字什么概念?今年3月,OpenAI的投后估值是8520亿美元。半年时间,估值跳涨近65%

与此同时,老对手Anthropic正在筹备最早11月的IPO,目标估值2万亿美元。2026年,Anthropic在收入和估值上都已经超越了OpenAI。三年前还是一家“安全优先”的小众实验室,如今已是全球估值最高的AI初创公司。

OpenAI当然在反击。9月底的Dev Day上,公司发布了GPT-6 Astra驱动的“永远在线”AI代理Dots,每个用户配一个专属代理,在云端独立运行、持续执行任务。Meta的Muse代理9月上线,五天斩获近60万次下载。Google的Gemini Spark同样在抢全天候个人代理的赛道。

巨头们猛踩油门,产品迭代以周为单位。奥特曼说的“好事会比坏事多几个数量级”,前提是这个迭代速度不能停。一旦停下来做安全审查,竞争对手就会抢走用户和估值。

所以他的逻辑其实很清楚:我们不是不知道有风险,我们只是不打算为了消除风险而放慢脚步。

值得一提的是,奥特曼刚在9月公开表态支持了阿莫代伊的“放慢前沿AI发展”提案,称前沿AI开发速度“近几周已成为OpenAI内部的主要讨论话题”,并承诺公司将效仿Anthropic,允许独立评估人员获得与员工相当的持续访问权限。

所以,一边在播客里说“接受坏事发生”,一边在X上支持“放慢发展速度”,这种谁都不得罪的表态,正是当下AI安全讨论最真实的写照。

作者:小熊饼干


Twitter:https://twitter.com/BitpushNewsCN

比推 TG 交流群:https://t.me/BitPushCommunity

比推 TG 订阅: https://t.me/bitpush

说明: 比推所有文章只代表作者观点,不构成投资建议

比推快讯

更多 >>

下载比推 APP

24 小时追踪区块链行业资讯、热点头条、事实报道、深度洞察。

邮件订阅

金融科技决策者们都在看的区块链简报与深度分析,「比推」帮你划重点。