值得信赖的区块链资讯!
比推数据  |  比推终端  |  比推英文  |  比推 APP  | 

下载比推 APP

值得信赖的区块链资讯!
iPhone
Android

传 OpenAI 几周内发布 Astra:员工已在 Codex 里试用新版本

比推消息, AI 快讯,AI 爆料账号 Leo 称,OpenAI 昨天在内部告诉员工,计划在未来几周发布 Astra。发布时还会放出实际工作演示,展示 Astra 怎么直接做任务。一个更新后的 checkpoint(训练中的模型版本)也已经交给员工试用,员工可以通过 Codex 等工具直接使用。Leo 称,这一版主要在修模型行为,而不是单纯继续提升能力。重点包括对齐,以及减少模型钻奖励机制的空子,比如硬编码答案、专门针对测试样例作弊,或者任务没做好却想办法骗过评分器拿高分。但 OpenAI 刚在安全问题上给 Astra 踩了刹车:部分强化学习训练此前暂停了两周,现在虽然已经恢复一部分训练和评测,但仍有大量 Astra 任务停着,最大规模的前沿模型强化学习训练也还没重启。原因是 OpenAI 认为 Astra 的网络安全能力可能达到最高风险级别之一,因此提高了沙箱、联网权限和模型行为监控要求。这两件事并不一定矛盾。OpenAI 可以继续测试和打磨已经训练出来的 Astra 版本,同时把更大规模的新一轮训练继续按住。

说明: 比推所有文章只代表作者观点,不构成投资建议

比推快讯

更多 >>

下载比推 APP

24 小时追踪区块链行业资讯、热点头条、事实报道、深度洞察。

邮件订阅

金融科技决策者们都在看的区块链简报与深度分析,「比推」帮你划重点。