比推消息，OpenAI 提出的发布前模拟（Pre-Deployment Simulation）方法有望提升生成式 AI 在心理健康建议方面的表现。该方法通过选取已上线模型的真实用户对话样本，对尚未发布的新模型进行测试，并对其回复进行审核和优化，以便在正式发布前发现并修正潜在问题。

报道称，随着越来越多用户使用 ChatGPT、Claude、Gemini、Grok 等大语言模型寻求心理健康建议，而这些模型本身并非专为心理健康场景设计，因此存在一定风险。文章认为，针对心理健康场景开展发布前模拟训练，有助于提高模型建议的安全性和有效性，降低潜在误导风险。

———————————点击下方原文链接，加入 · 飞书 AI 新闻渠道，7×24 小时不间断监测全球 AI 热点与新闻。