OpenAI发布GPT-4o系统卡，聚焦AI风险评估与安全保障

数智朋克报道，OpenAI发布了关于GPT-4o模型的系统卡，详细阐述了多个安全评估与风险缓解措施。报告中，OpenAI将“准备框架”（Preparedness Framework）作为GPT-4o模型的核心，这是一个系统化方法，用于识别和降低人工智能系统可能带来的风险，特别是在网络安全、生物威胁、说服力及模型自主性等关键领域。

数智朋克了解到，除了为GPT-4和GPT-4V进行的一系列安全评估外，OpenAI还针对GPT-4o模型的音频功能展开了深入的安全工作。评估内容涵盖扬声器识别、未经授权的语音生成、潜在版权内容生成、无根据的推断以及不允许的内容。基于这些评估，OpenAI在模型和系统层面都实施了相应的保障措施。

为确保模型的安全性，OpenAI还与超过100名外部红队人员合作，在模型发布前进行了严格的风险评估与压力测试。这些红队人员通过探索性的能力发现，评估模型可能带来的新风险，并测试了现有的缓解措施是否有效。