要点速达👈
- 🤖美国人工智能安全研究所与OpenAI、Anthropic合作，启动AI模型预部署安全性测试。
- 🔒测试项目由NIST协调，旨在确保AI模型的安全性和可控性。
- 🌍该计划推动全球AI安全进展，聚焦风险评估与技术改进。
- 💼项目强调AI应用应服务于社会，关注其对就业的潜在影响。
数智朋克报道，近日，美国人工智能安全研究所（AI Safety Institute）宣布与两家领先的人工智能公司OpenAI和Anthropic达成合作协议，启动一项全新的人工智能模型预部署测试项目。此举旨在通过合作对即将发布的AI模型进行前瞻性安全性测试，评估其潜在风险，确保这些模型具备可控性并符合安全标准。
该计划由美国商务部下属的国家标准与技术研究院（NIST）负责协调，目标是为人工智能技术的安全应用构建科学框架，进一步促进AI技术的健康发展。美国人工智能安全研究所将会提前接收OpenAI与Anthropic开发的即将发布的模型，并进行全面的安全性评估。这一过程将涉及与英国人工智能安全研究所的合作，通过反馈意见推动AI模型的不断改进，推动全球AI安全的进步。
该项目的主要焦点并非限制AI技术的进步，而是确保其在安全框架内的可持续发展。
美国人工智能安全研究所特别指出，AI技术的普及可能带来社会影响，尤其是可能引发的大规模失业问题。因此，该项目将聚焦于如何让人工智能的应用始终服务于人类社会，保证其发展为社会带来更多积极效益，而非负面影响。
粤公网安备44030002001270号