超百名AI公司员工联名呼吁加州通过新人工智能监管法案

数智朋克讯，超百名来自OpenAI、Anthropic、DeepMind、Meta和xAI等大型人工智能公司的现任和前任员工，近日联名致信加州州长加文·纽瑟姆，敦促其签署加州新的人工智能监管法案SB 1047。这封信表达了他们对某些人工智能模型潜在风险的严重担忧，尤其是在扩大生物武器使用和关键基础设施网络攻击等方面。

SB 1047 法案要求人工智能公司在系统向公众发布前必须进行严格的安全测试，并对模型可能造成的灾难性后果负责。此外，该法案还为技术工人提供举报人保护。虽然该法案在加州议会和参议院都已获得通过，但州长纽瑟姆尚未公开表明立场，目前面临着来自双方的强烈游说压力。根据规定，纽瑟姆需在9月30日前决定是否将该法案签署成为法律。

该法案的支持者认为，随着人工智能技术的迅速发展，如果缺乏必要的监管，可能会带来无法预见的灾难性后果。xAI创始人埃隆·马斯克公开表态支持对人工智能进行监管，而OpenAI的竞争对手Anthropic以及人工智能领域的先驱Yoshua Bengio和Geoffrey Hinton也已表明支持立场。他们在此前的公开信中表示，政府对如何开发和部署这些强大的人工智能系统的决策，将对加州乃至全球产生深远的影响。