11月28日，美国和英国的网络安全机构共同发布了一份名为《安全AI系统开发指引》的白皮书。这份指南旨在从设计阶段开始提高AI系统的安全性，以预防可能出现的安全风险。

　　据悉，这份指南是由包括美国、英国、德国、法国、日本、韩国、新加坡在内的18个国家以及微软、谷歌、OpenAI、Anthropic、Scale AI等23个网络安全组织参与制定。

　　该指南分为四个部分：安全设计、安全开发、安全部署及安全运营。每一部分都列出了可能存在的安全风险和避免方法，帮助开发人员从源头上降低相关安全风险。

　　英国CISA指出，这份指南强调了将客户安全、透明度与责任以及建立“安全设计”的组织结构列为优先事项。它适用于所有类型的AI系统，不仅涵盖行业内的“尖端模型”，还包括其他使用外部托管模型或API系统的案例。

　　这个指南被视为全球首个AI安全标准，并为AI系统开发提供了必要的建议。它表明AI系统应该遵循“安全设计”的原则。返回搜狐，查看更多