电话

020-955774

网络安全又出重磅指南!AI系统应遵循“安全设计”原则

标签: 网络设计 2023-11-29 

  11月28日,美国和英国的网络安全机构共同发布了一份名为《安全AI系统开发指引》的白皮书。这份指南旨在从设计阶段开始提高AI系统的安全性,以预防可能出现的安全风险。

  据悉,这份指南是由包括美国、英国、德国、法国、日本、韩国、新加坡在内的18个国家以及微软、谷歌、OpenAI、Anthropic、Scale AI等23个网络安全组织参与制定。

  该指南分为四个部分:安全设计、安全开发、安全部署及安全运营。每一部分都列出了可能存在的安全风险和避免方法,帮助开发人员从源头上降低相关安全风险。

  英国CISA指出,这份指南强调了将客户安全、透明度与责任以及建立“安全设计”的组织结构列为优先事项。它适用于所有类型的AI系统,不仅涵盖行业内的“尖端模型”,还包括其他使用外部托管模型或API系统的案例。

  这个指南被视为全球首个AI安全标准,并为AI系统开发提供了必要的建议。它表明AI系统应该遵循“安全设计”的原则。返回搜狐,查看更多

推荐新闻