集微网消息,一位美国高级官员11月27日表示,人工智能(AI)快速发展带来的潜在威胁意味着,需要从一开始就将安全措施内置到系统中,而不是稍后再添加。
美国网络安全和基础设施安全局局长Jen Easterly表示:“我们已经将一个充满漏洞的科技产品下线的世界常态化,然后消费者需要修补这些漏洞,我们不能生活在人工智能的世界里。”
Jen Easterly称,包括美国在内的18个国家的机构批准了英国制定的新的人工智能网络安全指导方针,重点是安全设计、开发、部署和维护。“我们必须在人工智能能力的整个生命周期中关注安全性,目前我们已经尽了最大的努力,与世界各国和科技公司合作,从技术角度出发,如何尽可能安全地构建人工智能设施。”她说道。
据悉,11月26日,美国、英国等18个国家公布了一份协议,内容涉及如何保护人工智能免受不法分子的侵害,敦促企业开发“基于安全设计”的人工智能系统。在一份长达20页的公开文件中,18个国家一致认为,设计和使用人工智能的公司需要以一种保护客户和更广泛公众安全的方式来开发和部署人工智能。