一、问题及原因分析

人工智能是驱动新一轮科技革命与产业变革的战略性技术力量。近年来，在党中央、国务院的战略政策引导下，我国人工智能发展迅速，已经有力地推动了社会经济的发展和人民生活水平的提升。然而必须注意到，由于人工智能技术仍处于快速发展中，若不注意有效地安全控制和管理，则可能留下难以估量的安全隐患。在主持中共中央政治局第九次集体学习时指出：“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。”为了达到这一目标，在法律规范、监督管理、学术研究等方面都需要做出相应的努力。

具体看来，当前人工智能技术的发展主要存在如下安全方面的问题：

1)人工智能安全健康发展法规和伦理道德研究不足。当前人工智能应用越来越广泛，但其在法律主体、权利、义务和责任方面还存在很多研究和应用空白。随着人工智能的应用推广，其在法律、社会规范和道德伦理的挑战将越来越明显。总体来看，目前针对人工智能的发展主要以战略、政策的形式进行引导激励，而相应的法律法规以及道德规范要求还不健全，尚不能有效防范控制潜在的安全风险。

2)多种因素可能导致人工智能产品和应用存在缺陷。在从算法原理、设计编码、生产实现以及到应用部署等等多个阶段中，由于算法本身未考虑公平性、程序员编码漏洞、用于模型训练的数据样本存在偏差等因素，均可能导致实际应用中人工智能算法决策出现错误、偏差或带来歧视性问题。如果问题发生在涉及国计民生的重要领域(如自动驾驶、医疗、金融等)中，将会带来严重的危害。

3)人工智能产品和应用的安全评估工作进展缓慢。当前，针对爆发式的人工智能产品和应用，不少研究机构在熟悉的技术点方面发现了多个安全漏洞，但几乎都缺乏全面和系统性的安全评价。总体上，由于存在技术融合多、使用环境复杂、应用领域广等方面的原因，目前针对人工智能产品和应用的安全评估工作尚处于研究探索阶段，在系统性评估技术、评估标准规范、测评工作组织方面进展较为缓慢。

二、具体建议

为了进一步加强全行业对人工智能安全的重视，规范引导人工智能技术安全健康发展，确保其成为驱动社会经济发展和人民生活水平提升的可靠战略性力量，应在大力推动新技术研发的同时健全安全管控措施，以达到“安全、可靠、可控”要求。

具体建议如下：

1)加快开展人工智能安全应用法规和伦理道德的研究

除了要继续落实和加强对人工智能的激励引导措施之外，建议还加快安全应用规章和规范的研究，确保其沿着良性健康发展之路前进。具体的安全规范机制包括研究出台相关法律法规，界定人工智能应用的法律主体及相应的权利和义务;开展人工智能伦理道德的探讨，约束人工智能研究与实际应用的范围界限。

2)建立关键领域内的人工智能应用安全审查机制

在一些直接影响国计民生和公共安全的关键领域中，例如医疗、金融、交通和教育等，人工智能应用和人身安全、社会稳定和国家安全密切相关，一旦发生安全事件将会造成严重的后果。因此在这些领域内，建议建立人工智能应用的准入审查机制，加强人工智能算法及应用的安全性、可控性和透明性的审查。

3)展开人工智能安全评估技术研究，健全完善测评机制

建议通过产业政策引导和组织管理措施，一方面引导加快研究人工智能产品和应用的安全评估评测技术，逐步积累安全检测样例库、测试样本库等知识资源和研发测试工具集，提高人工智能产品和应用的安全评估评测能力;另一方面推动人工智能安全相关的国家标准和行业标准的制定工作，明确相关安全评估指标、方法和要求，建立安全测评流程和管理规范，健全人工智能产品和应用安全测评机制。