人工智能的研究和产业化进程方兴未艾，算法歧视也被学者和业界广为关注，算法公开成为呼声较高的解决良方。赛迪智库政策法规研究所认为，算法公开并不能根治算法歧视现象，且有一定的副作用。在具体实践中，数据比算法本身更容易导致歧视性后果的出现。虽然无法从根本上避免算法歧视，但可以通过针对不同要素的事前、事中或事后审查加以控制。
数据、算法、算力共同使得人工智能发展。这种算法偏差和算法歧视问题的出现后，研究人员认为算法公开是治本之道，分歧点在于算法公开能否解决问题，这是一个争议。
我认为问题是数据，造成不好结果的问题是多个原因的。根本原因是算法是一种技术，从技术中立来看无所谓好坏，它是现实社会的映射。算法歧视不是本质原因，根本原因是数据。从几个层次来看，第一个方面，数据本身不全面，不是完整的数据；另一个方面，数据带有一定的可替代性，要达到一定的结果，通过这样的数据可以达到这一结果，另一些数据也可能达到同样的结果。数据本身和数据方法的强相关程度不一样。
我的观点不是否定算法公开的作用，但是算法公开的效果需要思考。有五个方面的建议。一，算法公开的逻辑，对于普通人而言没有能力鉴别算法是不是造成了歧视的；二，算法带有一定的时效性，人工智能系统的长处在于可以不断学习，信息技术发展快，人员变化也快，出于机器学习的结果，或者基于优化的结果，可能在最后经过迭代以后，算法已经不太一样了。公开可能意义可能就不大了。第三，技术中立，作为一项技术的算法来说无所谓善恶；第四个问题是考虑到算法，算法是不申请专利的，它是一种商业机密，如果是强制要求，要求公司公开算法，是违背现有商业逻辑和公司法以及知识产权法的一般规定。从长远来看，这不是商业化的操作方式；第五，一旦公开之后就不可控了，可能会有一些别有用心的人利用算法进行一些不法事件。
我反对的不是算法公开的作用，算法公开是不是能完全解决问题有争议。算法公开的对象和范围核心点是个问题。法律上有一个基本逻辑，要守法的第一步是公开，算法和国家法不一样的是国家法是针对所有人的公共行为，而企业是私主体，如果让企业公开自己的商业秘密行为，是不公平的；第二，让某些人知道算法公开，对公司会造成的损失，但是难以形成合理的补偿机制，这是一个不得不考虑的问题。另外一个，定期持续公开的问题，在我看来对于企业来说是一个巨大的负担，由谁定期的公开也是一个问题。
在对策方面，我认同综合治理的观点，算法是一个系统性的事情，在数据、算法、算力等方面都要完善。实际上我认为，算法歧视是人类社会中带个人偏见的映射，歧视是不可能百分之百的杜绝的，通过系统综合的治理，尽可能的引导处理事情。在公开上，要把握好公开的时间和范围，还是以个案的处理方式为好，提到一般数据保护法的问题，我有不同的观点，我认为对于算法公开的时间点，以个案形式来处理比较好。而不是以强制性的统一立法的方式来处理。
人工智能形成了重大影响，人工智能引起更多注意的是人工智能的显性产品，但实际上很多隐形的东西如算法造成的影响更大。算法在带来好处的同时也引起了很多问题。比如在美国发生的黑人标注问题显然是歧视问题。
栾所长认为是数据带来偏差，我认为是算法本身的问题。算法是算法歧视的重要原因。
算法本身是算法歧视的原因，算法公开肯定是有用处的。算法很重要，但是根本原因是数据。栾所长认为，人工智能是打面机，我认为人工智能可能就像小孩子，同样的养料，但是长大了在各方面可能都会有一定的差异。人工智能就是如此，同样的数据可能算法不同而造成了结果的不同。如果公开算法，就可以承担责任，因此公开算法有一定作用。
栾群所长提出的五种缺陷我不完全同意，我可以进行如下回复。首先对于专业性强的问题不是要每个人都知道，公开可以起到监督的作用；第二，算法具有一定的时效性，是一次性公开还是持续性公开的问题，要不断地公开；第三，算法中立的问题，同样的数据面对不同算法是不一样的，数据也是中立的；第四个，现有的算法作为商业秘密来保护，但是知识产权是为了商业秘密的保护问题，知识产权也可以保护知识产权，而且也可以保护公司的名誉，比如今日头条就公开过算法的逻辑；第五个，信息公开的确实具有共同的缺陷，可能有坏人利用，但是也会有相应力量遏制。
歧视问题是一个无法根治的问题，对于算法进行综合治理，包括法律、技术等多方面来治理。个人觉得比较重要的是要完善个人信息保护和数据的应用。数据是一个一体两面的问题。算法和个人信息保护有着很大的关系，可以参照欧盟的数据保护法，对于一些敏感的信息不能够进行自动化决策。
2011年7月中国政法大学民商法学博士毕业，2012年-2014年9月，在工业和信息化部规划司借调。2014年10月至今，任赛迪智库政策法规研究所副所长、所长。
数据、算法、算力共同使得人工智能发展。这种算法偏差和算法歧视问题的出现后，研究人员认为算法公开是治本之道，分歧点在于算法公开能否解决问题，这是一个争议。
我认为问题是数据，造成不好结果的问题是多个原因的。根本原因是算法是一种技术，从技术中立来看无所谓好坏，它是现实社会的映射。算法歧视不是本质原因，根本原因是数据。从几个层次来看，第一个方面，数据本身不全面，不是完整的数据；另一个方面，数据带有一定的可替代性，要达到一定的结果，通过这样的数据可以达到这一结果，另一些数据也可能达到同样的结果。数据本身和数据方法的强相关程度不一样。
我的观点不是否定算法公开的作用，但是算法公开的效果需要思考。有五个方面的建议。一，算法公开的逻辑，对于普通人而言没有能力鉴别算法是不是造成了歧视的；二，算法带有一定的时效性，人工智能系统的长处在于可以不断学习，信息技术发展快，人员变化也快，出于机器学习的结果，或者基于优化的结果，可能在最后经过迭代以后，算法已经不太一样了。公开可能意义可能就不大了。第三，技术中立，作为一项技术的算法来说无所谓善恶；第四个问题是考虑到算法，算法是不申请专利的，它是一种商业机密，如果是强制要求，要求公司公开算法，是违背现有商业逻辑和公司法以及知识产权法的一般规定。从长远来看，这不是商业化的操作方式；第五，一旦公开之后就不可控了，可能会有一些别有用心的人利用算法进行一些不法事件。
我反对的不是算法公开的作用，算法公开是不是能完全解决问题有争议。算法公开的对象和范围核心点是个问题。法律上有一个基本逻辑，要守法的第一步是公开，算法和国家法不一样的是国家法是针对所有人的公共行为，而企业是私主体，如果让企业公开自己的商业秘密行为，是不公平的；第二，让某些人知道算法公开，对公司会造成的损失，但是难以形成合理的补偿机制，这是一个不得不考虑的问题。另外一个，定期持续公开的问题，在我看来对于企业来说是一个巨大的负担，由谁定期的公开也是一个问题。
在对策方面，我认同综合治理的观点，算法是一个系统性的事情，在数据、算法、算力等方面都要完善。实际上我认为，算法歧视是人类社会中带个人偏见的映射，歧视是不可能百分之百的杜绝的，通过系统综合的治理，尽可能的引导处理事情。在公开上，要把握好公开的时间和范围，还是以个案的处理方式为好，提到一般数据保护法的问题，我有不同的观点，我认为对于算法公开的时间点，以个案形式来处理比较好。而不是以强制性的统一立法的方式来处理。
西南政法大学自动驾驶法律研究中心主任，重庆市自动驾驶道路测试专家管理委员会执行委员，百度公共政策研究院高级研究员。
人工智能形成了重大影响，人工智能引起更多注意的是人工智能的显性产品，但实际上很多隐形的东西如算法造成的影响更大。算法在带来好处的同时也引起了很多问题。比如在美国发生的黑人标注问题显然是歧视问题。
栾所长认为是数据带来偏差，我认为是算法本身的问题。算法是算法歧视的重要原因。
算法本身是算法歧视的原因，算法公开肯定是有用处的。算法很重要，但是根本原因是数据。栾所长认为，人工智能是打面机，我认为人工智能可能就像小孩子，同样的养料，但是长大了在各方面可能都会有一定的差异。人工智能就是如此，同样的数据可能算法不同而造成了结果的不同。如果公开算法，就可以承担责任，因此公开算法有一定作用。
栾群所长提出的五种缺陷我不完全同意，我可以进行如下回复。首先对于专业性强的问题不是要每个人都知道，公开可以起到监督的作用；第二，算法具有一定的时效性，是一次性公开还是持续性公开的问题，要不断地公开；第三，算法中立的问题，同样的数据面对不同算法是不一样的，数据也是中立的；第四个，现有的算法作为商业秘密来保护，但是知识产权是为了商业秘密的保护问题，知识产权也可以保护知识产权，而且也可以保护公司的名誉，比如今日头条就公开过算法的逻辑；第五个，信息公开的确实具有共同的缺陷，可能有坏人利用，但是也会有相应力量遏制。
歧视问题是一个无法根治的问题，对于算法进行综合治理，包括法律、技术等多方面来治理。个人觉得比较重要的是要完善个人信息保护和数据的应用。数据是一个一体两面的问题。算法和个人信息保护有着很大的关系，可以参照欧盟的数据保护法，对于一些敏感的信息不能够进行自动化决策。
联系方式：
联系电话：010-88558935
邮箱：xupy@staff.ccidnet.com
本期出品方：
赛迪研究院政法所
赛迪研究院政法所
