聚焦人工智能与未来法治构建 《上海倡议》发布

【安防在线 www.anfang.cn】

东方网记者包永婷9月19日报道：人工智能等新技术的快速发展和广泛应用，给人们的生产、生活方式带来了革命性的变化。用法治促进、规范和保障人工智能的健康持续发展这一主题凸显在人们的面前。作为世界人工智能大会特色活动之一，以“发展应用与法治保障”为主题的“人工智能与法治”高端研讨会今天在上海举行。现场还发布了《人工智能与未来法治构建上海倡议》，从四大方面务实提出了人工智能与未来法治发展的14项具体倡议，坚持面向全球、面向未来、面向和平，坚持以人为本、向善安全、创新发展、共享成果、可靠可控、规范有序。

人工智能在推动社会发展与进步的同时，也为司法实现现代化提供了重大历史机遇。以上海刑事案件智能辅助办案系统的研发应用为例，上海市法学会党组书记崔亚东介绍了该系统的总体定位、主要功能、研发过程等，以及该系统的应用所发挥的作用、全国部分省市推广应用的情况，直观展示了智能科技成果助力法治中国建设。他说：“实现司法现代化是一项复杂的系统工程，人工智能国家战略为司法现代化指明了方向，人工智能最新发展为司法现代化提供了科技支撑。”

在抓住人工智能机遇的同时，崔亚东表示，要针对人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，加强人工智能发展与法治的前瞻性研究，积极构建人工智能未来法治体系，用法治保障人工智能健康持续发展，为人工智能国家战略的实施提供法治保障。

人工智能的发展应用离不开法律的规范和保障。刑法学专家刘宪权提出，应根据不同时代机器人的特征确定涉机器人犯罪的刑事责任承担路径。他认为，我国目前的刑罚种类都无法适用于强智能机器人，应重构我国的刑罚体系，使得强智能机器人被纳入刑罚处罚的范围，并针对其自身的特点，设立特殊的刑罚处罚方式。民法学专家彭诚信提出了人工智能享有有限法律人格的设想，并从明确其归责原则、为其强制购买责任保险、在一定范围内先制定具体的“人工智能发展法”三个方面，针对人工智能的法律主体地位作出回应。

研究运用法治思维和法治方式，规范和引导人工智能行业良性发展，更好地造福人类，已经成为法学法律界及社会各界的普遍共识。研讨会现场，科大讯飞股份有限公司高级副总裁赵志伟在演讲中分享了人工智能技术的最新进展和在政法领域的应用成果，语音合成技术、语音识别技术、智医助理机器人等在全球处于领先地位。北京优炫软件股份有限公司联合创始人赵春学则提出，随着AI数据的管理风险和技术风险越来越大，传统的安全防护效能日益下降，需重视用法律保障促进数据安全技术的加速发展。

微软和腾讯都已纷纷进军人工智能、云计算的业务，并推出了各自的产品和服务。微软全球资深副总裁洪小文提出人工智能开发的六大原则：公平、可靠和安全、私密和有保障、透明、负责。他表示，计算机本身并无善恶之分，善恶关乎人工智能系统的设计者，要保证他们掌握正确的工具，在负责任的人工智能原则、政策和法律下，发展人人共享的人工智能，全面驱动经济和社会进步。腾讯云总经理王栋则重点介绍了腾讯的云计算机品牌――腾讯云，并介绍了该服务为政府机构提供一站式大数据解决方案的众多案例，如广东省集成民生服务的移动服务平台“粤省事”，在全国40多家法院试点应用的“智慧法院”解决方案等。

在学术研究上，上海学者率先对人工智能的相关法律问题开展研究，推出了一批有影响的研究成果：由《机器人是人吗？》《谁为机器人的行为负责？》《人工智能与法律的对话》组成的“独角兽法学精品・人工智能”丛书涵盖国外科学界和法学界研究的最前沿成果，探讨了机器人和相关技术目前以及未来可能对人类的影响，以及这些领域内的法律方面问题；《人工智能：刑法的时代挑战》则对人工智能时代刑法所面临的问题进行回应，代表了国内学者在该领域的最新研究成果。

研讨会由上海市经济和信息化委员会、上海市法学会、上海人民出版社、上海市科学技术协会、上海市科学学研究所、科大讯飞6家单位联合主办。

附：人工智能与未来法治构建上海倡议

我们正站在人类历史的新起点上。人工智能等新技术的快速发展和广泛应用，给人们的生产方式和生活方式带来了革命性的变化，人类社会在人工智能持续发展中迎来新的机遇，同时也迎来新的挑战。人工智能作为一项影响面极广的颠覆性技术，其发展的不确定性带来的风险与挑战，对法律、安全、就业、道德伦理、政府治理、经济发展、社会稳定乃至全球治理将会产生深远影响。如何趋利避害，共享成果，成为人们共同关心的问题。2018世界人工智能大会“人工智能与法治”高端研讨会，围绕如何应对人工智能可能带来的风险挑战，构建人工智能未来法治体系，促进、规范、保障人工智能健康持续发展，服务人工智能国家战略实施，促进人类社会福祉的主题进行了深入的讨论，形成共识，共同发起“人工智能与未来法治构建上海倡议”。

一、人工智能与未来法治构建的理念框架

1.坚持面向全球、面向未来、面向和平，坚持以人为本、向善安全、创新发展、共享成果、可靠可控、规范有序，构建人工智能未来法治体系，将人工智能发展应用纳入法治的轨道。

2.加强对人工智能创新发展及风险挑战的前瞻性研究预判和约束性引导，开展人工智能与法治的基础理论研究，为人工智能的安全、可靠、可控发展提供支撑。

二、促进规范保障人工智能发展的法治路径

3.探索在国家层面建立人工智能规范发展与风险防控研究体系，规划布局、统筹指导研究的方向、重点，提升针对性、系统性、权威性。

4.建立与人工智能创新发展相适应的立法规范、法律体系、政策体系和伦理规范，形成人工智能安全评估、风险防控法律机制，提升技术规则、应用规则的管控能力。

5.制定技术设计阶段的法律规范，通过规则设定促进人工智能算法的公正、透明、安全，避免算法歧视，杜绝有悖伦理价值及公序良俗的技术应用。

6.构建数据权益体系，形成数据分享的安全机制、利益机制、追责机制，保证数据合法、安全流通使用。

7.加强人工智能知识产权研究，健全人工智能领域技术创新、知识产权保护与标准化互动支撑机制。

8.开展对人工智能应用场景的法律研究，建立人工智能复杂场景下风险防范与应对机制。

9.开展预防和惩治涉人工智能违法犯罪的相关研究，避免人工智能被应用于违法犯罪活动。

三、加强人工智能法律领域的教育研究与实践

10.倡导在法学学科基础上拓宽人工智能等专业教学内容，重视人工智能与法学教育的交叉融合，培育一批具备法学素养并熟悉人工智能技术原理的复合型高峰人才。

11.推进“政产学研用”合作，整合高等院校、科研机构、党政机关、企事业单位研究资源，共享智慧与经验，合力推动人工智能与未来法治构建。

12.加强人工智能与法治领域的深度融合，推动人工智能在执法、司法领域的深度应用，加快智慧法治建设，促进法治实践智能化。

四、推动人工智能未来法治的国际交流与合作

13.推动人工智能发展应用的国际交流与合作，汇集各方智慧，共同探讨、共推发展、共护安全、共享成果。

14.搭建人工智能与法治的国际合作框架，缔结国际公约，建立国际组织，反对与防止智能霸权，促进人工智能的和平、充分、有效利用，共创人类社会美好未来。