海燕策略研究网址查询“人工智能治理与法律”研究丛书②《人工智能与国际准则》

 

 

作者：李仁涵 编著

出版时间：2022年9月

出版社：上海三联书店

 

内容简介

 

带有人工智能功能的产品只要在国际上流通，就有可能带来安全与伦理方面的问题，为保证人工智能可持续健康发展，建立与人工智能有关的国际准则是世界各国不可回避的责任。本书共四章：第一章介绍人工智能发展带来的常规安全问题（可控、已经发生）与非常规安全问题（不可控，尚未发生）；第二章介绍人工智能发展带来的伦理问题（隐私保护、人机关系、公平正义、道德责任、伦理规范失效等）；第三章介绍国际与相关国家人工智能规则情况，主要围绕人工智能发展战略、原则规则、治理架构等方面；第四章介绍人工智能发展可能引发构建国际新秩序，呼吁国际社会共同制定相关国际准则，并重视构建人工智能评测平台体系。本书可作为大众了解人工智能技术和社会双重属性读物，亦可为相关政策制定参考。

 

序

 

随着互联网、大数据和人工智能的迅猛发展，数字经济已经成为世界产业结构转型的重要引擎，中国不少企业在数字经济的发展上已经起到了引领先锋的作用。然而，中国的大数据产业、人工智能产业和互联网经济在“走出去”时面临着一个重大问题，即相关国际规则的限制。因此，首先必须把现有的国际规则研究透，一方面要按照既定的国际共识，改进我国的技术规格，完善相应的法律规则，另一方面要鼓励我国企业在“出海”的过程中维护自身的合法权益。其次，要根据我国的发展实际不断创新和修正已有规则，并积极参与人工智能等相关国际规则的制定，引领全球数字经济发展。这也是我理解李仁涵教授牵头开展《人工智能与国际准则》项目研究的主要动因。

人类在人工智能技术的发展原则方面已取得了一定共识，比如2019年G20国家采纳的“包容、可持续发展与福祉；以人为本的价值观和公平；透明和可解释性；健壮性和安全性；可问责制”等五项人工智能监管原则，以及欧盟提出的基于风险的人工智能监管框架等理念。这些监管原则和理念在过去几年里得以快速落实，促生了一系列先进的具体措施和做法，值得我国借鉴学习。但是我们必须要看到，主导人工智能规则的制定以及相关国际合作的仍然是西方发达国家。而对西方国家来说，中国的形象主要是技术竞争的对手、规则同化的对象；而不是技术合作的伙伴、规则协商的搭档。因此，中国如何在发展人工智能和数字经济的过程中，既坚持对外开放又避免西方打压，既坚持独立自主又避免故步自封，这是一个关乎未来数字社会发展方向的问题，也是一个关乎未来国际社会秩序建构的问题。这也是李仁涵教授主持的这项研究向我们提出的重要问题。

世界大道，合则两利，分则两伤。尽管国际秩序经常有反复，但是我们依然保持乐观，因为科学技术永远在发展过程中，人类社会的秩序也永远有新的可能性。人工智能和国际准则是一个新题目，本研究作为一次创新性尝试，不可能方方面面做到完美。但是努力地思考、探索，产生一些基于事实的判断和见解，就已经做出了贡献。

 

林忠钦

 

目录

 

序 / 

 

第一章 人工智能发展带来的安全问题 /

1. 常规安全问题 /

1.1 人工智能产品安全问题 /

1.2 人工智能数据安全问题 /

1.3 人工智能赋能型安全问题 /

2. 非常规安全问题 /

2.1 深度学习（属弱人工智能）的不可解释性可能带来的安全问题 /

2.2 通用人工智能（或强人工智能）的发展可能带来的安全问题 /

第二章 人工智能发展带来的伦理问题 /

 

1. 隐私保护问题 /

1.1 人工智能的隐私风险 /

1.2 数字孪生的隐私风险 /

2. 人机关系问题 /

2.1 人的自主性与尊严问题 /

2.2 虚拟情感与欺骗问题 /

2.3 人际关系与社会孤立问题 /

3. 公平正义问题 /

3.1 数字鸿沟与技术鸿沟 /

3.2 偏见与歧视问题 /

3.3 失业与资源分配问题 /

4. 道德责任问题 /

4.1 人工智能导致的责任困境 /

4.2 科技工作者的道德责任问题 /

4.3 伦理治理中的责任模糊问题 /

5. 伦理规范失效问题 /

5.1 社会秩序颠覆问题 /

5.2 人工智能对人类道德原则的冲击 /

第三章 人工智能的国际与相关国家规则现状 /

 

1. 人工智能相关国际规则 /

1.1 政府间国际组织 /

1.2 专业性国际组织 /

2. 欧美国家发布的人工智能规则 /

2.1 欧盟 /

2.2 美国 /

2.3 英国 /

3. 亚洲国家发布的人工智能规则 /

3.1 中国 /

3.2 日本 /

第四章 人工智能发展将引发构建国际新秩序 /

 

1. 国际新秩序之探索 /

1.1 以人为本的国际新秩序 /

1.2 和而不同的国际新秩序 /

1.3 开放合作的国际新秩序 /

1.4 基于人类命运共同体的国际新秩序 /

2. 加强国际交流与合作 /

2.1 技术研发合作 /

2.2 知识产权合作 /

2.3 技术标准合作 /

2.4 经贸规则合作 /

2.5 法律法规合作 /

2.6 监管体系合作 /

3. 重视构建人工智能评测平台体系 /

3.1 人工智能评测情况的国内外现状 /

3.2 构建人工智能评测平台体系将造福未来 /

 

致谢 /

 

作者简介

 

李仁涵，工学博士、教授。现为上海交大人工智能研究院首席顾问、上海市数字医学创新中心学术委员会副主任；国家新一代人工智能治理专业委员会委员；上海国家新一代人工智能创新发展试验区专家咨询委员会副主任委员兼人工智能治理工作组召集人。主要从事人工智能、智能制造、智慧医疗等发展战略、规划、落地等方面的工作。曾参与撰写、编著、翻译学术文章（或著作）共计30多篇（或部）。曾获国家科技进步二等奖一项，多项省部级科技进步奖、优秀成果奖等。近期，牵头完成与人工智能有关的研究项目有：《智能时代高等教育发展模式》《人工智能技术属性与社会属性》《全球变局下中国人工智能发展模式》《人工智能与价值观》《人工智能知识图谱》《人工智能与国际准则》等。