基于人类命运共同体理念的人工智能风险治理研究
赵 磊
【摘要】构建人类命运共同体是习近平新时代中国特色社会主义思想的重要组成部分，是中国为人类和平发展与全球治理贡献的智慧和价值观念。人工智能领域讨论的风险问题主要有技术风险、安全风险、伦理风险和环境风险等。它们具有较大的不确定性、全球性与关联性、现实性与非现实性、智能性等特征。人类命运共同体理念在价值体系、战略智慧、思想方法等方面对人工智能的风险治理具有重要启发意义。根据人工智能的风险特征及人类命运共同体的启示主要从治理观念、治理原则、治理模式及治理路径等方面提出人工智能的风险治理策略。
【关键词】人类命运共同体；人工智能；风险治理
构建人类命运共同体是习近平新时代中国特色社会主义思想的重要组成部分，是新时代人类社会发展与治理的新理念，是中国为人类和平发展与全球治理贡献的中国智慧和价值观念。全球一体化发展背景下，人类命运共同体理念已成为全球共识，面对各种全球性风险，任何国家都无法做到独善其身。人工智能（Artificial Intelligence）的迅速发展正在改变我们的生活，改变世界，已成为经济发展的新引擎、国际竞争的新焦点，成为世界各国共同关注的话题。同时，人工智能又是难以准确预测其后果的颠覆性技术，伴随着诸多不确定性和风险，使人类发展面临着一些问题和挑战。在全球一体化发展背景下，人工智能的风险问题已经超出了地域或国家界限，成为人类共同面对的问题。因此，人工智能的风险治理问题也需要国际协商与合作，需要全球共同治理和防范，人类命运共同体思想为该问题的解决提供了重要的思路和逻辑参考。
一、人工智能的风险类型与特征
人们对人工智能（AI）的定义多种多样，有偏重技术的、有偏重科学理论的、有偏重哲学认识的，但他们都有着共同之处，那就是人类生命智能的科学技术化，即通过科学技术手段把人类的生命智能表达出来，其实质表现为科学技术，是集生物学、数学、信息论、控制论、认知科学、心理学科、计算机技术、哲学等于一体的综合性较强的高科技群落，与其它高技术一样，人工智能也具有二重性，在推动人类经济社会发展的同时，也具有一定的风险和潜在威胁。因此，对人工智能的研究呈现出两种态度，即对人工智能产业经济的疯狂推崇和对其风险问题的深深担忧。概而观之，人们对人工智能风险的讨论主要包括四个方面，一是技术风险，主要指由于技术发展的局限性或缺陷带来的风险，如人工智能技术的失控问题、人工智能算法歧视问题、人工智能技术导致的泄密问题等；二是安全风险，主要指人工智能的设计与使用过程中带来的安全隐患，德国大众公司的机器人伤人事件、无人机对平民的伤害、自动驾驶汽车的安全问题、人工智能武器问题、与大数据结合侵犯隐私权问题等；三是伦理风险，包括人工智能责任主体的确定、智能机器人的人权问题、人工智能算法的伦理问题、人工智能与人类智能的伦理关系等；四是环境风险，即人工智能发展带来的现实和潜在的环境问题。
总结人工智能的各种风险，可以发现它们有以下一些特征：
首先，人工智能风险具有较大的不确定性。由于人工智能理论和技术的复杂性、深度学习带来的一定创造性和自主性等导致人工智能风险比一般技术人工物具有更大的不确定性，表现在以下几方面：（1）风险责任主体的不确定性，有时会出现风险责任主体模糊、边界不清、集体无意识、有组织的不负责任等现象；（2）风险内容的不确定性，即不知道存在什么样的风险，风险发生的时间、危害大小、风险指向等都具有不确定性，甚至在有无风险上专家学者都存在不同的认知和判断；（3）人工智能发展的目标具有不确定性，也就是说人工智能最终要达到什么样的智能水平，有没有边界？这些问题都没有明确的答案，因此对于其未来风险也就不能确定。（4）风险生成、发展和传播路径的不确定性，在人工智能科学和技术发展的过程中，风险是怎么生成、发展和传播的缺乏科学的认知。比如机器人异化问题，大众公司员工被自己设计的机器人杀害。
其次，人工智能风险的全球性和关联性特征。其它技术所带来的风险一般具有地域性、局部性，常常是独立存在的，而人工智能由于其是以算法为核心、以深度学习和数据训练为手段、依托大数据和现代网络技术的具有一定自主性的智能技术，其影响就会超越地域性和局部性，跨出国界，波及全球。人工智能对产业和社会组织管理过程的不断渗透和参与，使其风险也会波及到社会的各个层面，公众、技术专家、企业和科技组织、政府，各种行业和多种技术领域都会因风险关联在一起，而不能置身事外。从人工智能的发展来看，当代人工智能的崛起即是全球化发展的结果，又是全球化新的推动轴。殖民化和自由贸易带来的两次全球化发展的动力支撑在日渐式微，人工智能成为全球化发展的新引擎，人工智能产业全球发展如火如荼，将把人类社会推进到智业文明时代。也就是说人工智能的发展不像其他科技形式，而是代表一个新的全球化时代的到来，从此种意义上说人工智能相应的风险也是全球性的。
再次，人工智能风险是现实性与非现实性的统一。所谓其现实性是指人工智能的技术风险、安全隐患、伦理风险等是客观的、真实的存在，它不以人的意志为转移，必须引起人们的注意和警觉。所谓非现实性是指人工智能风险具有社会建构性和预期性，社会建构性是指人工智能的风险常常是专家解读、媒体报道、个人想象出来的风险存在，这与各种利益分配有关，并不一定是真实存在的风险。预期性是指还没有到来的，未来的风险。“生年不满百，常怀千岁忧。”人工智能的发展，使人早就感受到了人类被怪物入侵和被机器主宰和控制的风险，从而为人类的前途担忧。“杞人忧天”在现代化科技手段下正在变得越来越合乎理性。如由于机器人的发展会带来大规模的失业风险，人工智能将终结人类文明等等就成为人工智能威胁论的主要理由。
最后，人工智能风险具有智能性特征。相对于其它科技成果或产品，人工智能的风险主要来源于其智能特征。例如机器人与电脑，电脑程序出问题的风险局限于使用电脑本身，而机器人程序出问题，由于程序能够控制其相应的行动，其风险会指向外部，甚至伤及人身。由于人工智能的智能性，通过深度学习产生了一定的自主性，甚至创造性，从而才有了人们担心的失控风险和不是源于设计缺陷的人工智能自我产生的风险；由于其智能性，才有了人工智能通过自主创造虚假新闻，或者篡改网络信息制造社会混乱的风险；由于其智能性，才有了与人类智能一决高下的伦理和安全风险。“人工智能的发展必然会挑战既有的人类价值，促使人类去重新思考人类的基本属性与伦常关系。”[]
二、人类命运共同体意识对人工智能风险治理的启发
通过以上对人工智能风险类型与特征的分析和解读，可以发现人工智能不同于一般的技术人工物，无论是其对社会发展和文明时代的推进，还是伴随其而来的风险和挑战，都发生了深刻的变化。构建人类命运共同体是在全球化发展背景下，由中国贡献的应对人类共同挑战，解决人类和平发展问题，建设相互尊重、公平正义、合作共赢新型国际关系的理性行动方案，也是人类社会发展与治理的一种价值理念，对于人类应对和治理人工智能风险也有着重要的启发意义。
首先，人类命运共同体是一种价值体系，强调人类价值观。人工智能对于人与自然来说是一种具有一定智能的异己力量，未来也可能会发展成为与人、自然共存的另一种智能世界，甚至出现自然人与人工智能的共生体，“生物智能必将与我们正在创造的非生物智能紧密结合。”[]人工智能的迭代发展将挑战人的边界，甚至改变人的本质，其风险指向的是作为类本体的人。人类命运共同体是人类共同利益和共同价值的反映。因此，可以从构建人类命运共同体的视角，共同应对人工智能的风险问题。
其次，人类命运共同体是一种战略智慧，倡导全球协同发展战略。对于人工智能威胁论及其引发的人工智能恐惧，有些专家学者认为，这与科技发展史上人们对新技术及其产品的恐惧是同一个问题。本研究感觉这种观点有将问题简单化的嫌疑，这是因为人工智能与其它非智能新技术产品有着质的区别，其风险除了对新事物缺乏认知和新事物的不确定性外，更多地是源于机器具有的智能性。从理论上来讲，其它新技术产品，人们对其研究愈多、技术水平愈高、愈成熟，其风险越小，人们对其恐惧越少。但人工智能技术水平越高，智能水平也越高，自主性越强，失控的风险越大，人们越担心，这也是人工智能发展上的恐惧谷理论。就这一点而言，人工智能的风险不同于一般的技术人工物，它已经超越了国界和意识形态的分歧，是作为类存在的人共同面对的问题，解决此类问题，不仅要靠国家治理，更重要是要有全球视野和全球战略。“自十八大报告提出‘提高人类命运共同体意识’以来，在全球治理的积极参与中，寻求与世界其他国家和地区的共同发展，将国家的繁荣与人类的共同福祉联系在一起，已经成为中国的重要战略。”[]因此，人类命运共同体意识为人工智能的风险治理提供了借鉴思路。
最后，人类命运共同体是一种思想方法，推行打破壁垒和零和思维，实现合作共赢。现代科技的发展和人类命运共同体意识，使得“各国公民同时也就是地球公民，全球的利益同时也就是自己的利益，一个国家采取有利于全球利益的举措，也就同时服务了自身利益。”[]随着人工智能的发展，在更多的领域人将被机器取代，失业并不是最担心的，因为人工智能在消灭一些人的岗位的同时，也会创造一些其他岗位，迫使人类做出产业、行业和工种的调整。可怕的是机器取代人的职位后带来的人与人之间交流和沟通机制的变化，人整天面对的是机器：机器人同事、机器人保姆、机器人医生、各种人工智能业务等，人的社会本性将受到挑战；人们对专家系统和人工智能的依赖会导致个人技能的弱化、个人判断能力的下降，“充斥人类社会的数百万台机器会强制人类不使用常识，而只是遵循规则：它们的目的是把我们变笨。”[]人类如何协调自身与人工智能的关系，怎样通过人工智能的途径实现人类解放与健康、和谐发展，我们可以从人类命运共同体理念中获得启发。
三、人类命运共同体理念指导下的人工智能风险治理对策
人类命运共同体意识给人类社会发展和治理提供了新的思路和方案，人工智能作为人类社会发展的新引擎，其风险治理也必须遵循和符合人类命运共同体的要求，才能使其更好地融入人们的工作和生活，更好地服务于人类社会发展。人工智能的风险治理是人类命运共同体框架下，全球治理理念的具体实践和应用。从人工智能风险的特征分析和人类命运共同体的视角，主要从以下几个方面提出人工智能的风险治理对策。
首先，从人工智能风险治理的观念上来讲，应树立全球化治理，造福全人类，实现人机合一的思想观念。在智能时代，应从人类命运共同体的高度和价值观念出发认识和治理人工智能及其风险，这是全球和人类共同面对的问题。“全球治理理论的核心观点是，由于全球化导致国际行为主体多元化，全球性问题的解决成为一个由政府、政府间组织、非政府组织、跨国公司等共同参与和互动的过程，这一过程的重要途径是强化国际规范和国际机制，以形成一个具有机制约束力和道德规范力的、能够解决全球问题的‘全球机制’。”[4]由于人工智能风险的全球性、关联性、智能性以及生成、发展和影响的不确定性等特征，要全面解决好人工智能的风险问题，就需要风险治理的全球机制。人类命运共同体“既消除了群体对个人的压迫，也消解了个人对他人的支配。”[]因此，在此理念指导下，要避免狭隘的团体和个人利益，走人类共同发展的道路。从设计、开发到使用、推广，一定要把造福人类作为出发点，而不能仅仅着眼于国家利益、团体利益、个人利益，损人利己、转嫁风险、推脱和逃避责任、有组织的不负责任等。古希腊亚里士多德有关技艺的论述就包含着人的目的性基础上的“人机统一”思想，后来机械论者更是把人看作机器，更强调人与机器的同一性。但是，要么由于科技发展的局限性、要么是认识上的局限性，人类并没有实现真正的人机合一。人工智能和大数据技术的发展解决了人机合一的技术限制，为实现人机合一开辟了道路。当前，面对人工智能的各种风险，我们不能像威胁论者倡导的那样，一味地取消、限制人工智能的发展，而是如何寻求统一性，充分利用好人工智能这一发展契机。人类与人工智能要实现人机合一，在人类命运共同体框架下，构建人机伦理共同体，解决人工智能带来的伦理及其它风险问题。
其次，从治理原则上来说，应坚持以人为本、防治结合、协商共治的民主治理原则。这里的以人为本，不同于国家利益界限下的人民利益为本思想，而是对其进一步发展，是人类命运共同体理念下，以类存在的人的利益为根本的思想。开发人工智能的目的并非人造智能和超越人类智能，而是在人类智能启发下的算法运用，其研究、开发的出发点必然是以不危机人的利益为前提。这样就从源头上断绝欲通过技术手段控制人类、超越人类的思想和行为，避免人工智能威胁论成为现实。治理人工智能的风险，应以预防为主，技术评估、伦理评估提前介入研发过程，主动出击而不是等风险到来后的被动应对，做到防治结合。经济的全球化发展形成了全球利益链，每个国家都是利益链上的一环，并与其他国家的利益绑定在一起，一荣俱荣，一损俱损。因此，治理人工智能的风险，应该在人类命运共同体理念的指导下，超越狭隘的利益观、价值观，抛弃零和思维，坚持互利共赢、共同协商、共同治理的原则。
“原有的单一线性和科学主导的专家模式已很难应对新兴科技带来的风险。”[]智能将成为人类生活的一种场景，人工智能的发展将会影响到每个人，人工智能风险的治理，不单是依靠政府和人工智能专家，更需要公众参与其中，充分发挥民主治理的的优势。政府管理部门、科技专家与公众应该建立起互信机制和沟通渠道，事实证明“当一个社会越少公开认知到风险，则将产生越多的风险。”[]政府管理部门及科技专家应该做好风险信息的发布、科普、澄清等工作，让公众充分的理解和关注，并参与监督和治理。英国学者布赖恩·温( Brain Wynne) 认为，技术民主的思潮转变在早期主要是以一种匮乏模型来理解公众对科技的迟疑或抗拒，认为无知是公众抗拒科技的主要原因。[]在人类命运共同体理念下，发扬民主，全球共商、共治、共管，才能取得良好的人工智能风险治理效果。
再次，从治理模式上来看，人工智能的风险治理应从外部管理转向内生治理。人工智能的风险治理是人类命运共同体理念下全球治理模式在人工智能风险领域中的实践运用。风险治理的理念最早产生于欧洲，相对于风险管理模式，风险治理“更加强调整体论视野和综合性原则，更加注重制度安排和顶层设计，更加强调社会主体多元参与，更加突出透明性、责任性、公正性等‘善治’原则。”[]而在西方话语下，与实现风险治理相一致的载体是不充分的，尤其针对诸如人工智能产生的不确定性风险、全球化风险等的治理，在实现起来更是有心无力。人类命运共同体思想正好弥补了这一缺陷，与风险治理理论相得益彰，人类命运共同体是风险治理的载体，风险治理是人类命运共同体建构的手段。管理是外部强加的，治理是自我催生的，人类依赖于人工智能提供的新的发展机遇和条件，人与人工智能的和谐发展是人类的愿望和理想，正是这样一种愿景使人产生了人工智能风险治理的自觉和自律。
最后，从治理的现实路径来看，建构人工智能风险的全球责任机制，围绕责任治理风险是人工智能风险治理的实践路径。人工智能的发展使得在技术权力、信息权力、数据权力的基础上形成算法权力，会导致和加剧全球技术、经济、社会发展的不平衡，产生智能沟壑。这会引发人工智能风险与风险源的错位、风险的不平衡化、复杂化发展。要解决这些问题，需要在人类命运共同体思想方法的指导下，以责任为核心，建立全球责任机制，全球共同协作，明确有关的责任原则、责任标准和责任承担方式等。“无论现在还是将来，人工智能风险问题的根本在于人类自身。如果有朝一日机器人能自主行动、比人类更强大，那也是因为有人决定赋予其这种能力。”[]随着人工智能的迭代发展，其智能水平和自主能力会不断提高，但追根究底，人工智能的风险责任源头还是在人类自身，因此，人类要以人类命运共同体理念为指导，根据相关责任机制，勇于承担自己的责任，避免推脱和逃避，构建治理人工智能风险的人类命运共同体，打击技术霸权主义，实现人类互利共赢、共同发展。
