人工(gong)智能羁系：鼓励创(chuang)新照样固守平安？,模(mo)型,法案,凯文·纽森
2024年，注定(ding)是人工(gong)智能年。
2024年10月8日和9日，诺贝(bei)尔奖物理(li)奖和化学奖花落人工(gong)智能。两位(wei)物理(li)学奖得主获得诺奖的依据是“基于人工(gong)神(shen)经网络完成机器学习的基础性发现和发明”。三位(wei)化学奖得主获奖的依据是“行使人工(gong)智能计算(suan)蛋白(bai)质设计，进步蛋白(bai)质布(bu)局预测服从”。
除了科(ke)研盛况，人工(gong)智能继续主导(dao)贸易领域的合作。2024年，不仅Meta、谷歌(ge)、亚马逊、Open AI等头部人工(gong)智能公司继续在大模(mo)型领域你追我赶(gan)，纷纷推出(chu)自己研发的生成式人工(gong)智能产品，马斯(si)克旗下的特斯(si)拉也(ye)在诺奖颁奖后的第三天召开主题为(wei)“We Robot”的发布(bu)会，推出(chu)自己的Optimus人形机器人和赛博无人驾驶出(chu)租车。
不过，与人工(gong)智能研究与应用的盛况相对应的是，就在几天前，在以硅谷闻名遐迩的加州是全球人工(gong)智能产业的中央，人工(gong)智能的立法遭遇(yu)挫折(she)。
外(wai)地时(shi)候(hou)9月29日，加州州长凯文·纽森（Gavin Newsom）否决了此前参众两院通过的人工(gong)智能羁系法案—前沿人工(gong)智能模(mo)型平安创(chuang)新法（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act）。
该法案被否决引出(chu)人工(gong)智能产业发展中的核心成绩：人工(gong)智能羁系怎样在创(chuang)新与平安之间权衡弃取(qu)？
前沿人工(gong)智能模(mo)型平安创(chuang)新法给(gei)人工(gong)智能公司带上紧箍咒
前沿人工(gong)智能模(mo)型平安创(chuang)新法的立法配景(jing)是，加州政府运行秘书要(yao)评(ping)估人工(gong)智能研发及临(lin)盆经营流动对加州政府、加州企业和居民带来的影响。
人工(gong)智能技术给(gei)社会带来的影响是广泛的。好比，人工(gong)智能带来的技术之一，深度伪造（deep fake），就已给(gei)美国(guo)社会带来巨(ju)大的影响。其具体影响我们在下文详述。
前沿人工(gong)智能模(mo)型平安创(chuang)新法对人工(gong)智能开辟公司施加了严厉的羁系请求。其首(shou)要(yao)内容包括：
（1）立法划定(ding)纳入羁系的模(mo)型标准。若是人工(gong)智能开辟公司将要(yao)开辟的模(mo)型符合立法划定(ding)的标准，则在开辟并(bing)锻炼(lian)模(mo)型前，公司必须向羁系部门提交材料(liao)，证明其符合开辟条(tiao)件且(qie)遵守开辟标准。好比，公司必须证明其有能力在模(mo)型出(chu)现立法所形貌的危险时(shi)一键启动死亡开关（kill switch），连忙 关掉模(mo)型。
（2）立法请求人工(gong)智能开辟公司保有一份平安议定(ding)书。议定(ding)书的有效期从人工(gong)智能开辟公司启动开辟并(bing)锻炼(lian)模(mo)型到模(mo)型可以付诸使用的期间，和今后的五年。在此期间，公司必须保有与模(mo)型相关的材料(liao)。若是州检(jian)察长请求提交材料(liao)，公司必须随(sui)时(shi)提交，供后者审查。
（3）划定(ding)三项禁止使用的行为(wei)。禁止为(wei)了完成与模(mo)型锻炼(lian)或模(mo)型评(ping)估没(mei)有直(zhi)接接洽的目的使用立法划定(ding)的模(mo)型或模(mo)型衍生品；禁止为(wei)了完成不符合立法的目的使用立法划定(ding)的模(mo)型或模(mo)型衍生品；禁止制作大概造成重(zhong)大损伤的用于政府、贸易或公共场合使用的模(mo)型或模(mo)型衍生品。
(4)从2026年1月1日起，人工(gong)智能开辟公司聘请外(wai)部审计，每年对公司是否合规，即符合以上立法的羁系请求制作自力的审计报告(gao)。
盘绕“前沿人工(gong)智能模(mo)型平安创(chuang)新法”的各方博弈
以上说(shuo)起的只是法案对人工(gong)智能开辟公司施加的羁系条(tiao)件的首(shou)要(yao)部分。不过，这些就足以让硅谷科(ke)技公司们难以接受(shou)了。
法案几乎遭到硅谷整个人工(gong)智能产业的强烈反对。（有趣的是，马斯(si)克也(ye)成立了人工(gong)智能开辟公司，但是，马斯(si)克是唯(wei)一支撑(cheng)法案的科(ke)技巨(ju)头。）
反对的首(shou)要(yao)理(li)由是：法案给(gei)人工(gong)智能开辟公司带来太大的合规风(feng)险，因而扼杀科(ke)技创(chuang)新。
好比，反对者认为(wei)法案把立法者想象的风(feng)险强加给(gei)科(ke)技公司，强迫模(mo)型开辟者负担预期之外(wai)的风(feng)险成本。
再好比，反对者认为(wei)法案的立法者把他(ta)们能想象出(chu)来的和（甚至）想象之外(wai)的各种大概的损伤（而且(qie)这些损伤既包括模(mo)型自己酿成的，也(ye)包括第三方酿成的）全部请求模(mo)型开辟公司负担损伤赔偿责任。
这样的法案一旦通过，无异于给(gei)人工(gong)智能开辟公司戴上紧箍咒。谁还敢开辟人工(gong)智能模(mo)型？
反对者不仅包括人工(gong)智能开辟公司，还包括为(wei)人工(gong)智能开辟提供融(rong)资的各种风(feng)险投资公司。而且(qie)，很(hen)多学术界(jie)人士，好比人工(gong)智能研究人员也(ye)反对该法案。很(hen)多研究人员担心，法案划定(ding)的损伤赔偿责任范围(wei)太广，大概殃(yang)及研究人员。
法案的支撑(cheng)者基本上从科(ke)技伦理(li)、公共平安的角度为(wei)之辩(bian)护。好比，法案的发起人之一，加州参议员斯(si)考特·维(wei)纳（Scott Wiener）就痛批(pi)纽森否决法案使得加州立法机构让人工(gong)智能负担责任的努力遭受(shou)重(zhong)大挫折(she)。
维(wei)纳认为(wei)，大型人工(gong)智能科(ke)技公司拥(yong)有强大的科(ke)技力量，却不受(shou)政府政策(ce)的约束(shu)，这是很(hen)危险的。该法案被否决进一步瘫痪州议会管控科(ke)技产业的能力。
纽森虽然否决了法案，但是，他(ta)没(mei)有直(zhi)白(bai)地表达对法案是非对错的态度，而是另(ling)辟门路，为(wei)否决法案寻找理(li)由。
纽森认为(wei)，法案只规范大范围(wei)的耗资巨(ju)大的模(mo)型，没(mei)有把小范围(wei)的模(mo)型纳入规范。人工(gong)智能产业发展疾速，很(hen)多小范围(wei)、专业化模(mo)型酿成的损伤不比大模(mo)型小。以是，纽森认为(wei)法案的规范力度远远不够。
纽森用奇妙的否决理(li)由既避免在正反两种观点(dian)两头选边站队，又为(wei)未(wei)来优化立法，完善(shan)对人工(gong)智能的羁系留下充足的空间。可谓用心良苦！
人们对人工(gong)智能的认知有限，羁系思路尚难统一
实际上，人们对人工(gong)智能的认知仍然有限，人工(gong)智能产业突(tu)飞大进的发展给(gei)监经管论和立法实践带来诸多灾题。
以前文提到的深度伪造为(wei)例。这是一种行使机器学习（machine learning）模(mo)型将图片和视频合并(bing)叠加到原图片或视频上，借助神(shen)经网络技术进行大样本学习，将个人的声音、脸部表情及身体行动拼接合成虚(xu)假内容的人工(gong)智能技术。
通过深度伪造技术合成的形象已达到可以乱真的水平。好比，2018年4月，一段(duan)美国(guo)前总统奥(ao)巴马抨击时(shi)任总统特朗普的发言视频在交际网络上得到200多万次的播放和五万多次的点(dian)赞(zan)。但是，事(shi)先人们才知道这不是真正的奥(ao)巴马，而是深度伪造技术合成的。
但是，我们不能下结论说(shuo)深度伪造技术不好。深度伪造技术自己是中性的，既可以用来制造价值，也(ye)可以被用来诈骗甚至犯罪。
成绩是，怎样立法规范这种技术呢？这种技术深入到著作权、传媒、产业权、合平等各个领域。单独为(wei)其立法成本太高，预期适用效果不会很(hen)好。
再好比，自动驾驶也(ye)给(gei)监经管论和立法带来困难。自动驾驶是靠人工(gong)智能操作的。若是自动驾驶造成事(shi)故，谁应该负担责任？负担责任的标准怎样界(jie)定(ding)？
当前侵权法理(li)论中的不对责任和无不对责任是“前人工(gong)智能时(shi)代”创(chuang)设的。在人工(gong)智能时(shi)代简单套用不对责任和无不对责任，仿佛(fo)用牛顿的经典力学解释爱因斯(si)坦的相对论。
人工(gong)智能属于新兴战(zhan)略性高科(ke)技产业。因为(wei)人们对人工(gong)智能的认知仍然有限，导(dao)致监经管论尚不成熟，在此配景(jing)下，各国(guo)立法基本尚处于摸索阶段(duan)。以是，各国(guo)的羁系思路尚不统一。
好比，欧盟对人工(gong)智能的羁系偏重(zhong)平安。欧盟人工(gong)智能法案（EU AI Act）请求人工(gong)智能开辟公司开辟出(chu)来的人工(gong)智能产品能否接受(shou)人类的监督，达到立法划定(ding)的精准、妥当性和网络平安标准（14、15条(tiao)）。人工(gong)智能开辟公司必须向用户提供明白(bai)的信息，采(cai)用风(feng)险经管和质量经管系统（第19、3、17条(tiao)）。
为(wei)了有效地实施欧盟人工(gong)智能法案，法案划定(ding)，欧盟成立欧盟人工(gong)智能理(li)事(shi)会(European AI Board)作为(wei)中央羁系机构。与之相呼(hu)应，各成员国(guo)成立人工(gong)智能羁系机构。
同处欧洲但加入欧盟的英国(guo)，则采(cai)用偏重(zhong)创(chuang)新的立法理(li)念。英国(guo)的具体羁系思路是，既要(yao)推动人工(gong)智能的发展，又要(yao)应对人工(gong)智能的发展大概给(gei)不同部门或产业带来的风(feng)险。
在此羁系思路下，英国(guo)不单独为(wei)人工(gong)智能立法，更不对人工(gong)智能专门设立羁系机构，而是请求各部门制定(ding)例则，应对人工(gong)智能的发展大概给(gei)各部门带来的风(feng)险。好比，医疗部门会审视人工(gong)智能的发展对医疗产业和部门带来的影响，然后，制定(ding)例则，应对大概的风(feng)险。
这样，英国(guo)的人工(gong)智能羁系思路可以总结为(wei)：把人工(gong)智能的羁系权下放给(gei)各部门，各部门负责建立、发展并(bing)监督“负责任的人工(gong)智能”。
实际上，我国(guo)近年来各部门也(ye)在积极应对人工(gong)智能的发展及其羁系。好比，针对人工(gong)智能合成内容。2021年，中国(guo)国(guo)家网信办、国(guo)家发改委(wei)、教育部、科(ke)技部、工(gong)信部、公安部、市场羁系总局、广电总局等有关主管部门已出(chu)台《互联网信息服务(wu)算(suan)法推荐经管划定(ding)》《互联网信息服务(wu)深度合成经管划定(ding)》和《生成式人工(gong)智能服务(wu)经管暂行办法》等法律法规，对计算(suan)机合成内容进行管控。
《互联网信息服务(wu)算(suan)法推荐经管划定(ding)》请求对算(suan)法生成合成的信息作显著标识，并(bing)请求提供互联网旧事(shi)信息服务(wu)的算(suan)法推荐服务(wu)提供者和使用者，不得生成合成虚(xu)假旧事(shi)信息。
《互联网信息服务(wu)深度合成经管划定(ding)》则更加细致地划定(ding)了包括智能对话、智能写作、人脸生成、人脸操控、姿势操控等具有生成或显著转变信息内容功能的深度合成服务(wu)应当遵守的请求，包括以显著标识的形式向公众提示。
《生成式人工(gong)智能服务(wu)经管暂行办法》进一步对生成式人工(gong)智能的开辟与使用等进行规范，旨在促进生成式人工(gong)智能健康发展和规范应用。
我国(guo)人工(gong)智能统一立法不能操之过急
近年来，我国(guo)法律界(jie)主张对人工(gong)智能进行统一立法的呼(hu)声很(hen)高涨。很(hen)多学者凭(ping)借法律想象对我国(guo)人工(gong)智能立法中的成绩积极献言献策(ce)，力图促成人工(gong)智能统一立法早日落地。
好比，有的学者套用民法上的观点(dian)不仅界(jie)定(ding)人工(gong)智能的法律主体职位(wei)，还给(gei)人工(gong)智能确定(ding)监护人。更多的学者从宏大的视角讨(tao)论人工(gong)智能的立法定(ding)位(wei)、途径等宏大成绩。
作为(wei)一种新兴技术，人工(gong)智能发展快速，其产业合作激烈。而且(qie)，人工(gong)智能技术对一个国(guo)家或经济体在国(guo)际合作中的作用无足轻重(zhong)。
在此配景(jing)下，对人工(gong)智能的羁系立法必须慎重(zhong)。既要(yao)规范人工(gong)智能技术大概对个别(bie)权利及公共平安带来的损伤风(feng)险，更要(yao)保护并(bing)鼓励创(chuang)新，避免人工(gong)智能产业因为(wei)迎(ying)合羁系而背(bei)负过重(zhong)的合规成本而窒息产业发展。
（作者王佐发为(wei)西南(nan)科(ke)大法学院副教授）