AI时代法律人的心法三则：求真·创新·使命

2023-08-04 00:28 完美世界控股集团总法律顾问、副总裁马弋琀

各位法律同仁，大家早上好，非常感谢WELEGAL法盟提供这样一个好的平台，让我们这样一个专业、职业的群体有一个在一起充分交流的机会。今天我跟大家分享一些关于法律人如何为AI时代的到来做好准备的话题。

大概是去年11月底，GPT3.0发布了，当时大家就觉得有点震撼；到今年3月，随着GPT4.0产品的重磅推出，大家又不禁眼前一亮；接下来各大公司不断推出的一些人工智能的产品，我们对AI的关注远远超出了历史水平。

随之而来是政府、企业、律所都在不断地探讨目前已看到的AI技术发展有可能产生的法律问题，相信这样的讨论还会深入地持续下去。

所以，今天我在这里想跟大家交流的是一些形而上的东西，面对这样一些不断在变化且不确定性非常高的AI技术，或者说是社会变迁的可能性，我们法律人应该如何应对？我们需要具备哪些底层素质？我暂且把它叫做心法。

我想先跟在座的各位达成一个共识，人工智能它到底是什么样的？人工智能分为弱人工智能、强人工智能、超人工智能。我们现在所处的时代，技术所表现出来的性能是一个弱人工智能，也就是说它只是在特定的任务或者领域上表现出智能。比如现在用的翻译软件，我们用的Siri，我们在汽车驾驶方面使用的这些功能，其实都是弱人工智能，它们只是单方面去完成一些特定的任务。

那么强人工智能是什么呢？它还没有到来，所以我们只有定义：它具有与人类智能相当的广泛范围的智能，能够在各种不同的任务和领域中展现出类似于人类的智能水平。

厉害的是第三种，就是超人工智能，它远远超过了人类智能的形式，具有超越人类的智能水平，给大家看一个图片，视觉化显示能够帮助我们更好地去理解超人工智能是一个什么感觉。

我们会看到：蚂蚁的智能在比较底端的台阶，鸡会高三四个台阶，猩猩和鸡之间还有狗和猪，人比猩猩高了两个台阶，我们自己是很清楚我们的智能和猩猩之间的差距。那么强人工智能在哪里呢？它比人高两级，甚至说其实比人类智能还要高很多。

所以我希望用这样一个有关信息的共识，让我们能够对人工智能时代的想象更充分一些，而不是一个简单的线性思考。从时间上来看，如果强人工智能它一定会到来，那么会是什么时候？2013年， Nick Bostrom找了上百位人工智能工程师做了一个预测，强人工智能会在它的中位年，也就是2040年到来，超人工智能则会在2060到来。前几天，Sam Altman又通过连线的方式，在北京智源大会上预测：10年内将出现超级人工智能。所以奇点很快就要到来了，那么我们应该怎么办？我想心法之一的是求真，怎么来讲求真呢？

心法之一：求真

ChatGPT出现之后，真的有给人眼前一亮的感觉，因为它的搜索功能比我们之前用的搜索软件强大很多，我们可以直接在里边得到我们想要的答案。但是在这里特别想要去提醒在座的各位律师，或者说我们的法律从业者，我们要特别小心这种现成知识的获取，为什么？因为现有的AI是有局限性的。

首先人类的思维理性是有局限性，我们去探知世界的方式有两种，一种是信仰，还有一种是理性。

那么，理性由什么组成？有我们的经验、我们的体验，还有我们大脑思考的演绎和推理。经验主义为什么是有局限的？我们感知世界的工具是我们的眼、耳、鼻、舌、身。但我们的眼睛、我们的耳朵、我们的舌头、我们的鼻子、我们的身体，去感知这个世界是有非常有限的，所以我们仅凭经验得来的一些知识或者信息，是不完整的，很可能是错的。我们看不到或者听不到的东西并不代表它不存在，对吗？有这么一句话，往往会发生的就一定会发生。我相信在座的各位律师都会说不会的，比如说黑天鹅，你一直看到都是白天鹅，你觉得世界上全是白天鹅，直到有一天你看到黑天鹅，说原来还有黑天鹅，是不是？

逻辑里特别重要的一个方式是归纳，但归纳本身它是有瑕疵的，因而演绎也有它致命的缺陷。因为演绎是根据归纳的事实，从大往小地去做推理，那么，如果我们的事实层面是错的，即使我的演绎的逻辑是非常严谨，结论也会是错的。

我们再来说理性为什么是有局限性的？我相信所有人都特别热爱理性，为什么？因为它是人类文明史上一颗灿烂的珍珠。17世纪和18世纪，在西方是一个很重要的时代，即启蒙时代。这个时代是人们希望用理性的光明去驱逐愚昧的黑暗，所以在那个时期我们看到了伏尔泰、孟德斯鸠、康德，还有牛顿。无论是哲学、科学，还是说我们的法学，从那个时代开始，人民大众的智识慢慢在得到启发和启蒙，教育学其实也是起源于那个时代。在那个时代，当有人说如果你对一个问题思考得够久，想得够透，那么这个问题一定会被解决，也许是可行的。但是当下这个时代，我不持乐观态度，为什么？

因为我们不缺少信息，不论是你手机的短视频，还是你在互联网上可以搜到的，还是你可以听到的各种APP，听书、新闻、评论，信息太多了。我们已经没有了那种独处，比如说大家看看自己手机屏幕的周报，你一天有多少小时在你的手机上。但是我们不要忘了，在那样一个启蒙时代产生的人类理性的光辉，是怎么来的？它是一种独处下产生的智慧，而且是产生了对知识的一种信念。

但是现在我们恰恰被剥夺了这样一种独处的机会，所以在这种环境下，本身就是有限的理性变得更加有限了。所以现阶段的AI是基于人的智能创造、发明出来的东西，其天然就具备这样一种局限性。AI的机器学习，是一种监管式的学习，会有大量的标注去给AI贴标签，告诉它学对了还是学错了，但是这样一种人工的标注和监管的学习方式，根本赶不上我们信息产出的速度。

互联网上像雪花一样飞来飞去的信息到底是对的还是错的，我们不知道。但是当这些信息被送到一个黑盒里，无论底层有着什么样的逻辑、什么样的推理，最后可以把它加工生成了一个什么样的知识或者结论，我们都不知道它是对的还是错的。而可怕的是什么？在没有互联网的时候，我们只是人对人的沟通，信息的传播是慢的，就好像冷兵器时代的伤亡是有限的，热兵器时代也是可控的，但是到了原子弹，其影响力是对全世界所有包括人和生物在内的一种致命的伤害。AI会放大我们个体认知局限性的带来的负面影响。

现阶段AI的第二个局限性就是很难解决复杂多变环境下的问题，举一个很简单但AI处理不好的问题。大家记不记得在几个月前，有AI把一个黑人识别成黑猩猩。AI作为近几百年的智能进化，在思考、计算等领域可以比我们处理的更好。但是在经过几亿年进化的、和人类生存有关的能力方面， AI目前还远远低于人的智能状态。

现阶段AI的第三个局限性就是还不具备人类的伦理道德和价值观。我们刚才说了理性的局限性，其实理性还有一个局限性是什么？理性只能告诉我们如何做，但不会告诉我们应该做什么，这里面缺失的是价值观和道德。而我们整个社会的进步或者是人类文明史的演进，是需要有道德这样的东西在这里的对不对？

虽然说整个自然进化产生了人类的智能，我们现在没有办法去解释人类的智能是怎么产生的，但是我们可以看到具备智能的生物出现之后，地球上所有生命的命运都被改变了，有好的也有坏的。而推动社会、技术，文明持续发展的，还是人性中对美好的事物的向往和信念。这样一个世界的存在其实是因为有伦理、善良的道德观在支撑着。

虽然有这些局限性和这些问题，那么这10年我们可以干些什么？我觉得作为法律人，特别重要的是我们需要有一种求真的态度。因为AI技术会发展成怎么样、会如何去被使用，特别依赖于AI在这个过程中怎么被设计，即用什么样的数据、什么样的算法，在什么领域去使用，这些都是跟我们的职业相关的。

做到求真，我觉得特别重要的是需要具备科学精神。虽然中国的传统文化中，我们有以韩非子为代表的法家，但是就现在的法治来说，我们学到的法律知识体系，很多是借鉴了国外的，所以我想我们还是可能要参考西方的科学知识系统。

西方的科学知识系统分了四个部分，顶端的是科学精神，下来是科学的研究方法研究工具，第三个是科学的逻辑，第四个是科学的知识体系。科学精神是放在西方知识系统最高阶的地方，那么它包括什么？

第一个特别重要的就是怀疑主义，或者说是我们法学院经常在谈的批判式思维。知识和信息是不一样的对吗？而知识和它的认知者有很大关系，知识本身就是复杂的，因为我们所处的世界是复杂的。所以一个认知者对知识的质疑，以及他去建构理解这些知识以及知识产生的背景情境的脉络，会直接影响到知识的形成和提炼，所以我们一定要对现成的知识提高警惕。当我们拿到一个信息，或者是别人告诉你听上去真的是一个知识、一个真理的时候，我们还是要保持怀疑的态度，去伪存真。

举个例子跟大家再充分展示一下，在探究科学的过程中我们不会说笼而统之的去说什么是什么，我们会先进入到一个特别具象的现象，然后我们会讲一些理论，它在一个理想条件下是怎么样，然后还会拿出一些实验数据。当我们拿到一些知识或者信息的时候，我们一定要追问，它是在一个什么背景下才可以适用，需要满足什么条件？

另外，我们需要去培养自己建构和解构知识的能力。我们需要有自主自觉的意识去建构，而不是说我喜欢学习，谁是大师我就去听他的；我们一定要有自己的判断力，解构其实针对的就是知识的不良性，我们刚才提到的知识本身是有缺陷的。那么在心法上面孔子曾提到过“毋意，毋必，毋固，毋我”的四个层面，就是说我们一定要避免这种主观臆想、绝对肯定，避免自己的固执己见、自以为是。这些其实更难，但是我相信只要做到了这些，我们一定会在探求真理的道路上真正的获得那样一个“真”。

心法之二：创新

跟大家分享的第二个心法就是创新了。对于我们法律从业者来讲，可能感觉创新跟自己的关系是遥远的。但是我想用几个例子来跟大家证明一下，为什么我们其实是非常能够创新的。这个世界上有三个职业是最古老的，一个是医生，一个是从事宗教服务的工作者，还有一个从事法律服务的提供者。

我们回忆一下：财产权制度是从什么开始的？是最早的动产和不动产，对吗？那是农业社会，然后接下来就到了工业社会，财产变成了什么？增加了无形资产，所以我们产生了知识产权保护的制度。到了现在互联网时代，数据其实有可能也会被提高到和知识产权同分量的一个财产形态。我们会看到历史上财产的保护制度在不断扩充，背后其实就体现了法律对推动科技进步的生产要素的积极的回应。

第二个例子，我想举的是市场竞争领域的反不正当竞争法。在19世纪末20世纪初的时候，美国出台了很多反垄断的法律，那么与之所对应的时代是怎样的？当时出现了大量的并购浪潮，一些有实力的企业控制了美国的汽车、钢铁、化工等行业，也影响了美国的国民经济以及各个阶层的利益。近几年中国也出现了很多反垄断的执法案例，充分说明了互联网近几十年的发展所形成的垄断能力。法律对之作出的回应都充分体现了法律从业者其实是在与时俱进的。

韩非子在他的《心度》篇里面有提过“法与时转则治，治与世宜则有功。”在当下这个AI时代，技术也好，伦理也好，对我们的法律从业者又提出了一些新的挑战。我们都会同意在这样一个时代，法律工作者更需要去发挥好一个导航作用；因为现有的立法对于目前不管是技术问题还是经济问题、社会问题，都是滞后的，所以我们依然是需要去做创新。

在AI时代人工智能产业形态里边，参与者其实变多了对吗？我们有研发方，我们有服务的提供方，我们还有使用者，三方都在为技术的发展或者内容的生成贡献作用。我们会发现参与的主体多了，但是不同主体在不同阶段，应该承担何种法律责任；无论是从公法上还是从私法上，从侵权责任法还是合同法上，现在我都还没有清晰、确定的答案；或者说都有新问题是现在法律框架下没有办法覆盖的。

科技的进步、资本的跟进，还有产业的迭代，都需要法律的实时在岗。如果法律在社会创新面前缺失，我们的思想是僵化的，我们的对策是僵化的，那么技术和资本就会像汽车失去了刹车装置，会完全失控。

我们这样一个古老的职业，能够一直存在没有消失，且不断变化和发展。是因为我们不断创新，就好像今天WELEGAL法盟为大家提供的平台，包括刚才刘律师也说到的，不管是外部律师，还是企业法务，甚至还有法官、检察官、立法者们，我们其实是一个职业共同体，我们形成这样一个职业共同体之后，会成为这样一个科技向善和社会治理的中坚力量。此外，我相信技术应该也是可以去赋能法律的实施的，虽然我目前还没有看到一些很好的例子。

心法之三：使命

我们知道好的法律一定是可以落地，一定是可以实施，如果不能够实施，其实这一定不是一部好的法律。我们内心都会有一种信念或者一种相信，法律是维护正义的。那么正义到底是什么？这个话题在2000多年前就有人在讨论。他们是谁？就是柏拉图、苏格拉底这些大哲学家，比如在《理想国》里，开篇就提出正义是什么，是正义的人更幸福还是不正义的人更幸福？从开始提出正义是欠债还钱，到正义是对朋友的，不正义是对敌人的；正义是维护强者的利益；再到讨论正义本身到底是好，还是说正义的结果带来是好，等等等等。然后苏格拉底又从个人正义跨度到国家正义。正义是为了整个国家全体人民的幸福，而不是为了一个特殊阶级的利益去服务，这才是真正的正义。