2020年11月14日，由中国人民大学的刑事法律科学研究中心和智能社会治理研究中心主办，中国刑警学院网络犯罪侦查系、中国大数据技术与应用联盟协办的“智能社会治理学术研讨会”在北京召开。本次会议的组织者谢君泽是我的学生。他希望我能为研讨会致辞。坦率地说，这不是我熟悉的话题，但我还是去了，讲了自己对这个主题的认识和感想。以下就是我发言的录音整理稿。

今天参加这个研讨会，我确实有点惶恐，因为你们都是这个领域的专家，就我不是。从年龄来讲，我也很难再成为这个领域的专家。智能社会确实发展得很快，我们有很多的智能工具。我也有一部智能手机，但是我的手机是以关机为常态，一般一天只开两到三次，一次开10分钟左右。刚才到这儿进大门的时候要扫健康码，我得现开机。保安一看，很慢，就没等，让我进来了。

 

举办这次智能社会治理研讨会要研究什么，要讨论什么？我们人类就是一种智能动物，但是我们这里讲的显然不是人类智能，而是人工智能。人工智能是人类智能创造出来的，但是，人工智能一旦被创造出来之后，就有了自己的独立性，就会给社会带来一些特殊的影响，因此就需要治理。

 

我以为，智能社会治理应该包括两个方面：第一是智能社会的治理；第二是智能的社会治理。人工智能技术在社会中的广泛应用，会促进社会的发展和变化，也会产生一些新的问题。对于这种新型社会，我们应该如何治理？这里要研究的是作为治理对象的人工智能。另外，人工智能技术也广泛地应用在社会治理之中，就是要运用人工智能的方法对人类社会进行治理。这里要研究的就是作为治理手段的人工智能。当然，这两个层面的治理是相互影响、相辅相成的。

 

现在的人类社会已然很智能了。这经常让我感到落伍。也许，人工智能就是属于年轻人的，就是属于未来的。不过，我也有学习的机会。比如说，我的外孙今年8岁，他平常就住在我们家，周末才回他父母的家。我就从他那里学到了一些智能的东西。

 

今年的疫情爆发期间，他不上学，经常在小区里玩儿。他妈妈就给他买了一个智能手表。这个手表不仅能看时间，还有很多功能，例如，它可以定位，让家长随时知道孩子在什么地方；它可以通话，孩子可以直接跟家长通话，家长也可以通过手表跟他通话，叫他回家吃饭；它还可以付钱，当然得他妈妈先给他存钱，于是他就可以在社区的小商店里买饮料，买雪糕。另外，这个手表还有一个特别的功能。今年夏天，我们全家去西山森林公园游玩。那里有各种各样的花草树木。孩子问我，这是什么花？我也不知道，只能用作家的描述手法说，这是不知名的小花。后来，我的外孙就说，他的手表知道。于是，他把手表对准一朵花，或者一个树叶，只要一拍照，手表就给出了花或树的名字，还有简介。外孙很骄傲，就把手表对着我的脸拍了一下。然后他说，姥爷，您也跟植物一样啊！只见那个手表盘上显示：何家弘，中国人民大学法学院教授。这个手表确实很神奇，但是仔细想一想，这也挺可怕的！

 

当然，人工智能确实有很多优越的地方，可以给我们的工作和生活提供很多方便，帮我们解决不少难题。现在，年轻的父母都感觉带孩子很难，很辛苦，整天都要跟孩子斗智斗勇，而且还经常处于下风，因为现在的孩子都很智能。所以，我们不仅要研究智能社会的治理问题，也要研究智能儿童的治理问题。这也是一个急需加强研究的现实问题。

 

最近，我看到网上有不少人评论那个“家长退群”的事件。一些小学教师把本来应该由她们完成的工作交给了学生的家长，包括监督和批改作业。家长们的压力本来就很大。每天上班工作很辛苦，下班还要帮助孩子做作业，还要批改孩子的作业。有些家长不堪重负，忍无可忍，就以“退群”的方式来表达不满和抗议。对于那些家有小学生的父母来说，这是一个相当普遍的问题。

 

我的外孙挺好玩，也挺贪玩，有时做作业就不专心，边玩边写，拖拖拉拉。上个礼拜，他妈给他买了一个大力神灯，很智能的灯。它不仅可以提供舒适的灯光，还能帮孩子学习。外孙的房间就在我的书房旁边，我就经常听他问那个神灯：大力，大力，这个字念什么？这个词是什么意思？这道题怎么算？大力神灯确实很智能。它不仅能回答数学、语文、英语等学科的问题，能帮助孩子控制做作业的时间，还能让父母远程监控孩子写作业。它确实能提高孩子的学习效率，也能减轻父母的压力。不过，它也能成为孩子的玩具，而且它的声音很甜美，像个温柔的女生。有时候，我就听见外孙问，大力大力，你几岁了？大力大力，你有小孩吗？大力大力，你吃什么？大力大力，你喜欢什么玩具？于是，这个神灯反而让孩子不能专心做作业了。由此可见，人工智能也是一把双刃剑，既能做好事，也能做坏事。这也是我们研究智能社会时不能忽视的问题。

 

现在的计算机、互联网、大数据等新的科学技术给我们的社会发展提供了技术的支撑，开拓了发展的空间。但是，我们在社会治理中运用这些智能技术的时候，是不是应该有一个底线？哪些是我们可以让它尽力去完成的，哪些是不应该让人工智能去完成的？我们不能让人工智能变成无所不能，更不能让人工智能变成人类社会的主宰。

 

人类创造人工智能的初衷是善良的，但是其发挥的作用也可能是邪恶的。比如说，人工智能就可能侵害到我们的隐私权。我刚才说的那种智能手表，一扫我的头像就能给出我的姓名和简介，“何家弘，中国人民大学法学院教授”。这说明在那个大数据库里有我的头像和简介。那么，我在大街上走，一个素不相识的人用这种智能工具扫了我的脸，他马上就能知道我的姓名和身份。这是不是一件挺可怕的事情？

 

人工智能的发展，正在改变人类社会，改变我们的人生。那么，人工智能会不会改变人类，会不会改变我们的人性？这也是值得我们思考的问题。我就在想，人工智能的发展会不会让人类就变得很弱智或者很低能？我记得，20多年前的时候，我们有了智能照相机，那时叫“傻瓜”相机。以前，照相是个技术活儿。照相的人得根据经验自己定光圈，定快门速度，再根据距离调焦距，挺有难度。后来有了智能照相机，这些问题就都不用人干了，照相机都给承包了，所以叫“傻瓜”相机。这并不是说相机很傻，而是说使用相机的人很傻，傻瓜都会照相。于是，人就不会照相了！

 

由此可见，人工智能在给我们提供各种方便的时候，就促进了我们人类一些能力的减退。人体的功能必须经常使用，长期不用就会退化。我现在有一个感触，那就是提笔忘字。刚才有人让我在书上签名，说我写得真好。其实，我大概也就这几个字能写得很好。平时用电脑，很少动笔写字，我的写字功能就有明显的减退，不仅是写不好，而且是不会写了。

 

人工智能可以帮助儿童学习，但也会阻碍某些能力的开发和训练。比如说，有了大力神灯，孩子们还需要查字典的能力吗？还需要数学计算的能力吗？如果这些问题都让大力神灯回答了，孩子们的能力也就减退了。在当下中国，中小学教学中还是比较重视数学计算的。据说在国外，许多数学家的计算能力都大大减退了，因为他们不需要自己计算了。

 

现在，我们在家庭生活中也有了很多人工智能的东西，例如智能扫地机、智能洗衣机、智能电饭锅、智能电冰箱等等。我们从这些家务劳动中解放出来，但同时也就丧失了一些能力。以后，我们可能还有智能床，不仅能调节我们的睡眠，还能帮我们设计好梦。星期一做什么梦，星期五做什么梦，于是我们就不用自己做梦了。另外，我们一起床，它还能帮我们把衣服都穿上。如此下去，我们会不会越来越笨，人类的子孙后代会不会就变得大脑萎缩，越来越弱智，或是低能？所以，我们在构建智能社会的时候，还是要给人工智能画一个界线，哪些是它可以做的，哪些是它不能做的。

 

在计算机和互联网高速发展的当今世界，人类似乎变得更加孤独，更加焦虑，更加自私，更加冷酷，人类社会似乎也变得更加割裂，更加对立，更倾向于不同群体的极端性抗争。在虚拟世界中，极端主义可以肆无忌惮，而且是一呼百应。于是，国际关系也变得更趋紧张，爆发战争的危险也在增长。据说，未来战争可能不许要人类亲自动手了，可以让无人机等智能武器去打仗。但问题是，这些无人机打的不仅仅是无人机，也包括活生生的人！总之，人工智能是一把双刃剑，既能为人类做好事，也能为人类做坏事。因此，我们在创建智能社会的时候，既要开发人工智能的善，也要限制人工智能的恶，要努力构建有人文温度的智能社会。

 

哦，小谢在提醒我讲话的时间。控制发言人的时间是主持研讨会的一个难题。十几年前，我就让小谢他们设计了一个程序，让计算机来代替主持人提醒发言时间，以免主持人不好意思去打断那些大咖的发言。计算机铁面无私，但是冷冰冰的，我们就用优美的音乐代替铃声。这大概也算是有温度的人工智能了。

 

因为时间的限制，我仅就智能的社会治理问题讲几句话。我注意到，下周在北京会议中心要召开全国政法智能化建设研讨会。政法工作是社会治理的重要内容，因此也要智能化。但是，这个智能化能走多远？现在我们已经有了互联网法院，还有了人工智能法官。那么，法官的工作都可以让人工智能来代替吗？人和人之间的纠纷都可以让机器人来裁断吗？这也是一件很可怕的事情。总之，有些人的事情，还是要由人亲自来做的。就像小谢说的，我是他的亲老师，所以他这个研讨会我要亲自来致辞。

 

最后我想说，人工智能确实是人类社会的重大发明，但是，我希望这不是人类社会的最后一个重大发明。不要让人工智能成为人类的终结者！

 

感谢大家来参加这个研讨会。我祝研讨会圆满成功！