人工智能该在哪些领域止步?法学家冯象14轮问答【附音频】

AI对法学家而言,与其说是担忧,不如说是全新的挑战

上海浦东民政局公务员汤文建:人工智能在法学领域的应用现状、应用前景如何?作为法学教授,您害怕人工智能吗?

上海应用物理研究所科研工作者韩立欣:传统的诗歌、音乐甚至绘画,人工智能都已涉足了,哪些领域不能涉足呢?人工智能的界限在哪里?

金融分析师李好:人工智能大规模发展后,将对人类的崇拜或者信仰产生怎样的影响?

人类再次有条件回到这样一种状态:只和喜欢的人沟通,包括在单位的工作和工作以外的生活。在这一意义上,网络社会对传统的民主理念、宪法原则以及背后的哲学思想、政治伦理提出了根本性挑战。如何处理这方面的问题,我们还不是很有经验。我们的具体感受是由一个一个网络舆情事件得来的,从每个舆情事件中都可以看到分裂的虚拟社会互相之间的谩骂和表态,政府就不断地在这一过程中学习怎样应对,每一个政府都在学习如何应对新的社区世界。

冯象:应该说是肯定会的,而且不可避免,实际上我们不知道是不是已经发生了,只不过它有的时候采取相对不那么暴力的方式。比如委内瑞拉的马杜罗政府指控反对派操控了全国停电行为,如果属实,它在某种意义上和非国家形态的暴力或者说其他的黑客行动差不多。当人工智能提升到一个数量级,这的确是非常恐怖的,尤其整个社会都智能化以后,它的暴力会非常广泛,不仅简单地影响我们的日常生活,它会造成灾难性的后果,确实要防范。

冯象:这是个很好的问题。实际上,机器智能本身是否会成为人类的崇拜对象,进而成为一个新的宗教,这些问题已经存在,且已产生这样的宗教主张。当然,宗教并不一定是一种严格的体制,它可以具有各种形态。例如,中国传统文化中的风水具有准宗教效果,影响了很多人的信念和心理活动,但其并不需要完整的组织结构。从历史上看,人工智能也不例外,它也可能会成为人类崇拜的对象。机器获得令人崇拜的机会可能会超过一块石头、一座山、一条河甚至动物图腾的崇拜。整个宗教之间一直存在激烈的竞争,大宗教与小宗教,有组织的宗教与无组织的宗教,时时刻刻处于竞争之中。机器智能只是最新加入的一个因素。我对它抱有浓厚的研究兴趣。从专业的角度,或从概率上来说,人工智能影响人类的信仰也是非常有可能的。

人际交流需要智能终端为中介,使得虚拟小区蔚然成风

网络社会对西方民主的前提发出挑战,每个政府都在学习应对

华东师范大学中文系学生张晋业:现在的人工智能暂时欠缺人类的情感能力,文学艺术可否在更加细腻的层面上来弥补法制的困难或者应对人工智能的挑战?

出于行业的利益或者关注,法学家可能会对人工智能产生一些担心或者畏惧,因为对首次出现的新事物制定规则是非常困难的。另外,如果越来越多的规则变成了硬规则,而非传统的国家政府部门制定的规则,那么,我们现有的法学理论都需重新改造,这是一项巨大的工程。我相信这也能培育出更多优秀的法学家。

哈佛大学一个很有名的宪法学家桑斯坦教授发现了一个现象,美国宪法理论的基础是西方民主制,西方民主假设的前提是人与人之间交流越自由、表达意见越充分,那越有可能得到真理和正确的决定,这是一个假定。但是互联网社会把这个假定破除掉了,因为虚拟空间的社区都是依照共同的兴趣和政治偏见组织起来的,不是不同意见的共同体,而是一个共同意见或者趋同意见的共同体,社区内互相加强彼此的政治信念、文化理念和宗教观念等等。因而两个不同的社区可能水火不相容,或如老子所说的“鸡犬之声相闻,人不相往来”。

4月15-26日,为期12天的第五届思勉人文思想节以“新技术、新人文”为主题,围绕“数字时代的新人文”“中国智慧与人类未来”两大方向举办8场名家演讲、3场主题论坛。本次讲座为第五届思勉人文思想节名家演讲第4期,由文汇报社和华东师范大学共同主办。讲堂将报道思勉思想节的五场名家演讲和主题论坛。

冯象(清华大学梅汝璈法学讲席教授、哈佛文学博士、耶鲁法学博士)

冯象:人不仅仅是规则动物也是感情动物,需要在感情上得到满足,文学作品最早对此关注,而现代意义上的对于人机关系的忧虑,对于智能制度下带来的挑战最早可以追溯到玛丽·雪莱的《弗兰肯斯坦》,这深刻影响了整个西方文学。比如在西方科幻电影或者乌托邦电影中,科学家和医生一般都是反面角色,这是玛丽·雪莱开创的传统。但知识和财富本身带来的社会问题如何解决?文学艺术会越来越多地表达这些关怀,提出新的思想,批判资本主义世界的方方面面。资本主义兴起后的西方文学艺术,所有流传后世的作品几乎都是批判性的或者忧虑、讽刺性的,它基本上会建立在文艺理想对资本主义的批判、忧虑、嘲笑和诋毁上,资本主义本身无法产生歌颂它的好作品。至于人工智能是否能产生伟大的作品取决于两点:第一,能否继续批判资本主义,这点或许能够做到。第二,能否在人工智能带来的私有制的废墟上,产生一种新的公有制的文化,这是人类社会的第二次,十分值得期待。