AI风控下我们如何生存?
半年前有人让我看看清华大学知识工程研究室的网站,因为我当时在研究一个被称为知识图谱与表示(KR&R)的领域。 我从那时起第一次知道了“意见领袖挖掘”这个小领域,好听点叫做“社交网络中的意见领袖挖掘”,说难听点就是“在QQ/微信/各种社交媒体 中找到‘事头子’”。这个东西能被作为一个领域大加研究,我其实并不奇怪,毕竟有利益,有些时候是公司利益,比如从监控社交媒体中找到新的热点;亦或是国家利益,比如找到那些话多的。 让我有些惊诧的是这个东西居然可以被堂而皇之的研究,并且在更大的领域,也就是数据挖掘领域中,在长达数年的时间里成为一门显学。但仔细想想倒也不会觉得诧异了,因为有无数团体对此有共同利益。 今天有位朋友的 QQ 被封了,理由是他“传播淫秽色情”,我问他传播的是什么淫秽色情,他竟然自己都说不上来,那大概就是所谓“软色情”了。 其实在曾经的时光里,由于风控基本是由人做的,例如所谓“网络警察”或“风控员”之类会监视被他们认为可疑的群聊,然后从这些群聊的消息中提取到其它可以群聊……进而形成一张监视网络。这样的传统方法的效率是很低的,所以他们的工作目标仅仅是那些被他们认为是最危险的人物。但由于近两年其中的越来越多环节被 AI 代替,以至于近些天一些专注大规模数据挖掘的 AI 的井喷(比如一些特化的RNN和图学习),这个工作变得越来越简单,那么这时,当进一步对审查进行加码几乎不需要成本时,他们就要开始一步步的试探你的底线了。 曾经被管控的言论通常基于社会能够承受的下限,比如真的会危害政府统治的话题,或者真的暴力性的色情内容。 而现在,我们落入了一种文字狱的境地,我们不知道因为发了哪条仅仅是在曾经的时光里属于“擦边”的信息就被封禁,为了防止我们被捂住嘴,和网友失去唯一的联系方式,我们只能管控自己的言论,不敢说一句“擦边”以至于有任何被封禁的可能的话,当我们受到这种失去仅剩的部分言论权的风险时,我们就只能通过主动压缩自己的言论权。当我们已经习惯了被主动压缩的言论权,监管机器又回来试图让我们再放弃一些。 当社会长时间的失去了充满活力的言论,整个社会的意识形态终将变得更加温驯,这是我们绝对不希望的。 我自认为完全不是一名密码朋克,但在刑不可知的大环境下我们甚至无法再讨论色情,你现在大可以说“如果你不发XXX就好了”,但在以后呢?我们可以讨论的话题终将被进一步压缩,在之后的...