知乎欲用AI技术建立互联网社交规则 网络暴力有望得到治理

知乎运营总监孙达云

中国网科技6月25日讯 (记者 单征宇)如何整治网络暴力、处理网上有害不良信息、谣言等问题近日有了最新动向。中国网科技从知乎方面了解到，随着专注于知乎社区治理的算法机器人“瓦力”推向市场，未来人们用AI技术来建立起一个规范的互联网社交环境指日可期。

“瓦力”是一种价值观

“脑回路真奇特”、“你是村里来的没见过高楼大厦吧”……这些留言在各大互联网社交平台上随处可见。24日，知乎在798举办的“阴阳怪气”主题书法展上，特意将这些评论以书法作品的形式贴在墙上进行展出。

对于这一做法，知乎对中国网科技透露，网络上很多人会不注重社交礼仪的重要性，不讲究语言分寸，一旦不认同别人的观点，就用这样“阴阳怪气”的语言攻击对方。知乎希望通过这种形式，来激发大家对建立网络社交礼仪的关注。

记者调查发现，不仅是知乎一家平台，虎扑、天涯社区乃至微博等均有用户反映，会受到因别人用“阴阳怪气”的留言给自己带来的困扰和焦虑。这些行为虽然不违法，但却会破坏平台的网络社区文明秩序，甚至对热点新闻会形成错误的舆论导向。

问题如何解决？据知乎内容质量团队技术负责人刘兆来介绍，知乎将通过算法机器人“瓦力”来应对这一问题。他称，“瓦力”可通过AI技术实现可实时识别和处理不友善、答非所问和垃圾广告导流信息。而经过技术升级之后，“瓦力”则可以实现对“阴阳怪气”内容的识别，并对内容做相应处理。

据了解，留言“阴阳怪气”，是指用户以反讽方式攻击他人，并影响正常的讨论秩序的行为。但中国网科技注意到，对于用户是否发表出“阴阳怪气”的言论目前却很难界定，据知乎方面透露，在过去7年，大量用户举报等行为，使得知乎积累了丰富的带有用户筛查性质的行为语料，并沉淀了丰富的社区管理经验，这些都帮助“瓦力”去学习，最终做到用社区最大公约数(大部分用户都认可的一个尺度)来作为“阴阳怪气”言论的判定尺度。

知乎运营总监孙达云表示：“目前‘瓦力’对阴阳怪气评论文本的识别准确率比很多人工判断都更准。”

据悉，知乎近期会让用户自由选择是否开启“瓦力”智能过滤，让阴阳怪气识别技术进入产品化尝试。而在接受中国网科技针对专访时，孙达云对记者称，知乎投入大量精力将AI技术运用到治理社区网络暴力、违法有害信息等问题上来，就是知乎对AI技术上的选择。他说：“知乎不会用低俗内容吸引用户流量，而是更希望给用户更好的讨论氛围，提供更多有价值的信息，所以“瓦力”也是知乎在AI算法上的价值取向。”

期望建立“网络社交礼仪”

如今，内容平台在“AI+内容”上的运营尝试多从推荐阅读的方向上切入，但在孙达云看来，知乎在“AI+内容”的运营上更为全面，在运用AI技术治理网络暴力这方面投入的精力更多。

孙达云对记者称，知乎的竞争优势，就是知乎社区的氛围价值，这也是为何知乎在治理网络暴力，塑造网络留言规范上的投入精力超过其他内容平台的原因之一。知乎不仅是内容平台，更是一个用户社区，用户在社区里面的行为、彼此之间的交互、互动的使用体验非常重要。

值得注意的是，被记者问及下一阶段是否会将“瓦力”应用进一步做商业化推广，选择与其他内容平台合作，孙达云对记者说：“这是知乎的愿景，未来非常愿意把它变成一个互联网社交礼仪、讨论礼仪”

据孙达云介绍，知乎在商业化运营上有两个非常明显的特征：一是对网络谩骂零容忍，二是重视维护用户的内容版权。而从这几年互联网发展时间线来看，包括微信公众号在内等越来越多的平台，都在和知乎一样，重视这两个特征给平台带来的价值，并一同加入进来维护用户内容版权，治理网上谩骂的行为。

孙达云表示：“所以说，如果能有更多同行参与进来，有更多科研机构甚至业界专家来讨论AI治理网络暴力话题，这对中国互联网甚至世界互联网的治理都有非常大的作用。”