更多精彩 >

贴上AI标签的评论区,正在剥夺我们平等言论的自由

2018-05-21 09:40:34   来源:智能相对论  作者:杨苏颖 

摘要:AI帮助进行智能评论区管理是件好事,但在AI的背后还潜藏着太多未解的难题,管理者们一定要带着问号去利用好AI,让AI成为内容管理的福音。

自古站着说话都是不会腰疼的,在这样一个鼓励质疑的社会气氛当中,戾气彷佛成了最好的鼓励。去中心化的时代,人人都有麦克风,网络发言的成本达到了历史最低。


近日,知乎正用AI识别“答非所问”和“不友善”又被媒体反复引用。前不久,罗永浩“精日没啥”的言论相继被北京日报和广州日报点名批评,微博的评论区“锤粉”、“锤黑”的论战比罗永浩本人的演讲还“好看”,但是这种“好看”是靠着你来我往的火药桶攻击而炒起来的热度。广州日报官方微博下面,“小心锤蛆”评论排在热评的第一位,“智障”、“走狗”、“SB”的字眼也屡见不鲜。微博的骂战如此壮烈让“路人”都不忍直视,更不谈上不来理性的分析罗永浩是否是精日,精日是什么的问题。微博距离中国言论环境下的“公共领域”还差得很远。


一、内容管理,要从评论区觅得曲径通幽处


评论区比内容本身还好看,现在已经不仅仅是个口上的噱头了。各大社交和问答平台都开始注意到评论区的运营。此前,为了提高评论审核的效率,有效管理微博评论,微博也开始有所动作,面向头部用户和正式会员用户开通评论审核的功能,在开放此功能之后,用户可以对自己微博下的评论实现评论先审后放。


因此,如果把文章本身称为“第一内容区”的话,那么评论区俨然已经成为蓬勃发展的“第二内容区”,今天注重评论区的管理开始变得越来重要。在4月的GMIC大会上,知乎合伙人、高级副总裁李大海做了一个分享,称知乎正在打造“智慧社区”,并透露出,在知乎的内容社区当中,AI已经可以开始进行语义识别和语境判断。因为单单依赖人工的力量来管理内容,实在不是一个高效的选择。


在知乎里面,现在有一个2岁多的机器人叫“瓦力”,目前这个机器人可以在线上快速响应答非所问和不友善的内容,减少像歧视,恶意贴标签,辱骂等等低质内容对用户的干扰。但是目前受到NPL(自然语言处理)自身的局限性和平台运营存在的相应问题,这个智慧社区还存在着不少问题。


如果说人工智能算法能够通过监测人们说话时的声学特征,比如发音频率,声音高低,以及语气的变化,来识别人类说话的情绪类型是一项很了不起的技术。那么直接通过NPL来鉴定人类的说话情绪则是更难上加难的操作。因为一个脏字不带,一个敏感词都没有的句子,AI很难总结出它们的共同特征从而有针对性的挑选出来作为负面言论的代表,真正成为评论区的“清道夫”。


另外,目前知乎的机器学习方式是利用知乎的中文语料库,调动用户积极对语料进行手动标注来训练AI,这在机器的监督学习中是必不可少的一步。但新的技术正在涌现,比如强化学习和in-streamsupervision,数据可以在自然使用过程中获得标注。或者,知乎还可以学习科大讯飞建立语音云平台一样,引入语料云平台,这样可以从其他更广泛的渠道以更快的速度发现更新的语料。因为等到知乎中文语料库中有足够的新兴语料可以让机器进行学习时,代表这类语料的存在在平台上已经比较广泛了,如果此种语料是恶性的,那么则说明评论的内容生态已经遭到了一定污染。


二、在评论区,AI与人的关系还值得细嚼


把目光投到国外,国外的那些顶级媒体则更早就开始重视到评论区的重要性并开始用技术对评论区进行打理。纽约时报与Jigsaw(谷歌Alphabet旗下科研团队)合作,并牵头华盛顿邮报、Mozilla基金会成立了The Coral Project(珊瑚项目),研究如何改进在线评论,并孵化一系列开源工具为各大新闻编辑室提供技术支持。2015年时,纽约时报采用的评论体系会依靠算法对不同用户的评论进行优先级排序,并且决定哪些用户的评论可以不用经过较长时间的人工审查就可以发布。


但是,人工智能到底是蓝海还是深坑还需要时间的检验,智能相对论(aixdlun)分析师杨苏颖还想在此提出利用人工智能管理评论内容生态的两个讨论点:


1、AI的背后是人,如果人不想解决某个问题,那么AI也只是噱头和摆设。最近,在某草根公众号中看到一篇文章,名叫《欲加之罪,何患无词》,谈论的是有关喜马拉雅APP内容付费的问题,该公众号的主人在喜马拉雅上传了自己解读书籍《乌合之众》音频,后突然因版权投诉而被下架了。喜马拉雅方面的客服称因为已经有解读该书的付费音频存在,所以再上传解读该书的音频就算作是侵权。对于某一个单一的知识付费内容能不能垄断市场暂且不论,这个唯一被平台认可的《乌合之众》付费音频下面的评论却显示出这个付费的内容并不尽如人意。


但是平台不顾听众在评论区的反馈,完全没有用心传播优质内容的匠心。如今许多平台都尝试使用AI进行评论区的管理,但是AI要执行的始终是人的想法,就算AI通过各种识别的功能发现了这个问题,如果人并不想解决这个问题,那么AI的设立又还有什么用处呢?


2、在评论区,AI通过识别用户言论来给每一个用户贴标签,这一点很难说不是在将每个人的言论权利做一个高矮次序的排列。许多用AI来管理评论区的平台谈到技术方面都会说到现在可以利用AI可以对用户进行标签,有点儿像所谓的社会信用体系。但这种看似合理的信用体系背后的问题是:争了好几百年来的平等言论权就这么被AI再次剥夺了?


站在社会学的角度,我们常常在讨论的是标签对人性的压抑以及标签给人带来的种种痛苦,并思索着如何才能让社会环境进一步“去标签化”。但我们没注意到的是,AI正在利用我们在网络留下的数据对我们进行标签化。如果,某个人曾经发布过一些负面言论,那么经过AI的识别判定后,他的言论可能今后永远只能在评论区的下游飘荡。潜在地,这个人是不是相当于被间接削弱了言论权呢?你可以发言,但是不会有人看得到。这也代表了在网络社区当中话语权会被进一步中心化。所以,AI也应该该考虑一下去标签化的问题,并建立去标签化的机制。每个人都有被原谅的机会,但是数据会知道这一点吗?


技术非但没有使信息自由流动,反而建立了更加庞大的信息孤岛。在微信当中,只有互为好友的人才能看到在同一个人朋友圈下面的评论互动,这样的评论机制在微信当中建立起的无数个不同的小圈子,小圈子之间隔着高高低低的围墙。微信虽然帮助我们连接了更多的人,但是却把父母给隔离了起来。她/他能够看到的评论区永远只有自己一个人,想要通过你的朋友圈了解你的生活,了解你的朋友和外面的世界,但是技术却阻断了这么简单的念想,他不知道你平常是怎么和朋友打趣,甚至不知道你说的佛系,在评论区看不到更多的解释,还以为你要去出家,赶紧打个电话过来询问。但为了避免你麻烦的解释过程,技术还可以建立起更多“去麻烦”的机制,比如分组可见。对于我们而言我们是在提高自己的生活效率,更好地管理自己的生活,但是对于父母而言,他们只是被强制削去了知情权,这实际就是剥夺发言权的前一步。


在日常的信息获取当中,剥夺话语权的方式是很隐晦。它通常会先剥夺你的知情权。今日头条的人工智能算法推荐信息,过度迷信算法的精准性,实则把用户困在它制造的信息孤岛。由互联网所打破的信息壁垒,在今日头条的作用下被重新建立起来,只是这背后更为深刻的是,同质信息的轰炸阻断了那些没有主动获取信息能力的人上行的通道。在这样庞大的信息社区当中,平台需要建立自己的人文价值观和社会责任,一旦当它们的价值开始混乱,钱就会成为唯一的尺度。人工智能是技术的又一次升级,但是人工智能不能成为一切腐朽旧思想的避难所,不能包庇价值观的混乱,也不能纵容技术平台对用户话语权的剥夺。如何在保护话语权和保护平台社区环境之间寻求一个平衡点,是运用AI管理评论区需要思考的第一个问题。


评论区的“黄金屋”和“颜如玉”在今天是显而易见的,但平台的内容运营者们想要在这上面使力则还需要继续探索。AI帮助进行智能评论区管理是件好事,但在AI的背后还潜藏着太多未解的难题,管理者们一定要带着问号去利用好AI,让AI成为内容管理的福音。


猜你喜欢
原创

突发爆雷!255亿家居龙头实控人被留置

AI家居

255亿家居龙头突发爆雷,居然之家实控人被留置

2天前

半导体制造AI大脑:从CIM1.0到CIM 3.0的中国式跃迁

AI创新创业

从 ChatGPT到DeepSeek,大模型的崛起标志着 AI 从通用智能迈向行业深耕的分水岭。

4天前

AI伪造泛滥下 亲笔签以动态生物特征破解电子签名安全困局

AI创新创业

今年以来,什么最热门?AI(人工智能)等智能技术可能是最好的答案。

2025-03-24

原创

中国手机,在海外“杀疯”了

手机AI5G

5G-A、卫星直连......国产手机“惊艳”欧洲!

2025-03-06

原创

字节跳动,在中国搞出“ChatGPT”?

AI字节跳动ChatGPT

字节跳动,再次激活AI赛道?

2024-12-25

名厨齐聚共议未来发展,中粮餐饮万厨俱乐部小程序2.0版本升级

创新创业中粮餐饮

近日,中粮餐饮2025供应链生态共创大会在成功举办,中粮餐饮名厨匠心俱乐部沟通会也同期召开。

2025-04-01

外联出国:突发!加拿大萨省移民政策巨变!两类通道永久关闭,留学生工签党速看!

创新创业外联出国

3月27日重磅“炸弹”!加拿大萨省省提名突然宣布多项重大变政,移民门槛全面收紧

2025-04-01

原创

优然牧业(09858.HK)2024年营收突破200亿元,业绩大幅改善

上市公司优然牧业

在消费低迷影响产业链持续承压下,纵观优然牧业2024年度业绩公告,财务、生产指标稳步向好,经营质效显...

2025-04-01

民爆光电2024全年营收16.41亿元,同比增长7.35%,实现高质量稳健增长!

上市公司民爆光电

4月1日,民爆光电(301362.SZ)发布2024年年度报告,报告期内,公司营收增长稳健,全年营业...

2025-03-31

德化白瓷:“雕玉凝脂”遇见日本京都

文化传媒德化白瓷

新华财经京都3月30日电(元旭辉)3月27日至30日,日本京都文化博物馆迎来八十余件中国德化白瓷精品...

2025-03-31

360万套新增定点!四维图新披露智驾成绩单

上市公司四维图新

在日前举行的中国电动汽车百人会论坛(2025)上,四维图新程鹏宣告,2024年至2025年一季度,四...

2025-03-31

佳禾智能正式加入IIFAA联盟,携手共建可信认证新未来

上市公司佳禾智能

近日,佳禾智能通过严格的资质审核与IIFAA理事会投票,正式成为IIFAA联盟新晋成员!此次入会标志...

2025-03-31

人保APP用户突破5000万,保险线上平台竞争新格局或将到来

金融科技中国人保

近日,中国人保APP用户累计下载突破5000万引发业界关注。

2025-03-31

投资家网(www.investorscn.com)是国内领先的资本与产业创新综合服务平台。为活跃于中国市场的VC/PE、上市公司、创业企业、地方政府等提供专业的第三方信息服务,包括行业媒体、智库服务、会议服务及生态服务。长按右侧二维码添加"投资哥"可与小编深入交流,并可加入微信群参与官方活动,赶快行动吧。

分化浪潮中的坚守与突破 | 第19届中国投资年会,即将启幕

分化浪潮中的坚守与突破 | 第19届中国投资年会,即将启幕

在时代的浩渺长河中,“分化”宛如一条隐匿的脉络,贯穿于万物的生长、发展与变迁。从生命的进化到文明的演...

第二届中匈可再生能源、新材料商业投资峰会将盛大启幕

第二届中匈可再生能源、新材料商业投资峰会将盛大启幕

第二届中匈可再生能源、新材料商业投资峰会于2025年4月9日在匈牙利布达佩斯盛大启幕。

雕刻耐心|第18届中国投资年会·有限合伙人峰会在沪召开

雕刻耐心|第18届中国投资年会·有限合伙人峰会在沪召开

“中国投资年会”作为私募股权行业的年度盛会,已成功举办了18届,吸引了全国VC/PE领域从业者的广泛...