快手热捧早孕网红 算法推荐及审核漏洞要背锅

互联网 | 编辑: 潘翔城 2018-04-05 05:00:11转载

愚人节刚过去两天,没被表白的“老阿姨”们哭天喊地,纷纷表示脱单无望。而另一群比她们小上七八岁甚至十几岁的未成年人,抱着自己的娃走向大众。

“未成年”“怀孕”“二胎”“妈妈”,这些字眼拼凑起来居然变成一种时髦,在大火的网络直播及短视频平台掀起阵阵妖风。

3月31日,央视《新闻直播间》和《东方时空》报道了在快手、火山小视频等短视频平台出现大量未成年怀孕视频,以未成年生子为噱头,争相炫耀。

比如这样,

这样,

这样,

还有这样。

这些未成年妈妈大多生活在农村或小城镇,早早辍学生子。当发现在如此火爆的视频平台上,靠强化低龄妈妈的属性能够受到瞩目,她们掀起了争当“全网最小妈妈”、“全村最小妈妈”的风潮。

但根据我国《刑法》规定,与未满14岁的少女发生性行为,不管是否自愿,都按强奸罪论处。让未成年少女怀孕生子,除了触犯法律更是挑战社会道德底线。

而这样的视频却在网络平台大肆传播,博取眼球。相关平台不仅不及时拦截,反而推波助澜,为博眼球、抢流量对此进行推送。

4月1日凌晨,在节目中被点名的快手在其官方微博中做出回应,称其进行了全站清查,查删封禁了一批视频和账号,同时将关闭推荐功能,升级人工智能识别系统,加强核查。

但众多看客显然对快手的这波回应不买账,评论中不乏“要不是央视爸爸点名你们能致歉?”、“擦边球打多了早晚得进洞”等言论。

4月3日凌晨,快手CEO宿华再次发文道歉,道歉文洋洋洒洒一千多字,在此划出重点其实就三条。

  1. 我们错了。(此处省略煽情表达N字)

  2. 将对低俗与擦边球内容全量多轮人工审核,研发升级算法识别体系。另外,将用正确的价值观指导算法,优先推荐个性化的更符合用户兴趣的正能量作品。

  3. 完善身份认证措施。

将未成年怀孕妈妈捧成热门的两大主要原因是关联推荐及平台审核不严格,解铃还须系铃人,想要堵住这阵风就需从这两方面着手。

算法

不知从何时起,资讯平台与短视频平台揣起了“精准推荐”这一神器。具体说来,假如你点击观看了二哈大战金毛的视频后,平台就可能推荐一波二哈大战泰迪,二哈大战草泥马,二哈大战傻主子……视频内容。

一个成功的推荐背后都有一个伟大的算法。

一位不愿透露真实姓名的AI 算法科学家“拉努”(化名)透露常见的推荐算法是协同过滤,也就是如果某些用户的历史行为和我比较类似,那么他们新的一些行为会推荐给我。关联推荐也可以基于历史行为,如果两个内容的观看人群重合度高,可以被作为关联推荐,或者两个内容本身比较相似,也可以作为关联推荐。

在快手中打开一位17岁妈妈的主页,点开一个小三角就会出现一栏“你可能感兴趣的人”。随机点开一个,出现了一位18岁妈妈。在她的主页中再点一下推荐,又会看到一群小妈妈。算法,就是系统源源可以不断地推荐相似内容的原因。

不过水能载舟亦能覆舟,算法既能偷摸观察你的行为进行“比你妈更懂你”的精准推荐,也能筛选出低俗与擦边球内容,这就是用算法“打”算法。

拉努解释,算法的优势在于寻找类似内容以及异常热点,在从海量内容中过滤出类似或异常后通过种子用户标记为安全或不安全,再通过算法扩散到全网。目前,深度学习优势即可检测的内容变广,从单纯的标签到内容本身,包括文本,图片,视频里每一帧,都可以作为特征。

根据TechCrunch报道,2018年YouTube增加了10000名内容审核员对内容报道进行人工审核,这足以说明过滤低俗不是一件好办的事。但是,往往这些内容有着高点击,带来很大的广告收入。

拉努建议,此处可以借鉴在google的做法——在推荐的目标优化函数中加入社会价值的部分。传统来说,广告主出价反应广告本身的价值。 但是google为了进一步保护用户价值,做了两件事,一件是基于质量投标,如果广告质量越差,广告主得到最低出价越高;另一件是通过AI算法计算点击广告后用户的满意程度,以此来惩罚骗点击的广告。

审核

除了算法,另一个锅来自平台审核。

身份绑定及审核漏洞不仅捧出了大票早孕网红,还为色情黑色产业链进行了导流。

蓝鲸TMT早前曾有过报道,有的直播平台不仅利用云存储进行淫秽视频下载播放,而且通过有偿推广、“黑客”技术破解等方式把国内较为有名的涉黄和知名直播平台聚集在一起,并对外承接各类涉黄涉赌类广告。类似“快播+色情直播”的内容运营模式,形成了规模化、组织化的色情黑色产业链,并可以迅速地使注册会员数量达数百万级。

另外,即使多数涉黄直播平台发现视频和数据被盗取,并不敢公开交涉,这对直播平台而言也是一种广告推广。导流出去的视频若想观看需要进行会员充值,有的一次性会员价格最低可达每个月9.9元,此外,大多数是通过月费、季费、年费进行会费收取后,可进入QQ群、相关软件等观看淫秽直播或视频文件。

除此之外,平台盗号问题也愈发严重。

快手未必没有采取措施,但平台的自我监管若想治本,应该从用户注册环节开始,完善身份认证措施。

相关阅读

网友评论

每日精选

首页 手机 数码相机 笔记本 游戏 DIY硬件 硬件外设 办公中心 数字家电 平板电脑