分享到： 微信 QQ好友 新浪微博 QQ空间 Facebook 打印 更多

无法打赏充值、没有钱包功能、送礼物功能变成了「红心点赞」、同城Tab完全消失、视频内容还被严格分级...

这是4月12日，快手新推出的「家长控制模式」，快手也因此成为了第一个提供了未成年权益专项保护的短视频产品。

打开整改后的快手，「落实整改 砥砺前行」的字样依然在发现页置顶，视频也多为阳光健康的各类生活内容。

而APP首页左上方设置，左侧栏出现了一个有带有儿童图标的「家长控制模式」。

进入该模式，输入密码开启该功能后可以发现，与普通模式对比后，该模式具有如下功能：

1、去掉同城栏目；

2、关闭直播打赏功能；

3、关闭查找功能；

4、关闭钱包功能；

5、关闭安卓里的作品打赏功能

6、发现页内容大幅改变，对未成年人观看视频进行严格分级。

可见这是快手为未成年人订制的专属空间。而这背后，是数日以来短视频行业的整顿风波。

近来，快手、头条、Facebook、Youtube,这些以算法驱动的互联网公司近来正遭遇来自监管、媒体、舆论的层层压力。

而此前快手CEO宿华的公开道歉，一句「算法的价值观就是人的价值观，算法的缺陷是价值观上的缺陷」标志着国内算法驱动式视频平台，正式告别了「技术中立论」，开启了「价值引导论」的下半场。

从兴趣到幸福：快手的新挑战

4月初广电总局、网信办对快手与头条系短视频平台进行约谈，要求整改。事实上，国外算法驱动类平台巨头，也正面临着同样的舆论漩涡与监管压力。

就在4月10日，印度反托拉斯监管机构周四以「搜索偏差」为由，向谷歌公司处以13.6亿卢比（2117万美元）的罚款，这是谷歌最近一次遇到的“监管挫折”。印度竞争委员会表示，谷歌滥用其网络搜索和在线广告市场的统治地位，其「沉迷于搜索偏差」的做法，会对竞争对手和用户造成伤害。

而在今年的二月，《卫报》发表了一篇长文，反思了Youtube的算法，认为算法推荐的内容不能完全反映事实，有时候会给人以误导。更早之前的2017年11月，Youtube更是因向儿童推荐怪异、变态甚至有性和暴力场景的视频，被《纽约时报》质疑，随之而来的是家长们的怒火...

正如张一鸣近日接受记者采访时表示，数据驱动容易标题性、负面性。所有的社交媒体平台都会遇到这个问题。

然而如果进一步分析，遭遇此类问题的平台有着不同成因。

以快手为代表的强调「真实」的平台，问题在于他们以为在遵守法律法规、遵从公序良俗的前提下，可以展现一个完整真实的世界，却忽视了夹杂在真实世界中的各种问题会让受众引起不适。它像为数亿用户提供了一个无限宽广的舞台，而人性却像一盏聚光灯，照亮了迎合人性的表演，却也夹杂着「贪嗔痴」的成分。快手应该加强这部分的监管和引导。

而另一种追求「流量」的平台，问题则在于过度追求流量与商业化。

但两者的问题却都在审核这一重要环节上凸显出来。

如果仅从技术层面理性考量，算法驱动型平台所遭受的舆论要求其实相当苛刻——这一方面当然舆论压力促进了此类平台的前进，但另一方面，过于完美的要求（比如要求平台上绝对杜绝低俗内容），完成难度非常大。

以快手为例，快手的愿景是让每一个人获得独特的幸福感，其有上亿活跃用户、每天产生近千万的视频。

众所周知，对于视频的审核难度本就远高于图文，必须依赖于人工智能和大数据技术的强力支撑。

快手的视频理解是通过多媒体内容理解平台去实现的，快手通过深度学习的算法从人脸、图像、音乐、语音等四个纬度进行内容的分析。比如，人脸的识别会检测视频里面有人，里面的人是男是女的，他年龄是多少，他在里面表情是喜怒哀乐。再如，图像的分类和检测是识别视频有什么样的物体他是一个什么样的场景，他是正在踢球是正在弹琴还是正在钓鱼。

这几个维度是底层语义的理解，可以识别出很多基础的信息。在此基础之上，再进行进一步深入解读成数据。

「上亿活跃用户结合这些流程，将会产生海量大数据，可以说用户独特的情感都蕴含在这万亿级的大数据里，要帮助用户获得独特的幸福感还需要非常先进这样的算法的模型，以及非常强大人员技术架构去提炼出来。」，快手CTO陈定佳曾在清华大学未来媒体数据联合研究院的启动仪式上阐述快手的算法逻辑。

可以说，若要达到用户心中完美的内容标准，任重道远，且需要各方的合力。庞大数据量和业务复杂度给数据生成、采集、传输、存储和计算等带来的一系列问题是，不仅是快手所面临的新挑战，更是全世界视频行业都需直面的难题。

而与清华大学共建的未来媒体数据联合研究院，正是快手寻求进一步突破：以清华软件学院与快手的技术难题攻关为基础，联合开展社会人文领域研究，通过技术人文结合，共同探讨包括内容审核在内的一系列未来媒体课题，让技术更好赋能用户，实现人与人之间更精准的连接。

这在今后或许能为快手完成这个新的挑战助力。

头条系的产品，也有类似的AI审核机制，起初其最核心的审核技术是动态关键帧识别、图像建模识别和语音识别等人工智能技术。

以动态帧过滤系统为例，它可以将一部短视频截成动态关键帧，将视频当前场景与下一场景进行对比，场景变化大于60%时，可以生成动态帧提供给机器和人工进行过滤。

然而，人工智能识别虽可识别出部分违规内容信息，但对短视频内容却无法进行定义，更做不到精准内容识别。况且，目前人工智能现处于弱人工智能状态，早期的学习还无法满足日益壮大的短视频内容的冲击。

所以，在未来，AI+人工审核，将成为快手、头条们的新挑战。

从强调技术到重视价值观：快手们的下半场

事实上，算法驱动型平台经过这一轮风波，也正在积极求变——为技术引入价值观，对用户予以正向引导。

国内的，以快手为例，自CEO宿华公开致歉整改后至今，快手的推出了一系举措，证实了这家企业将「价值引导论」贯彻到底的诚意。这一系列举措可以归结为五点：

1，坚决打击违规用户，清除低俗色情内容，整改期间，清理问题短视频31万条，封禁5.6万名用户，清理6.5万个用户名；

2，明确将审核团队从目前的2000人扩编到至少5000人，落实共青团员和党员优先政策，提供高于同行薪资，加快建立一支政治坚定、业务精湛的工作队伍，目前全国范围内招聘行动正在进行中；

3，坚持社会主义核心价值观指导算法，放大优秀作品的影响力、感染力，热门页面下线整改期间，平台精心筛选能量视频共得到逾170亿次曝光，获得超31亿次播放、6900万次双击喜欢、9500万条评论、3400万次分享；

4，建立未成年人保护体系，4月12日起上线“家长控制模式”，家长可通过密码一键开启/关闭“儿童锁”功能，过滤不适宜未成年观看的内容，并关闭开启直播、直播打赏、查找、同城、钱包等功能，从4月13日起，发现页未成年过滤内容池正式上线，该模式将持续进行迭代更新；

5，与清华大学联合成立未来媒体数据联合研究院，以清华软件学院数据处理、人工智能等方面领先技术为基础，联手清华一起推进更多社区建设、内容管理、以及价值观引导等方面的跨学科融合研究。

除快手外，头条系产品自4月5日起也开展了为期数日的整改。

先是今日头条旗下火山小视频、西瓜视频等短视频平台共计下架问题视频10318条，重置封禁问题账户4864个，增加视频审核相关词库敏感词1700余条，并在视频社区大力推荐社会正能量内容。

与此同时火山小视频也进一步严整： 1、整改期间“视频”频道暂停更新，仅推荐正能量内容；2、建立健全审核体系，扩充审核人员队伍，增强审核力量；3、对平台上的未成年人严格管理；4、全面清查不利于未成年人的内容；5、加强落实黑名单制度。

而到了4月11日，今日头条宣布关闭App内语录、段子、趣图、美图和美女共5个频道。目前打开今日头条客户端，在频道选择中已经看不到相关频道。

截至目前，今日头条旗下的今日头条App、火山小视频App、西瓜视频App、抖音App等悉数进行整改，而内涵段子App更是被永久关停。

而在国外，YouTube的整改方案则是计划在近几周推出新版本的YouTube Kids应用，这一新版本里呈现的所有视频都将由YouTube团队100%人工审核和挑选，全面替代由算法推荐的视频内容。此外，YouTube还将在有阴谋论嫌疑的视频页面上，添加真实事件解读的网页链接。如果用户搜索并点击一条阴谋论类的视频，YouTube将在该视频下链接一个维基百科页面，以澄清视频中的谣言或阴谋论。

一直被虚假或仇恨内容困扰的Facebook创始人扎克伯格，设立的2018年新年目标就是整改、矫正Facebook的方向。具体措施包括将会优先呈现当地新闻内容，未来系统会通过用户所处的地理位置去调配新闻内容，如果新闻来自用户本来就有点赞追踪的新闻出版商，或是好友即时分享，这些新闻来源就会在排序中优先展示。

写在最后

目光收回至国内。快手与头条，一个是拥有超过1亿活跃用户的短视频行业领跑者，另一个则是拥有爆款产品抖音以及西瓜、火山等短视频平台的超级独角兽。二者虽各有各的烦恼，却都是国内技术与算法的新兴代表。

在2016年12月的一次采访中，张一鸣的一句「技术是中立的，今日头条拒绝价值观先行」引发无数讨论和疑问的声音；而前几天宿华在致歉信中的那句「算法的价值观就是人的价值观」可以看做是对这些声音的回应。

如果说「技术中立论」开启了以算法驱动型平台的上半场，那么宿华的「价值引导论」则吹响了下半场的开场哨。

毫无疑问，下半场最大的看点不再仅是算法或技术，而是价值观与技术的结合。

一方面，算法依然是不可或缺的审核推荐机制，它可以提高分发效率、用户体验和变现效率。不过算法却不可过分依赖，它只能是辅助的工具。

所以，另一方面，算法驱动型平台必须拥有符合主流的价值观体系。同时要通过人机结合，将价值观体系融合算法，才能承担起与数亿流量相匹配的社会职责。

正如扎克伯格在听证会上说的那句话：「我们不是一家媒体公司，而是技术公司，但是我承认作为平台也应该对平台内容负责」。

（文章来源于：36氪摘编）

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.