我们无不惊叹于互联网带给娱乐与社交的巨变，我们在新闻中看到，网络暴力横行、虚假谣言肆虐、个人身份隐私盗窃活动以及网络欺诈的威胁，数字风险造成了严重的社会问题。随之而来的是互联网监管政策不断跟进，给互联网世界带来一丝新鲜的秩序感，崭新的风貌逐渐在显露。
无论是使用微信与家人和老朋友联系，还是使用微博了解时事，或使用抖音、b 站、小红书娱乐，娱乐社交行业的使命在于“与人建立联系与交流”。
易盾在客户调查中发现，娱乐社交媒体趋向于提供一种积极向上的体验，对用户的在线安全环境负起责任，没有人想要与素质低下的同伴交流，在危险、仇恨、肮脏或非法的氛围中度过时间。
正因如此，内容风控已成为娱乐社交行业不可或缺的一部分，对产品运营的持续成功至关重要。没有它，在线平台将被个人欺凌、暴力恐怖、色情淫秽、垃圾广告、儿童性虐待等有害信息淹没。
内容安全“年度数据分析”篇
围绕数字内容风控现状，《2022 娱乐社交行业内容风控白皮书》（下称“白皮书”）新鲜出炉，披露了最新的全年风控数据。
白皮书聚焦娱乐社交行业客户，集中分析了当前政策管理、技术变革、全球化局势带来的主要风险，介绍了互联网信息内容黑灰产的作恶路径，剖析了风险用户画像中的年龄、地理、时间、设备等特征，帮助企业以更加多元化地角度去评估该用户的风险指数，助力企业找到数字风险的突破之道。
“月黑风高夜，风高放火天”，人们通常认为深夜是作恶的最佳时机，然而实际情况却出乎意料：和以往不同，传统的网络安全黑灰产通常在后半夜行动，而利用内容作恶的黑灰产们与大部分网民保持步调一致，在利用的黄金时段操纵着发布不良有害内容的链条，目的在于触达更多人，增加不良有害内容被正常用户看到的可能性。
易盾团队持续跟踪发布不良有害内容的风险用户年龄画像，约 83% 的不良有害内容来自 15-29 岁年龄段的用户，其中 15-19 岁年龄段在恶意发布者中占了近一半。为什么未成年人在风险用户中占比如此之高？
本章我们将拆解有害内容的数据，从数量、类型、发布地址分布、发布时间分布、发布用户群体分布、行业差异出发，助力企业加深见解。
过去 6 年来，大部分娱乐社交行业的公司“从无到有，从有到精”，设立了机制健全的内部内容管理部门，通过采取外部技术九游会网址最新的解决方案的方式很好地跟踪与处理掉内容风险。当前，“人机结合”的内容审核是互联网企业的主流选择，其中 ai 已经成为数字内容风控的重要助力。超过 95% 的有害内容被 ai 定位，效率比单一人工审核高出几倍。
那些整体制造“网络信息垃圾”与“不良有害信息”的力量，又被称为“网络信息内容黑灰产”。他们有一些共同点与一个相似的演化趋势。
搬运洗稿、恶意营销、撰写黑稿、黑账号、刷粉刷量、广告引流等违法犯罪行为，正在为网络信息内容黑灰产带来源源不断的经济利益，也致使其获利手段日渐多样化，如诱导粉丝消费、音视频软色情贩卖、刷帖控评、算法滥用、集群炒作、人海投诉等，更有问题组合出现的情况。
网络黑灰产并不是无迹可寻，无论是在产业链分工，还是在生命周期，抑或是在工具物料的使用上，都有着明显的特征。2022 年上半年，网易易盾分析积累的黑产工具样本同比 2021 年同期增长了近 20%，超过 15000 个，根据其发展形态可总结为四个阶段，快来报告中找答案。
一直以来，国家网信办每年开展多次“清朗”“净网”系列专项行动，各地“扫黄打非”部门深入开展“护苗”专项行动，清理网上有害不良信息。
为创造清朗网络空间，监管部门积极行动，各部门都启动了职责范围内的内容治理行动，其中广电总局和网信办的力度更大，此外中宣部、国家新闻出版广电总局、国家互联网信息办公室等监管部门也参与其中，多部门联合开展综合整治，互联网内容治理呈现出新趋势。对此趋势，白皮书收集关键政策文件，加以全面解析。
此外，白皮书针对海外市场展开了专门的风控维度解读、处罚案例剖析及特色条款解读。为了更好地助力娱乐社交行业的企业完成，易盾的专业团队对不同国家的策略进行了跟踪解读，精准契合当地内容安全法规。易盾也特地组建了海外本地化舆情、运营和审核团队，让更懂本地政策、更加专业的海外专家助力企业安全出海。