编辑：大众生活 来源：大众生活
深圳商报•读创客户端记者 陈姝
5月24日，腾讯QQ发布2024第一季度QQ平台生态治理公告。公告显示，第一季度平台累计打击违规账号411万个，并重点整治涉网络赌博、诈骗、未成年人负面影响的有害内容。
AI技术加持，更精准打击黑灰产
互联网产物所面临的主要挑战之一是网络黑灰产的连续作恶。大数据、人工智能、区块链等新技术、新业态的发展，也使得网络黑产非法牟利的技术和手段不停变形升级。
为了有效对抗黑灰产，在充实保障用户隐私的情况下，QQ宁静团队利用宁静大数据、社交图计算、宁静多模态大模型等手段构建了一套全方位的宁静技术防御体系，实现上游严格管控黑灰产账号资源、中游及时准确识别各类风险、下游精准打击处理违规内容。
据QQ宁静团队介绍，以违规内容识别打击为例，借助大模型对通识和社交知识的学习积累和应用能力，QQ平台能够准确鉴别各类色情低俗内容。而针对“AI换脸”新型诈骗，QQ也已经储备了异常环境检测、风险账号识别和异常操纵分析等多重技术手段，一但出现此类风险可以对疑似被诈用户下发提醒或直接拦截阻断，保障用户隐私和产业宁静。
同时，QQ也根据差别用户特点，在“加好友、加群、沟通、分享屏幕”等业务场景摆设多重宁静防护步伐，通过宁静弹框、状态栏消息、公众号推送等多种形式的宁静提醒每天触达约30余万名用户，及时有效提醒广大用户警惕网络风险。
风险流量下降凌驾90%
不久前，#小时候被盗的QQ终于有救了#一度登上话题热搜，起因是有一网友分享了自己乐成找回QQ的经验。作为国内最早的即时通讯工具，QQ账号是许多用户的互联网钥匙，被广泛应用于各个互联网产物中，这也无形中放大了QQ账号密码泄露的风险，增加了QQ账号安全工作的复杂性。
针对黑产作恶全链路的多个核心节点，QQ宁静团队基于QQNT全新的系统架构，全面加强各项核心宁静能力，实时响应并自动化拦截突发异常，精准打击黑流量，在用户零感知情况下精细化处理各类风险，守护用户数据资产宁静。
据QQ宁静团队介绍，目前已经对“黑产自动化作恶工具、作恶号源批量生产、黑号解封复活操纵、恶意流量曝光占位”等实现有效的连续性封堵拦截，特别是在QQ协议挂的治理上基本告竣“团灭”的打击效果。随着新版QQ宁静加固的落地，其针对所有端的协议都完成了自动化管理覆盖，平台整体风险流量相比2022年初下降超90%。
别的，在“账号登录、账号异常风险提醒、账号找回”等涉及用户体验层面，QQ也在连续优化流程，保障用户宁静便捷操纵。
未成年掩护进一步升级
飞速发展的互联网一方面拓展了未成年人学习、生活的空间，同时也引发了全社会对未成年人网络掩护问题的关注。早在2020年，QQ就率先上线了适合网课场景使用的“学习模式”，并在同年9月将“学习模式”全面升级为“青少年模式”。截至目前，QQ在“游戏娱乐”“消费充值”“广告推送”“短视频内容”等方面进行80余次的连续优化，全方位掩护未成年人网络宁静。近期，QQ青少年模式新增了内容分级能力，资助未成年人在差别年龄段触达更适合的知识内容。
为给青少年用户提供快捷、有效、有用的举报能力，QQ特别增设了未成年人专属快速举报通道，并细化有害标签，一方面指引用户顺利完成举报，另一方面也确保平台能以最快的速度核查处置惩罚涉未成年相关的举报内容。同时，平台举报流程中还会为用户提供快速报案指引，根据用户地理位置为其提供最近的派出所信息及报警热线。
想要掩护未成年用户不受不良网络信息的侵害，除了对平台的技术产物和巡查处理能力提出要求，还需要进一步培养未成年用户的风险识别意识与抵制能力。基于此，QQ充实考虑其兴趣和发展需求，设置未成年人守护专区，联合内外创新打造多形式的网络宁静教育、人文科技知识科普内容和活动，并提供线上线下的专业资助，为未成年人身心健康发展保驾护航。
Copyright © 2017-2018