抖音：2024年通过AI大模型识别处罚违规账号超600万个

小哪吒

         2025年1月13日，抖音发布2024网络黑产治理盘点报告。过去一年，抖音通过升级AI大模型技术、迭代风控策略、优化举报机制等措施，持续打击网络黑色产业链，封禁欺诈、水军和违规导流相关黑产账号超600万个，并向相关部门提供违法犯罪线索。
         在欺诈治理方面，抖音重点打击仿冒领导、亲友和官方客服的欺诈行为，以及刷单诈骗、购物诈骗等类型。平台通过阻断黑产触达受害者、上线反诈客服“验证助手”、迭代反诈策略等手段，日均保护潜在受害人200万次。2024年，警方根据抖音线索打击诈骗团伙69个，抓获犯罪嫌疑人451名。
         针对网络水军，抖音精准识别并打击售卖水军服务、恶意控评、流量造假、恶意举报等四大类行为。通过搭建用户模型、拦截异常操作、提升识别能力等措施，抖音日均拦截违规信息6200万次，封禁账号110万个。警方依据抖音线索抓获水军黑产犯罪嫌疑人90名。
         在违规外链导流治理上，抖音升级视频关键帧识别能力，阻断黑产引导用户至第三方违规、违法网站的风险。通过新增自动黑样本库、升级模型能力等手段，抖音封禁相关违规账号超120万个。警方根据抖音线索打击违规导流团伙8个，抓获嫌疑人40名。