Meta监管委员会近日发出强烈呼吁,要求Meta平台对用户推荐中那些"高风险"的人工智能生成内容采取更为严厉的应对策略——包括去货币化、降级处理乃至彻底移除,同时建议对屡教不改的违规账号施加逐级加重的惩罚措施。
这一建议的提出,标志着监管层面对AI生成内容在社交平台泛滥问题的关注已从单纯的标记转向实质性管控。据悉,该委员会所定义的"高风险"AI内容,涵盖可能误导公众、传播虚假信息或造成潜在社会危害的生成式内容。
尤其值得关注的是,委员会特别强调了"递增处罚"机制的重要性——这意味着首次违规可能仅受轻度警告,而反复违规的账户将面临愈发严厉的制裁,形成一种梯度化的惩戒体系。这一设计思路,既体现了对初犯者一定程度的包容,又向恶意滥用者传递了明确而强硬的信号。