AI 网红利用 AI 技术伪造与名人的床照,于 Instagram 引流至成人网站牟利,揭露了平台监管不力及 AI 色情变现的法律与伦理乱象。
(前情提要:钱包、警告与薄弱环节:2025 年加密货币安全攻击全解析)
(背景补充:Bybit 内部出包?安全专家:北韩黑客 Lazarus 疑似入侵交易所员工电脑取得钱包多签权限)
本文目录
Instagram 上近期涌现大量 AI 生成的虚拟网红账号。根据 404media 报导,这些账号利用 AI 技术制作与 NBA 知名球星詹姆斯(LeBron James)、巨石强森、拳王泰森…等名人的虚假「事后床照」,通过挑逗性的影音吸引流量,进而将用户引导至成人平台 Fanvue(这是一个对 AI 生成内容政策较为宽松的 OnlyFans 竞争对手)牟利,引发社会对肖像权与平台监管责任的强烈质疑。
这波从 2025 年底开始泛滥的趋势,通常遵循特定公式:影片开头展示 AI 网红与名人的亲密合照,并标注「How it started」(故事开始);随即切换至两人衣衫不整、大汗淋漓的床照。这种极具冲击力的内容,成功利用算法漏洞,绕过初步审核并迅速扩散。
尽管 Meta 已开始实施 「AI 生成内容标注政策」,要求用户必须揭露由 AI 修改或生成的真实影像,且这些虚拟网红账号明显违反了以下规范,但成效不彰:
非自愿亲密影像(NCII)政策: Meta 严禁分享未经当事人同意的虚拟亲密或裸露内容。
深伪诈骗规范: 这些账号刻意隐瞒 AI 身份,并以误导性影像进行商业导流。
肖像权与人格权: 在法律层面,此举侵害了名人的「公开权」。NBA 球星詹姆斯去年已针对此类行为发出停止侵权通知函,主张其肖像被不当用于营利。
这些 Instagram Reels 的浏览量通常高达数十万,有时甚至高达数百万。通过「外部引流、内部变现」的模式,这些账号持续盗取真人创作者影片进行「换脸」的恶劣行径。
面对举报,Meta 虽删除了部分违规影片,但并未采取系统性的封禁措施。法律专家指出,随着 AI 技术门槛降低,若平台持续未能有效执行其 AI 标注与肖像审核政策,未来不仅名人受害,一般大众也可能成为这种「色情变现」模式的牺牲品。
目前,相关受害者法律代表正研议采取更大规模的集体诉讼,迫使社群巨头承担应有的内容把关责任。