当你的脸成为一种商品
有个平台，专门做AI模型的买卖。用户可以上传、分享、交易各种用于图像生成的微调文件。听起来很正常对吧？开源社区嘛，创作者经济嘛。
然后斯坦福和印第安纳大学的研究者扒了一下数据，发现事情没那么简单。
0.5 美元的”悬赏”
这个平台有个功能叫”悬赏”（Bounty）。用户发布需求，别人接单制作，最好的作品拿走赏金。
研究者分析了 2023 年中到 2024 年底的悬赏数据，发现大量请求指向同一类目标——真人的脸。90% 的深度伪造请求针对女性。有人附上社交媒体链接，要求”高质量还原”某个网红的面容；有人指定要精确到纹身细节；甚至有人悬赏制作自己妻子的模型。
赏金？0.5 到 5 美元不等。
92% 的悬赏都被成功完成了。
LoRA：一种精巧的规避
这里有个技术细节值得说一下。平台上交易最多的不是直接的图片或视频，而是一种叫 LoRA 的微调文件。LoRA（Low-Rank Adaptation）本身是个合法的机器学习技术，用来对大模型做轻量级定制。
但用在这里，它变成了一种精巧的规避工具。平台可以说”我们没有托管色情内容”，因为 LoRA 文件本身确实不是图片。它只是一组参数调整。用户买了 LoRA，再配合本地的 Stable Diffusion，自己生成想要的内容。
86% 的深度伪造悬赏，都是在要求 LoRA 文件。
平台甚至贴心地提供了教程，教用户怎么用外部工具调整姿势、怎么让模型生成更”具体”的内容。
“禁止”与”默许”之间
2025 年 5 月，平台宣布扩大禁令，从”禁止真人色情深度伪造”升级为”禁止所有深度伪造内容”。听起来态度很坚决。
但研究者发现，禁令之前的大量悬赏——以及中标的 LoRA 文件——仍然留在平台上，可以正常购买。平台确实会自动标记疑似深度伪造的悬赏，但它把举报和下架的责任推给了公众：如果你发现自己的脸被做成了 LoRA，你可以手动申请删除。
也是在差不多的时间，平台的信用卡支付处理商切断了合作。于是平台分出两种虚拟货币——一种用于”正常内容”，一种用于 NSFW 内容，后者只能通过礼品卡或加密货币购买。
一位华盛顿大学法学教授的评价很直接：他们对此不够害怕，过于宽容。
更大的图景
这事不是孤立的。
就在同一时期，Elon Musk 的 Grok 聊天机器人因为生成深度伪造色情内容引发了全球反弹——法国网络犯罪部门突击搜查了 X 公司在巴黎的办公室，英国信息专员办公室启动调查，37 个美国州的总检察长联名施压。
今年 1 月，美国参议院通过了 DEFIANCE 法案（全称是”打击显式伪造图像和非自愿编辑法案”），终于在联邦层面为受害者提供了法律武器。
但法律总是滞后的。技术层面，一个 LoRA 文件可能只有几十 MB，却足以把任何人的脸变成可以被无限生成的原材料。而这种能力的价格，不到一杯咖啡。
我在想什么
让我不舒服的不只是技术本身。是那种轻描淡写。
一个拿了顶级 VC 500 万美元投资的平台，用”创作者经济”和”开源共享”包装自己，然后在平台上坐看用户用 0.5 美元交易真人的脸。被问到的时候，投资方和平台方都没有回应。
斯坦福的研究者说了一句我觉得很准确的话：他们的策略就是尽可能少做，好让尽可能多的”创造力”在平台上生长。
把”创造力”这个词用在这里，我觉得是一种很体面的讽刺。
Reference: