亚利桑那州立大学研究员推动AI生成内容行业规范建设

抛一枚硬币。

正面：你眼前的照片是真实拍摄；

反面：它由人工智能生成。

无论结果如何，你基本只能靠猜测，而这正是当下的核心难题。

去年，计算机领域顶刊《ACM通讯》(Communications of the Association for Computing Machinery)刊发一项研究。该刊物隶属于全球规模最大、影响力最强的计算机专业学术组织之一。

研究显示，普通人区分AI生成内容与真实素材的准确率仅约51%，和随机猜中的概率相差无几。随着生成式AI工具持续迭代，人类肉眼越来越难分辨网络内容的真伪。

相关危害已然显现：线上零售商遭遇大量利用AI伪造图片发起的恶意退货；仅2025年三个月内，深度伪造内容造成的经济损失就突破2亿美元。

尽管生成合成媒体的技术飞速发展，但配套的真伪核验体系要么零散不成体系，要么完全空白。

亚利桑那州立大学(Arizona State University, ASU)的杨叶舟正致力于改变这一现状。

为AI生成内容建立统一标准

杨叶舟任职于亚利桑那州立大学富尔顿工程学院计算与增强智能学院，牵头推进一套技术标准的研发工作，让AI生成媒体可被溯源识别。

这套方案的核心逻辑十分简单：强制所有生成式 AI 模型在产出内容时，嵌入可被检测的标识，作用等同于数字指纹。

“这就像一套通用无线通信协议，只要全行业统一遵循这套协议，所有图像生成模型都会嵌入类似水印的标记，后续检测工具就能读取识别。”杨叶舟解释。

杨叶舟团队早在2020年便启动相关研究，重点挖掘生成模型留下的细微统计特征，这类痕迹人类肉眼无法察觉，但机器可精准捕捉。

“数字痕迹真实存在，人眼看不见，计算机却能识别。”他如此说道。

但这类痕迹正变得越来越隐蔽。随着模型能力不断升级，真伪检测或将陷入无休止的技术攻防循环。这一现状促使杨叶舟跳出 “事后检测” 单一思路，探索全新方向。

从事后检测到模型自主修正

传统检测思路是在AI内容生成完成后再辨别真伪，而新一代研究提出了更深层的命题：能否让AI模型具备自我修正能力？

这正是杨叶舟深耕机器遗忘(Machine Unlearning)的研究方向。

机器遗忘技术，旨在让AI模型选择性遗忘特定数据、概念或输出倾向，涵盖受版权保护素材、敏感个人信息、不良有害内容等。传统方案需要从零重新训练超大模型，耗时数月、成本高昂；而机器遗忘可直接定位并清除模型中不需要的信息。

“模型训练时吸收的所有信息，无论好坏都会永久留存，机器遗忘给了我们回溯修正的技术手段。”杨叶舟表示.

在富尔顿工程学院，杨叶舟团队是最早将机器遗忘应用于文生图模型的研究团队之一，该领域此前远不如大语言模型受关注。

在近期一项研究中，团队提出鲁棒对抗概念擦除算法(Robust Adversarial Concept Erasure, RACE)，专门清除生成模型中的敏感图像概念（如露骨画面），同时抵御通过对抗提示词重新激活不良内容的攻击。

该方案解决了过往技术的关键缺陷：即便模型经过训练屏蔽特定内容，用户仍可通过精心设计的提示词诱导模型复现。杨叶舟的算法可预判并拦截这类攻击，强化概念擦除效果。

第二项成果擦除流(EraseFlow) 进一步拓展思路，将机器遗忘视作重塑AI图像生成逻辑的动态过程。它并非单纯屏蔽输出结果，而是引导模型主动远离不良概念，同时保障生成图像的整体画质不受损耗。

两套技术共同勾勒出未来AI系统的发展图景：模型不仅具备可溯源透明度，部署上线后还能按需修改调整，对隐私保护、内容安全、行业监管都具备重大价值。

机器遗忘可帮助企业合规落地 “被遗忘权” 法规、版权到期后清除模型内授权素材、删除模型上线后才发现的偏见与有害内容。

推动全球行业共识落地

与此同时，杨叶舟正推动前沿技术走出实验室，实现规模化落地。

其团队与内容溯源与真实性联盟(Coalition for Content Provenance and Authenticity)、全球隐私论坛(World Privacy Forum)等机构深度合作，参与全球范围内关于AI透明度、行业治理、数据权益的研讨，主导相关规则制定。

团队的目标是搭建全球通用标准，覆盖范围不只是 AI媒体检测，更包含AI全生命周期的行为规范。

杨叶舟说：“技术研发始于计算机科研人员，但技术对社会的深远影响，需要全社会共同参与探讨。”

研究的现实意义

随着AI生成的媒体愈发逼真、普及度持续提升，我们面临的挑战早已不只是辨别虚假内容；而是在所有素材均可伪造、篡改的网络环境中，重建大众对数字内容的信任。

在杨叶舟看来，解决这一难题需要双向技术支撑：既能识别合成内容的检测体系，也能持续自我适配、修正、优化的AI模型。

他表示：“社会终究要解决这一问题，我们不能生活在一个人人都能制作以假乱真虚假证据的世界。”

计算与增强智能学院院长Ross Maciejewski评价，这正是杨叶舟相关研究的核心价值。

“应对AI风险绝不只是技术难题，更是社会议题，我院拥有独特优势，能够联动科研、政策与产业落地资源协同攻坚。杨叶舟的研究正是典型范例：一边推动行业关键议题研讨，一边研发可规模化落地的解决方案。”Maciejewski说道。