全球播报:抖音首发行业倡议:规范虚拟人直播 AI生成内容要打标签
(相关资料图)
5月9日,据抖音官方消息,抖音发布《关于人工智能生成内容的平台规范暨行业倡议》(下称《倡议》)。
在这份《倡议》中,抖音提到,发布者应对人工智能生成内容进行显著标识,帮助其他用户区分虚拟与现实,特别是易混淆场景。此外,抖音还提出“元数据标识”规范,并建议这一标识元数据可被其它工具和平台识别。对此,有专家表示这项标识技术落地并不难,但能否推广至行业是关键。
南都记者观察发现,抖音是国内首家针对人工智能生成内容作出行业倡议的短视频平台,倡议书发布引起不少关注。有观点认为,这是生成式内容创作领域的进步,在治理虚假信息等方面将产生积极影响。
据抖音方面介绍,《倡议》参照《互联网信息服务深度合成管理规定》等法律法规,提出十一条平台规范与行业倡议,其中包括标识水印和元数据规范原则,并进一步指出创作者、主播、用户、商家、广告主等平台生态参与者,在抖音应用生成式人工智能技术时,发布者应对人工智能生成内容进行显著标识,帮助其他用户区分虚拟与现实。
“标识人工智能生成内容的意义在于,能够对虚假新闻和虚假内容进行责任判定,也能够帮助用户判断信息的真实性。”清华大学中国科学技术政策研究中心副主任梁正认为,在深度合成技术发展迅速、使用门槛降低时,抖音作为头部企业的反应算是比较快速的。《倡议》的提出回应了《互联网信息服务深度合成管理规定》等法律法规的要求,并明确划分了平台责任和内容创作者、用户的责任。
梁正告诉南都记者,在讨论生成式AI的责任划分时,如果所有的责任都由平台来承担,可能不具有可行性。根据《倡议》内容,抖音相当于是给发布者和平台都提供了(标识的)服务,让发布者自己进行标识,以进一步区分其责任。
抖音同时表示,平台也将对人工智能生成内容衍生的问题进行治理,同时提供统一的人工智能生成内容标识能力,帮助创作者打标,方便用户区分。平台将提供用户反馈渠道,方便用户反馈违规生成内容。而针对如用户个人作品或形象被用于人工智能生成等侵权行为,抖音同样提供了专门的侵权反馈入口。
值得注意的是,针对近几年使用越来越广泛的虚拟人,《倡议》提出,虚拟人背后的真人使用者,必须进行实名注册和认证。平台将提供虚拟人的实名注册备案能力,并对已注册的虚拟人形象进行保护。此外,用户使用已注册的虚拟人形象直播时,必须由真人驱动进行实时互动,不允许完全由人工智能驱动。
在“元数据规范原则”上,南都记者注意到,抖音并未进行强制要求,仅建议相关人工智能创作工具在生成多媒体内容时,可添加标识元数据到多媒体文件的元数据中,该标识元数据可被其它工具和平台识别,即不同的平台及工具能够互认标识元数据。
梁正认为,元数据的标识属于隐形标识,虽然并非强制性标准,也可以作为标准看待,可以起到示范作用。比较理想的是,各个企业在共同的基础上制定标准,能够实现数据标识规范的统一。其落地技术难度并不大,但能否推广至行业接受这一规范才是较大难点。
标签: