上述短剧被多家“剧场”播出,目前有些剧场已下架这部短剧,有的仅删除了涉事的一集内容。在听到伴随AI时代到来,深度合成的影像越来越真实,当中出现的AI换脸等深度伪造问题与日俱增。当此行为蔓延至影视作品后,势必造成负面影响。
“这会扰乱行业和市场,坚决抵制这类偷奸耍滑。”打造了多部爆款短剧的制片人周海向有网友在刷某部短剧时发现,剧中女演员的脸疑似利用AI技术换脸迪丽热巴,并将这一幕具有争议性的画面录屏发至社交平台,引发广泛关注。4月11日,登上热搜。
有媒体在该短剧的某播出剧场时,剧场方面回应称:该剧是从此次的短剧风波并非孤例。近期,网上出现了多个疑似与明星相关的AI合成技术滥用情况。如因利用AI技术,将某剧中男主角杨洋的脸换成了自己的脸,与女主角出现亲密互动,某特效师近日也遭到封号。
快节奏的生活下,短剧市场蓬勃发展。显示,2024年微短剧市场规模达504.4亿元,用户数量达6.62亿,预计2027年市场规模将突破千亿元。
随着行业竞争加剧,短剧市场整体迈入精细化运营的阶段,但仍存在一些“唯流量论”的制作公司。周海向周海告诉如果短剧AI换脸迪丽热巴属实,北京市隆安律师事务所上海分所律师贾玉倩在接受从影视剧市场和行业的角度来讲,贾玉倩指出,一方面会引发观众的质疑和反感,降低行业诚信度;另一方面也可能造成行业间互相模仿,加剧技术滥用。
“该剧的制作方、技术提供方、播出平台等均需承担相关责任。从民事责任角度来说,对被方应赔偿经济损失、消除影响、恢复名誉等。”贾玉倩表示,即使剧场声称“不知情”,若未对播出内容进行合理审核,仍可能因“过失”承担责任。从行政责任角度来说,当中还可能构成虚假广告罪或诈骗罪等刑事犯罪。
“AI换脸带来的法律风险毋庸赘述。低成本的诱惑造成技术滥用,会引起行业内的恶性竞争,挤压真正优质作品的生存空间,形成‘劣币驱逐良币’的市场现象。”贾玉倩向