抖音集团副总裁李亮9月8日发文称，今年一季度发现平台出现大量利用AI仿冒“于东来”语音、形象，违规营销带货的账号和内容，这些黑灰产的行为不仅侵犯了相关企业的权益，还严重误导了消费者。封禁这1000多个黑灰产团伙账号的同时，平台还把相关线索举报给了监管部门。经过调查，泉州市丰泽区市监局没收相关企业所得并处罚款15万元。AI带来技术进步的同时也被很多黑灰产盯上，针对这些滥用AI的行为抖音一直在重点治理。