抖音平台近日发布了针对“灾害期间AI内容不当使用”的专项治理公告，该举措源于西藏自治区发生的地震灾害期间，网络上涌现的一系列利用AI技术生成的灾害虚假场景，这些不实内容对救援工作造成了不必要的干扰。
抖音官方指出，在地震灾害发生后，平台上出现了大量由AI技术生成的灾难图片，部分发布者将这些内容视为“艺术创作”或出于“祈福”的目的，但并未意识到这些行为可能造成的误导。抖音强调，AI创作虽然具有创新性，但如果不加以规范，很容易混淆虚拟与现实的界限。
为了应对这一问题，抖音平台制定了以下一系列规范，要求所有在平台上使用生成式人工智能技术的创作者、主播、用户、商家、广告主等生态参与者必须遵守：
首先，发布者需对AI生成的内容进行明确标识，确保其他用户能够清晰地区分虚拟内容与现实情况，特别是在那些容易引发混淆的场景中。其次，无论内容是如何生成的，发布者都需要对其产生的后果负责。使用虚拟人技术的用户需要在平台进行注册，并完成实名认证，以确保身份的可追溯性。
抖音还明确规定，禁止利用生成式人工智能技术创作和发布任何侵权内容，包括但不限于侵犯肖像权和知识产权等。对于此类行为，平台将采取严格的处罚措施。同时，也严禁利用AI技术创作和发布违背科学常识、弄虚作假或造谣传谣的内容，一经发现，同样将受到平台的严厉处罚。
抖音平台的这一系列举措，旨在加强网络内容的真实性和可信度，防止虚假信息对公众造成误导，特别是在灾害等敏感时期。通过明确规范和严格处罚，抖音希望能够在保障用户创意自由的同时，维护一个健康、有序的网络环境。
