抖音：对滥用AI制造灾害场景的行为将进行严厉打击！

新标360快讯1月10日报道，由于西藏日喀则市定日县发生的地震，引发了全国范围内的广泛关注和忧虑。然而，在这段不寻常的时刻，少数企图利用人工智能技术制造虚假信息、以此来吸引眼球的个人，令人感到非常遗憾。

今天，抖音安全中心发布了关于“灾难期间不当利用AI生成内容”的监管公告。

公告中提到，近期发生的西藏地震导致网络上出现了许多不当使用AI技术生成灾难场景的情况，这对救援工作造成了干扰。平台已对23652条与地震相关的不实信息进行了严肃处理，并发布了辟谣声明。

抖音发现，一些用户在发布AI生成的灾难图片时，认为这些创作是“艺术表达”，意在“祈福”，并非出于造谣的意图。

因此，抖音再次强调，AI创作可能易混淆真实与虚构，创作者、主播、用户、商家以及广告商等参与者在使用抖音的生成式人工智能技术时须遵守以下规定：

1、发布者须对AI生成的内容进行明显标识，以帮助其他用户区分虚拟与真实，尤其是在可能混淆的场景中。

2、发布者对人工智能生成内容带来的后果应承担相应责任，无论其内容生成的方式如何。

3、虚拟角色必须在平台注册，使用该技术的用户需进行实名认证。

4、禁止利用生成式人工智能创作或发布侵犯他人权利的内容，包括但不限于肖像权、知识产权等，发现后将严肃处理。

5、禁止利用生成式人工智能创作或发布与科学事实相悖、捏造事实或传播谣言的内容，发现后将严厉处罚。

在2023和2024年间，抖音陆续发布了《人工智能生成内容平台规范及行业倡议》和《关于不当利用AI生成虚拟人物的治理公告》，明确平台不鼓励低质量创作，并将对违规使用AI生成虚拟人物并发布涉及捏造事实或传播谣言的内容采取严厉措施。

据了解，近期一系列关于“小男孩被埋”的图片在网上广泛传播，并附有日喀则地震的相关标签。其中，一张“戴着帽子的小男孩被压在废墟下”的图片在多个账户上发布，获得了大量转发和评论。

然而，实际上，这张图片并不是地震现场的真实画面，而是由AI生成的，而且这张图片的首发时间为2024年11月18日，作者在发布时并未将其与地震相联系，并注明是AI生成的作品。

据媒体报道，经调查，青海某网友为了吸引关注，将“小男孩被埋”的图片与日喀则地震的信息拼凑在一起，故意引导公众产生误解，造成了谣言的传播。

目前，相关人员已被当地公安机关依法行拘。