1月7日西藏定日县发生6.8级地震,各方关注、驰援当地开展救援之时,一组配文日喀则地震等关键词的“小男孩被埋图”在互联网平台广泛传播,短时间内就获得几万转评赞。但经公安部网络安全保卫局(以下简称“网安局”)查证,该组图为AI生成,目前公安机关已将涉案人员依法行政拘留。
今日(10日)晚,网安局官方微信发布消息称,经过调查,确认该组图的确由AI工具创作,相同画面的短视频由原作者在2024年11月18日发布,并未关联地震信息,且已声明图片是AI生成。1月7日西藏定日县发生6.8级地震后,青海某网民为博取眼球,将该组图与本次地震相关信息进行关联拼凑、移花接木,混淆视听、误导群众,致使谣言信息传播扩散。
在多个网络平台经过广泛传播的AI生成“小男孩被埋”组图。图源网络
网安局提醒,根据《中华人民共和国治安管理处罚法》第二十五条规定,散布谣言,谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的,处五日以上十日以下拘留,可以并处五百元以下罚款,情节较轻的,处五日以下拘留或者五百元以下罚款。《中华人民共和国刑法》第二百九十一条之一第二款规定,编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;造成严重后果的,处三年以上七年以下有期徒刑。
网安局还提供了甄别AI作品的几个方法。首先是观察细节,许多AI生成的图片、视频中,可能存在边缘模糊、光线阴影不自然、人物的眼睛、头发、手指等可能处理得不够完美,透视关系也可能处理得不够自然准确等。其次是多方验证,不要仅依单一信息来源,应从多个权威渠道获取信息进行对比,对于热点事件,可以检索官方媒体报道,验证信息的真实性。另外,还可以利用AI图片检测工具,帮助识别图片是否为AI生成。最后是谨慎分享,在确定信息真实可靠之前,不要随意转发,以免无意中成为谣言传播的推手。
南方网、粤学习记者 朱文婷