原标题:用“AI流浪汉”玩“整蛊游戏”?不好玩也不要玩
“家里进陌生人了!”
当家人发来这句带着恐慌的消息,再附上一个衣衫褴褛的流浪汉正走入家中卧室的照片,你会不会瞬间心跳加速?
可最近,有不少人玩起了这种惊悚的“整蛊游戏”!
女子还把相关整蛊视频发到网上
女子整蛊丈夫
警察出警后发现是虚惊一场
“不好了,我家里进了陌生流浪汉!”
10月17日晚,安徽铜陵公安局指挥中心接到市民张先生的紧急报警,称自己妻子李女士带两个小孩在家,家中闯入不明身份人员,而自己正在外地,无法第一时间赶回。接警后,铜陵市公安局义安分局五松派出所民警火速赶往现场。
当民警敲开门后,李女士却一脸歉意。
原来,李女士当晚用AI工具生成了“流浪汉卧坐餐厅”图片,发给在外喝酒的张先生,想测试其反应,没想张先生信以为真,当即报警。
李女士发送给丈夫的“流浪汉”闯入家中的照片(系AI生成)
李女士通过某AI软件生成“流浪汉”闯入家中图片的记录
民警现场核实情况后,确认是虚惊一场,对李女士的行为进行了批评教育,并提醒:“AI技术生成的内容虽逼真,但以此制造恐慌并引发警方出警,已属于浪费公共资源的行为”。李女士深刻认识到错误,并在朋友圈写下了保证书。
李女士的朋友圈截图
事件公开后,不少人说妻子“不懂事”,怪丈夫“太冲动”。可仔细想想,妻子或许不是故意要浪费公共资源,只是没有想到AI造的假能这么逼真;丈夫也并非太冲动,只是看到家人可能有危险,第一反应都是保护家人的安全。
这起事件中,我们真正该关注的不是这对夫妻的“玩笑”和“失误”,而是当下的AI已经“真假难辨”。其中,特别值得警惕的是,一些别有用心的人正在滥用这一新技术,破坏人和人之间最基本的信赖。而这类玩笑中,AI的工具属性从“服务人”变成了“戏弄人”。此举一旦引发模仿效应,无疑将带来更多的AI滥用问题。
“AI整蛊”成流行游戏?
据了解,近期多地出现类似AI整蛊的闹剧,有的引发整栋楼逐层排查,有的导致亲属紧急奔袭。对此,民警表示,这些高度逼真的图像往往能瞬间击溃家人的心理防线,而这个看似无害的玩笑,本质是利用AI技术造谣传谣,更是对公序良俗的严重挑衅。网络空间不是法外之地,人工智能技术应用必须遵守法律法规和公序良俗。此类行为若造成严重后果,可能触犯法律红线,面临拘留罚款甚至刑事责任。
图为网友发文截图
律师周兆成认为,从法律层面看,并不是仅本人打电话才算报假警,明知家人可能会误判报警,还故意制作AI图片、视频,属于“间接故意”,可能算共犯。此前,某地曾有人利用AI制作假寻人启事,说女儿被拐,家人信了报警,最后被行政拘留。
周兆成表示,因这一行为报警,占用的不仅是警力,还可能是别人的救命机会。如果被警方认定是报假警,按《中华人民共和国治安管理处罚法》,将面临5天至10天拘留的处罚,同时需缴纳500元罚款。如果视频被转发从而引发社会恐慌,可能触犯《中华人民共和国刑法》的“编造虚假信息罪”,最高能判5年以上有期徒刑。
对于用流浪汉整蛊家人的做法,不少网友表示不解,狼来了的故事有人到现在还没学会。还有网友提醒:以玩梗的名义做“情感测试”,是一种关系的消耗。
别让AI毁了信任
“信任”看似抽象,但实则是社会运转的“隐形骨架”。爸妈说“天冷加衣”,我们不会怀疑;伴侣说“家里没事”,我们能安心工作。这份信任,是维系家庭情感联结的纽带。气象预警、官方通报、公共服务信息……这些消息之所以能够得到迅速响应、快速执行,也源自于公众对权威发布的信任。
但近些年,由于极低的成本,AI在一些领域、场景中被滥用,这种信任正面临被侵蚀的隐患:“日喀则地震被压男孩”的假图曾经刷屏互联网,“上海30万居民撤离”的谣言不断扩散引发恐慌......
“这是不是 AI 做的假?”一旦成为人们面对各种信息的第一反应,家庭关系、社会协作等,都将被“真假”的质疑所羁绊,在一次次验证中,社会运行的成本增加了,人与人之间的善意减少了。
更棘手的是,一些平台的流量机制放大了这种造假危害。在部分平台,往往点击量越高、争议性越强的内容,越容易传播,收益也越高。
尤其在AI生成内容“示伪标识”尚未全面普及的背景下,人们面对触目惊心的画面或紧急信息时,往往会被情绪主导,极少有人能先冷静验证“内容是否带有AI水印”,这让虚假信息有了更多传播空间。
应对AI带来的信任危机,不能只依赖于监督执法的“事后追责”,要把功课做在前面。
《人工智能安全治理框架》2.0版已明确的“示伪水印”要求,这一规定需尽快落地执行,让用户能一眼识别内容是否为AI生成;同时,平台要履行好“守门人”的责任,从源头压缩虚假信息的生存空间。
尽管目前《中华人民共和国治安管理处罚法》《中华人民共和国刑法》已对“编造虚假信息”作出规定,但在实操层面仍然面临取证难、定性难的问题。AI使用标准应当进一步明晰——比如要求AI 工具提供者严格执行“实名登记”与“用途审核”,若明知用户用于造假仍提供服务,需承担连带责任;要求平台对传播量达到一定数量级的AI谣言“快速追责”,让制度真正“长出牙齿”“落到实处”。
公众在面对“热点事件”的时候,有必要多观察细节、谨慎核实求证,在不确定真实性时不盲目扩散,避免成为谣言“帮凶”。这也是AI时代的“媒介素养”。
来 源丨央视网综合安徽警方、中国青年报、安徽商报、大皖新闻、澎湃新闻、新京报