<p class="ql-block">【编者按】现在有了AI智能技术，更容易被人利用造假，出现假新闻、假视频、假场景.....背景能替换、真人能模仿、声音能模拟，场景能易换，深度伪造ai换脸、视频换脸、生成图片视频，叫个真假难辨。</p> <p class="ql-block" style="text-align:center;"><b>深度解读AI造假背后真相</b></p> <p class="ql-block"> 近年来，人工智能(AI)技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。</p><p class="ql-block"> 今年6月，一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频在互联网平台传播，引发大量网民关注、讨论。经公安网安部门开展调查发现，该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的。目前，公安机关已依法对任某追究法律责任。</p><p class="ql-block"> 此事件并非个案，随着AI技术应用越来越普遍，一些网民为博眼球、蹭热度，将AI技术用以编“伪消息”、造“假新闻”，以此来获得网民关注和点赞量，进而实现流量变现。</p><p class="ql-block"> 专家表示，AI造谣具有定制化、门槛低、识别难、破坏大等特点，亟须加强监管。同时，可以通过设置AI生成内容提示标识、严格落实网络实名制等技术手段进行治理。</p> <p class="ql-block" style="text-align:center;"><b>AI造谣门槛低、危害大</b></p><p class="ql-block"> 今年8月，一则“福建南平松溪县遭遇严重大风袭击，造成枣岭街一人死亡”的消息在网络上迅速传播。这则消息图文并茂，甚至还有逼真的视频片段，一时间引得大量网民关注和转发。但经公安机关核查发现，这竟然是用AI编造而成的网络谣言视频。</p><p class="ql-block"> “当前AI网络谣言具有仿真性和规模性的特征。根据输入指令的不同，AI在短期内能够批量生成大量内容不同的网络谣言，而且生成的网络谣言信息内容更加贴合人类表达方式，并结合深度伪造技术生成图片、视频、录音，使得社会公众越发难以辨识网络信息的真伪性。”北京航空航天大学法学院副教授赵精武告诉记者。</p><p class="ql-block"> 记者随机用“AI文案速成”小程序测试，在对话框内输入“火灾”这一主题有关的内容创作指令，便生成了一篇新闻报道，甚至包括现场救援细节，及消防安全提示，让人真假难辨。赵精武指出，AI网络谣言的危害性主要表现为扰乱社会公共秩序，削弱政府公信力、诱发电信网络诈骗等。</p> <p class="ql-block" style="text-align:center;"><b>为牟取非法利益造假</b></p><p class="ql-block"><b>涉嫌构成多种罪名</b></p><p class="ql-block"> 赵精武分析，个人或组织利用AI技术造谣背后的动机是复杂多样的，既包括部分网民为了寻求存在感、刺激感，故意编造AI网络谣言，也包括犯罪分子为了牟取非法利益，编造AI网络谣言，以便顺利实施电信网络诈骗等犯罪活动。</p><p class="ql-block"> 今年6月中旬，一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播，扰乱公共秩序，被警方行政拘留。据警方通报，王某某共经营5家MCN机构，运营账号842个，自今年1月以来，王某某通过AI软件生成虚假新闻，最高峰一天能生成4000至7000篇。</p><p class="ql-block"> 近日，浙江温州苍南公安成功打掉一个编传旧案谣言的MCN机构“网络水军”团伙。进一步侦查发现，相关账号和视频由某网络科技有限公司(实为以MCN模式运营的“网络水军”团伙)使用发布，该MCN“网络水军”团伙搜集全网敏感热点，随意设置虚假剧情，利用AI软件根据剧情自动生成多处关键情节虚假的文案，安排真人出镜解说，拼接网络中误导性素材后剪辑成所谓“原创”视频。该团伙明知上述视频充斥大量虚假、挑动群众情绪类信息，为博取流量、不法牟利，在多个平台公开发布，后造成虚假视频信息被大量浏览、传播，从而牟取非法流量返利。</p> <p class="ql-block"> 中国人民大学刑法学博士、北京市京师律师事务所实习律师黄福涛告诉记者，编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。如果行为人不仅制作、传播虚假信息，而且目的是骗取互联网平台上不特定多数人的财产，则涉嫌诈骗罪。</p> <p class="ql-block"><b> 如何治理和防范AI网络谣言的产生？</b></p><p class="ql-block"> 为治理AI乱象，深化网络生态治理，近年来相关部门出台了多项政策和措施。</p><p class="ql-block"> 2023年1月10日起施行的《互联网信息服务深度合成管理规定》指出，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。</p> <p class="ql-block"> 2023年8月15日起施行的《生成式人工智能服务管理暂行办法》规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。</p><p class="ql-block"> “加强AI领域的司法治理，需要立足于‘安全与发展并重’和‘分级分类监管’的基本原则，针对诸如生成网络谣言等技术滥用现象，既需要在事前阶段明确研发者、服务提供者以及网络平台的主体责任，还需要在事后阶段严格追究违法行为人的刑事责任、行政责任。”赵精武强调。</p><p class="ql-block"> 同时，他表示，也可通过技术手段进行治理，譬如设置敏感关键词，禁止生成显著违法的信息内容；严格落实网络实名制，并配合水印技术，实现对生成内容的有效溯源；或者平台设置AI生成内容提示标识等。</p><p class="ql-block">来源：央广网</p> <p class="ql-block" style="text-align:center;"><b style="font-size:22px; color:rgb(237, 35, 8);">五个方法</b></p><p class="ql-block" style="text-align:center;"><b style="font-size:22px; color:rgb(237, 35, 8);">教你远离AI诈骗</b></p><p class="ql-block"> 你以为AI只能画画、写文章？太天真了！诈骗分子已经盯上了AI，把它变成了行骗利器！</p><p class="ql-block"> 假客服、假警察、假领导，甚至你的亲朋好友，都可能是AI换脸+克隆语音伪造的！</p><p class="ql-block"> 你敢保证，视频那头跟你视频的“熟人”是真的？</p><p class="ql-block"> 你能分辨，微信里发语音要你转账的“朋友”是AI假扮的吗？</p><p class="ql-block"> 你确定，客服发给你的截图和聊天记录，没有被AI篡改过？</p><p class="ql-block"> 别让高科技“外衣”迷惑了你</p><p class="ql-block">今天！</p><p class="ql-block" style="text-align:center;"><b>五个方法</b></p><p class="ql-block" style="text-align:center;"><b>教你远离AI诈骗</b></p> <p class="ql-block"><b> 秘诀一</b></p><p class="ql-block" style="text-align:center;"><b>别被“熟人”AI克隆骗了！</b></p><p class="ql-block"> 以前，骗子假冒客服，现在，骗子直接假冒你认识的人！</p><p class="ql-block"> AI语音克隆：只需要几秒钟录音，AI就能模仿你的亲朋好友，说话语气、声音完全一样！</p><p class="ql-block"> AI换脸视频：你以为自己在和朋友视频聊天？其实是骗子用AI换脸技术，把别人的嘴形调整成“对口型”！</p><p class="ql-block"> 冒充领导、家人：“我出事了，快打钱！” 这类骗局已经升级，骗子甚至能合成你“家人”的声音，让你深信不疑！</p><p class="ql-block"><b> 防骗秘籍：</b></p><p class="ql-block"> 视频通话时，让对方做出指定动作（比如眨眼三次、摸摸鼻子），AI暂时还无法做到实时模仿！</p><p class="ql-block"> 语音来电，一定要用其它方法跟对方再核实一次，尤其是涉及转账、汇款的内容！</p> <p class="ql-block"><b> 秘诀二</b></p><p class="ql-block"><b> 别信“官方来电”，AI能模拟一切！</b></p><p class="ql-block"> “你好，这里是XX银行，你的账户涉嫌洗钱，请立即配合调查！”</p><p class="ql-block"> “我是XX公安局，涉及案件，请立即转账到安全账户！”</p><p class="ql-block"> “这里是社保局，你的社保卡异常，即将冻结！”</p><p class="ql-block"> 过去，骗子靠换号软件伪造来电显示，现在更离谱了——AI可以模拟官方客服、银行工作人员的声音，甚至合成权威机构的通知视频，让你误以为是真的！</p> <p class="ql-block"><b> 防骗秘籍：</b></p><p class="ql-block"> 凡是提到“转账、冻结账户、资金核查”的，一律挂断！</p><p class="ql-block"> 银行、警方绝不会通过电话、短信要求转账！有疑问，拨打官方客服电话核实！</p> <p class="ql-block"><b> 秘诀三</b></p><p class="ql-block"><b> AI生成的“证据”，全是假货！</b></p><p class="ql-block"> 冒充官方通知：AI伪造“XX银行公告”，看上去跟真的一模一样！</p><p class="ql-block"> 假聊天记录：伪造“某领导要求打款”的微信聊天截图，骗财务人员转账！</p><p class="ql-block"> 假转账截图：AI合成“已付款”截图，骗你发货、提供服务，但其实你一分钱都没收到！</p><p class="ql-block"><b> 防骗秘籍：</b></p><p class="ql-block"> 银行流水和交易记录，只信官方APP，不信截图！</p><p class="ql-block"> 重要文件、合同，一定要电话或线下确认，不要只看聊天记录！</p> <p class="ql-block"><b> 秘诀四</b></p><p class="ql-block"> 刷单、投资、客服退款，全是AI骗局！</p><p class="ql-block"> AI智能“客服”：你以为你在跟京东、淘宝客服聊天？其实背后是骗子用AI模拟的对话！</p><p class="ql-block"> AI投资导师：AI生成虚假“稳赚不赔”收益截图，诱导你投资，最终血本无归！</p><p class="ql-block"> AI合成“中奖信息”：AI伪造短信、邮件、网站，骗你点开钓鱼链接！</p> <p class="ql-block"><b> 防骗秘籍：</b></p><p class="ql-block"> 刷单、刷信誉，100%是诈骗！</p><p class="ql-block"> 投资理财只信正规机构，不要听“专家”瞎忽悠！</p><p class="ql-block"> 不要点击陌生链接，尤其是涉及登录、付款的页面！</p> <p class="ql-block"><b> 秘诀五</b></p><p class="ql-block"><b> 用科技拆穿谣言！</b></p><p class="ql-block"> 既然AI能造假，那我们就让AI来打假！</p><p class="ql-block"> 文字检测：GPTZero、腾讯AI开放平台，可判断文章是否由AI生成。</p><p class="ql-block"> 图片鉴定：百度“AI生成内容检测”、APP“AI or Not”，能识别图片是不是AI合成的。</p><p class="ql-block"> 视频真伪分析：微软“Video Authenticator”可检测Deepfake换脸视频，连“高仿假人”都能识破！</p><p class="ql-block"> 重点推荐一款小程序，可以针对深度伪造ai换脸、视频换脸、生成图片视频等进行鉴别，点击收藏，方便实用：</p><p class="ql-block"><b> 记住</b></p><p class="ql-block"> 不要轻信“熟人”来电、语音、视频，AI克隆无孔不入！</p><p class="ql-block"> 官方来电？查查号码，核实信息，别急着转账！</p><p class="ql-block"> 截图、合同、付款记录？AI能伪造一切，只信官方数据！</p><p class="ql-block"> 投资、刷单、退款客服？99%是骗局，别给骗子送钱！</p><p class="ql-block"> 冷静是最强的反诈武器，不信、不慌、不转账！</p><p class="ql-block"> 原标题：《五个方法，教你远离AI诈骗》</p><p class="ql-block"> 来源：昆明市盘龙区人民法院</p>