能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
快科技8月1日消息，当地时间7月30日，谷歌正式为网页版谷歌地球上线AI图像生成工具，依托Gemini旗下Nano Banana 2大模型，用户只需要定位全球任意地点，输入文字指令，就能基于真实卫星航拍底图生成全新场景。谷歌最初介绍，这项功能可用于城市规划设想、历史场景复原、地理教学创作等用途，然而上线短短数小时，画风逐渐跑偏，并衍生出巨大的潜在风险。多名开源情报研究者、事实核查记者率先开展测试，发现系统缺少严格的关键词拦截机制，几乎没有限制条件，能够随意生成各类高度逼真的虚假灾害、地缘冲突卫星影像。
研究者成功制作出大量以假乱真画面：美国国会大厦被洪水淹没、伊朗核电站起火爆炸、城市出现巨型爆炸弹坑、边境大规模难民聚集、战区建筑遭受空袭损毁等场景，甚至能被AI检测工具鉴定为真。
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
不同于普通AI绘图，这套工具直接依托谷歌地球真实地理坐标合成图像，而谷歌地球长期是全球记者、调查机构开展突发事件事实核查的核心工具，大众普遍默认卫星截图具备可信度。普通人仅凭肉眼很难区分原始航拍图与AI合成画面，一旦虚假灾难卫星图在社交平台快速传播，极易制造大范围网络恐慌，干扰灾害、国际冲突事件的信息甄别工作。功能引发争议后，谷歌官方回应称，所有AI生成图片都会嵌入SynthID隐形水印，并且生成图像不会自动同步至谷歌地球公开地图。
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
但在网络传播过程中，绝大多数网民只会转发截图，经过裁切、二次压缩后，隐形水印极易失效，预警作用大打折扣，无法从源头阻止虚假信息扩散。业内人士评价，地理空间AI工具有特殊风险，普通AI绘画更多用于创意内容，而绑定真实地理位置的合成卫星影像具备天然可信度，被恶意利用之后，制造虚假灾难传闻、煽动地缘矛盾的危害远超一般图片。迫于舆论压力，谷歌在7月31日发布官方声明表示，不少用户传播的生成截图违反平台内容政策，在搭建完善、更强的内容风控体系之前，暂时移除这项AI生图功能，并且没有公布重新上线的具体时间表。
能随意生成“灾难”图片以假乱真 谷歌地球AI工具上线不到一天就遭下架
【本文结束】出处：快科技