Google已于周四关闭了在Google Earth中推出的一项功能，该功能允许用户通过AI文本提示编辑卫星图像。该工具本质上允许用户利用文本提示创建现实世界的AI深度伪造图像；例如《Digital Digging》的Henk van Ess就故意生成了在墨西哥边境附近添加难民、在加沙医院旁制造炸弹弹坑等图像。周四，Google对van Ess的初步回应指出，通过Google Earth中Nano Banana 2生成的图像包含数字水印，且公司已阻止“对有害主题进行图像创作”。
一天后，Google的新声明表示：“我们深知用户对Google Earth所呈现的真实世界视角有着独特的信任。我们已看到地理空间专业人士将此功能用于各种有益用途，但也发现有人分享了疑似违反政策的生成图像截图。因此，在我们着手实施更强力防护措施期间，将暂时回退Google Earth中的此功能。需要特别说明的是，生成的图像并未出现在主平台供他人查看，且均带有AI生成水印。”
van Ess指出，他成功用Google Earth生成的视频骗过了Hive的AI检测工具，这表明即使带有水印，生成内容仍可能传播。他在测试中发现：“没有任何内容被拒绝，没有任何内容被柔化处理，也没有任何提示建议我尝试其他文本指令。”
关注话题和作者：追踪本故事相关主题与作者，获取更多类似内容推送至您的个性化主页，并接收邮件更新。
- Jay Peters
- Stevie Bonifield
最受欢迎内容
科技板块更多内容
