（华盛顿25日讯）“一队纽约警察当街捉拿美国前总统特朗普、俄罗斯总统普京身陷囹圄”等高度细腻却耸人听闻图像近日淹没社群平台。专家警告，这种AI生成图像恐让社会“在关键时刻虚实难辨”。
美联社报导，特朗普恐面临刑事指控，以及国际刑事法院（ICC）对普京发出逮捕令的新闻受到关注之际，上述图像这几天已经淹没推特和其他平台，不过两组照片都不是真的。
荷兰开源情报网站“冒险者”（Bellingcat）创办人希金斯（Eliot Higgins）一时起意，将特朗普自揭可能因“封口费案”遭刑事起诉的消息影像化，于是向具有模仿新闻机构专业影像能力、且刚发布新版“文生图”（text-to-image）合成模式的AI绘图软体Midjourney下指令，创造出特朗普被纽约市镇暴警察团团包围、在被捕过程跌倒、与警察对峙，以及特朗普穿囚衣、蹲苦牢，甚至是特朗普从下水道逃狱成功、跑到知名速食店吃汉堡等各种影像。
不仅如此，ICC日前以战争罪名向俄国总统普京发布拘捕令一事，也成为希金斯的灵感来源，同样透过AI制作出普京被捕、受审、入狱的逼真影像。
希金斯将影像分享到推特，并清楚说明这是AI制图，不带任何恶意。他原先以为会乏人问津，不料两天后，特朗普AI制图的观看次数竟超过500万次。
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
希金斯表示，特朗普影像只是为了展现Midjourney在描绘真实场景时的优劣，当他输入指示，程式就自动拟定一套情节，但若细看就能发现其中很多破绽，包括照片中的特朗普竟穿戴警察腰带，还有很多人的脸和手都明显扭曲等。尽管如此，照片仍引起轰动，而希金斯也被禁止使用Midjourney服务。
假照生成快又多令真相难辨
假消息专家警告，Midjoureny或DALL-E等AI制图软体，具有在使用者下达简单指令后，运用详细背景资料快速制成真实场景的能力，这意味以后只要出现重大消息，就能透过AI生成海量的假照片或影片，并在社群平台上广为散布，导致社会在刚接触某一事件的最重要阶段，就无法辨别事件真相。
西雅图华盛顿大学专研假新闻传播的教授威斯特（Jevin West）坦言，这会在危机发生时增添杂音，让人们开始对体制和接收的讯息失去信赖。
非政府组织“见证”（Witness）媒体技术专家安伦（Shirin Anlen）表示，尽管希金斯或其他使用者有表明影像是由AI合成，且只是博君一笑，但这样还不够，因为这些影像通常很快就会被分享出去，但不包括注明文字。
事实上，特朗普被捕的影像就被Instagram一则贴文转贴，还得到超过7万9000个赞，“只要看到照片，人们就认定眼见为凭了。”
