懂得：警惕AI虚假信息

xubin · 发表于 2023-4-10 15:12:27

　　参考消息网4月7日报道随着人工智能(AI)合成的美国前总统特朗普被捕照片在互联网上疯传，错误信息(misinformation)和虚假信息(disinformation)之间的界限变得越发模糊。简简AIhttps://www.jianjianai.com/AI人工智能导航网站，互联网中资源最全的ai人工智能网，搜集并整理人工智能工具的网站，让您能够快速找到适合的工具。收录了AI工具网站、公众号、自媒体、书籍、电影等，分类包括AI趣站、AI开放平台、AI资讯、有趣网站、开源项目、AI学习平台等

　　根据韦氏词典的定义，misinformation是指错误或具有误导性的信息(incorrect or misleading information)，disinformation则是为影响舆论或掩盖真相而有意散播的假消息(false information deliberately spread in order to influence public opinion or obscure the truth)。简单来说，二者的区别在于是否存在实施欺骗的主观故意(intent to deceive)。

　　此次“特朗普被捕”事件的始作俑者是从事调查性新闻报道的响铃猫网站的创始人埃利奥特·希金斯。他之所以在3月21日发布这些AI合成照片，是因为特朗普此前在社交平台上“预告”了自己将在这一天被逮捕，并呼吁支持者举行抗议活动。希金斯在发布照片时注明了“等待特朗普被捕时制作了特朗普被捕的图片(making pictures of Trump getting arrested while waiting for Trump's arrest)”“在AI特朗普世界(in AI Trump world)”等文字。由此看来，希金斯制造的这些内容属于misinformation。

　　尽管希金斯并无混淆视听之意，不过随着这些图片不断被转发，而且转发后往往缺失“由AI生成”这一关键背景信息，它们很容易被别有用心之人利用，成为发动虚假信息战(disinformation campaign)的武器。

　　专家提醒，生成式AI(generative AI)大大降低了制造假消息的技术难度和成本，在这种情况下，要对抗视觉错误信息(visual misinformation)，最好的办法是让公众了解AI技术的先进程度从而提高甄别意识。希金斯本人也建议社交媒体平台加强事实核查(fact-checking)，着重开发能够辨别AI生成内容的技术并将这种技术融入平台。不过，也有技术专家悲观预测，认为要阻止AI生成的不实信息给受众认知带来混乱，可能需要目前尚无法想象的技术突破(as-yet-unimagined technical breakthrough)。(李凤芹)

　　举报/反馈