近日,在社交网上有一系列视频,视频中一名白人男子抱怨在加拿大找工作有多难。大多数视频的主角是一位名叫“乔什”的20多岁白人男子,他对着镜头讲话,并发表一些带有种族歧视色彩的言论,批评移民及其在就业市场中的角色。
但是,在加拿大CBC新闻视觉调查团队进行调查后,发现是假的,这些视频全是AI生成。

在一段视频中,这名白人男子抱怨自己找不到工作,因为印度人抢走了所有工作,尤其是在Tim Hortons。
他声称自己申请了加拿大这家咖啡店的工作,却被问到是否会说印度旁遮普语。
视频中的男子抱怨自己找不到工作,因为印度移民抢走了他们的工作。但是,这个视频是假的,视频中有一些微妙的迹象表明他并非真人,他那只手拿着咖啡杯,表情很不自然,而且颜色和另一只手不一样,角落里还有一个谷歌 Veo AI 软件的小标志。

其他表明这些视频是人工智能制作的线索包括:路牌上没有任何文字,而且该男子左侧的海报上除了“招聘会”之外没有任何文字。
Tim Hortons在一份声明中表示,此类AI生成的视频令公司极为沮丧和担忧,并补充说,他们很难将这些视频删除。

另一段视频中,这名叫“乔希”的白人男子抨击了加拿大的移民政策,质问为什么在加拿大就业岗位不足的情况下,还有这么多人被允许入境。
这是一种被称为“虚假影响力”的趋势。公司利用人工智能创建虚假人物,使其看起来像是真人在为产品或服务代言。
此次事件中的公司是Nexa,一家开发软件供其他公司招聘新员工的人工智能公司。
一些视频中出现了Nexa的标志。该公司创始人兼首席执行官迪维·纳亚尔称这是“潜意识植入”的广告。
在接受CBC新闻采访时,他表示想“调侃”一些人认为“印度人正在接管就业市场”的想法。他表示,他创造“乔希”这个角色是为了与那些持有类似观点的人建立联系:那些刚从学校毕业、正在寻找工作的年轻人。
不过,营销专家表示,这种角色具有欺骗性,而且不道德。
“这种内容和高度两极化的叙事方式,正是我们预料到的极右翼团体会做的事情,”约克大学营销学教授马库斯·吉斯勒(Markus Giesler)说道。
“对于一家公司来说,使用这种宣传语调来吸引消费者使用其服务是非常非常有问题的,也是非常非常不道德的,这是我从未见过的。”
但一些TikTok用户并没有被愚弄。他们在评论中称这些视频是人工智能生成的。但也有一些人对他们所谓的种族主义言论做出了回应,暗示他们以为自己看到的是一个真人。在某些情况下,虚拟角色“乔希”会在评论中回复他们为自己辩护,进一步暗示他是真实的。
麦克马斯特大学市场营销学副教授马文·赖德(Marvin Ryder)表示,他最初被骗了。
“我确信这是一个真实的角色,他试图在短短的八秒视频中讲述一个真实的故事,”他说。
赖德表示,未来几年,我们可能会达到一个虚假信息无法被察觉的地步。“作为社交媒体的消费者,即使只是为了娱乐,我们又该如何辨别现实与虚构呢?”
TikTok 并未对这些视频中煽动性和争议性的信息发表评论。但表示已经将这些视频被下架,原因是TikTok规定,AI 生成的、展现逼真场景或人物的视频必须清晰地标注标签、字幕、水印或贴纸。
在审查了 Nexa 的“Josh”视频后,TikTok 表示其标注不够清晰。视频右下角有一个 Google Veo 水印,但 TikTok 表示应该更清晰,或者在帖子中添加一个 AI 标签。添加标签后,会出现一条消息:“创作者被标记为 AI 生成”。
目前尚不清楚 TikTok 对其政策的执行力度如何。尽管平台上一些人工智能生成的视频带有标签,另一些则带有 #ai 标签,但很多视频并没有明确的标识。
约克大学教授马库斯·吉斯勒表示,这个问题将会变得更加严重,因为人工智能使得制作看似真人的视频变得比以往任何时候都更容易,这些视频中充斥着仇恨言论,并在社交媒体上吸引受众。
吉斯勒说:“我认为这是对情感品牌策略的不负责任的利用,我们不应该纵容这种行为。”
来源:超级生活综合
I always leave your blog feeling more informed and inspired.