近日，Instagram 上一家名为 Ethos 的餐厅火了。 这家餐厅在网页上的展示非常「高大上」： 食物精美，用餐环境一流，还有名流大佬为你调酒。 凭借这些展示，Ethos 得到了成千上万个网友的点赞和追捧，在 Instagram 上吸引了 7.2 万名粉丝，成为奥斯汀排名第一的餐厅。
这看起来很正常，直到被 a16z 投资人贾斯汀·摩尔指出：这家「餐厅」根本不存在，Ethos 在 instagram 上发布的食客自拍、留言、厨师介绍以及餐厅介绍全部由 AI 生成。
目前尚不知道这场闹剧的始作俑者，也就无法探究其背后动机到底是出于一场社会实验、恶搞，还是存有更多的经济、利益目的。但这件事依然给公众敲响了警钟：从 DeepFake 色情门、到明星 AI 换脸、雷军骂人事件，以及刚刚结束的美国大选期间层出不穷的 AI 生成假图片、假新闻……
生成式 AI 快速发展的当下，AI 造假正在以各种各样无法预料的形式占领社交媒体。相比于过去移花接木式的假新闻，AI 生成的内容更加真实，普通人更加难以分辨，同时造假成本和门槛却更低。而要维持社交平台的真实性，需要社交平台做更多的工作。
01 一家不存在的餐厅
Ethos 是 instagram 上一家餐厅的账号。点开账号，里面的食物极具创意且十分诱人。芝士蛋糕上铺着流淌着新鲜蜂蜜的蜂巢，焦脆的洋葱圈外环印着滕瓦尔语撰写的「one ring to rule them all」，仿佛中土世界的至尊魔戒。还有各种奇妙造型的美食，比如把奶酪片和生菜扎成一袭抹胸裙，草莓做的糖果小屋，恐龙形态的「牛角包」。
图片来源：Ethos 餐厅 instgram 账号
账号里不仅有精致而富有巧思的食物，用餐环境也很神奇。根据介绍，餐厅提供「泡澡寿司」服务，食客竟然可以一边泡澡一边吃水上漂来的寿司，而厨师会和食客一起在泡在巨大的浴缸里，亲手制作每一件寿司。帖子下面还有对此的「真实」评论：「上周我们不得不缩短 omakase 时间，因为有人在寿司热水浴缸里弄脏了自己。管理人员很通情达理，还免费给我们送了一杯香槟。」
图片来源：Ethos 餐厅 instgram 账号
这家神奇的餐厅人脉还非常强大。有一篇帖子是关于亚马逊首席执行官杰夫·贝佐斯在酒吧提供鸡尾酒服务。图片介绍称因为餐厅厨师和贝佐斯恰好是朋友，所以来到这家餐厅食客，将有机会品尝到贝佐斯亲自调制的鸡尾酒。
图片来源：Ethos 餐厅 instgram 账号
Ethos 凭借别具匠心的食物和服务，在 ins 上逐渐积累起 7.2w 粉丝的关注。良好的用户留言与反馈，则让其成为奥斯汀排名第一的餐厅。
正当网友惊叹于这家餐厅之奇特时，硅谷风险投资公司 Andreessen Horowitz 的合伙人贾斯汀·摩尔 (Justine Moore) 看穿了真相，在社交媒体上发布了她的发现：这家名为 Ethos 的餐厅自称是一家位于德克萨斯州奥斯汀的高档餐厅，餐厅社交媒体帐户拥有数万名关注者，并且带有蓝色认证标记。然而，事实上，这家餐厅并不存在，网站上的所有信息都是由人工智能生成的。目前还不清楚是谁在运营 Ethos 账号。
图片来源：「X」截图
在相关平台上为餐厅美化图片、刷好评，这事并不新鲜。在生成式 AI 技术的时代到来之前，商家雇水军刷评论或者好评返现就能实现。如今随着技术升级，不仅 p 图、刷评论都省了，甚至「创造」一家餐厅可以直接通过 AI 完成。
生成式 AI 作为一项技术并没有好坏之分，在帮助我们更好地创作时会给人们带来乐趣，如果使用不当，则会使我们的创造能力得到退化，甚至造成恶劣的社会影响。
02 技术滥用，平台有责
AI 技术的发展已经让我们的生活迈入到了「生成」时代。视频生成的头部创业公 Runway 的 CEO Cristóbal Valenzuela 在最近的一封公开信中对此阐述道：「就像相机改变了我们捕捉现实的方式，AI 也正在改变我们创造现实的方式。」
Cristóbal Valenzuela 站在 AI 创作的角度，对未来的内容和媒体作出了美好的畅想：「模拟世界，让内容能够实时自我塑造，才能消解创造与分发之间的界限。这不仅是构建全新媒体景观的基础，也将从根本上重新定义媒体：它既是互动的、生成性的、个性化的，同时又是共享和普遍的。」
这里要厘清一个概念，Cristóbal Valenzuela 所传达的，是说生成式 AI 的使用可以帮助人们更好的创作，而不是替代创作本身。
例如 Runway 一直在推动生成式 AI 创意的边界，其推出的 Gen-3 Alpha，能够从简单的提示词生成高质量视频。这就把创作者从需要使用各种复杂的制作工具中解放出来，大大降低人们创作的门槛，真正释放人们讲好故事的创意能力。
因此，AI 替代的是「生成」部分，而不是「创作」部分。如果意图在创作部分使用 AI，会造成过分依赖 AI，令人在创意上产生惰性，同时也抹杀了「人」在内容创作中自然带来的温度与情绪。
例如美团外卖最近上线的「附近在吃」功能里，用户可以用图文形式发布自己购买过的外卖订单，帮助其他用户发现优质的商品和商家。发布过程中，「附近在吃」提供了「AI 帮你写」功能，让用户可以使用 AI 技术一键生成文案。这一功能，虽然看似降低了用户的创作门槛，但是在实际体验中，让创作过程完全消失，内容的社交真实感也因此大打折扣。
因此，平台需要在恰当的环节为人们提供 AI 技术能力的帮助，而不是粗暴的让 AI 帮助造假。
此外，对于那些出于某种目的，在平台上使用并传播 AI 造假内容的行为，平台也负有去伪存真的鉴别与清理责任。本文提到的这家不存在的餐厅只是一条漏网之鱼。在今年的美国大选期间，Facebook 平台上虚假图片的传播产生了更恶劣的影响。
在刚刚结束的美国大选，Facebook、Instagram 等社交媒体作为党派发表政见、吸引选民投票的重要平台，成为 AI 生成图片泛滥之地。极客公园最近发布的文章「比飓风更可怕的，是一张 AI 生成图片」中就提到，在碎片化的社交媒体平台，政客们随意使用 AI 生成的照片来宣传政见，攻击对手。感性的印象取代客观事实，「造谣一张嘴，辟谣跑断腿」的传播学原理在 AI 时代更猛烈地回响着。
川普救灾（假）。图片来源：PolitiFact
灾难中的小女孩（假）的大量转发，引起网友对某政党救灾不力的不满情绪｜图片来源：X
美国 Pew Research 最近的一项调查发现，66% 的美国人表示，他们「至少有时」会遇到被篡改或者完全虚构的内容；63% 的人表示，捏造或更改的图像或视频会导致人们对于时事的「认知混乱」。
在 AI 生成内容的时代，内容的真实性和可信度受到了极大的挑战。对于这些社交平台来说，用户对平台的信任是其最大的资产。如果平台不引导大家往正确方向去使用，放纵虚假信息的传播，当用户有一天对平台失去信任的时候，平台将被反噬，变得毫无价值。
03 平台：已经行动，仍需努力
事实上，针对日益泛滥的 AI 内容，Meta 这样的平台企业已经开始采取行动。
Meta 的最高政策主管曾在今年二月表示，该公司将在未来几个月开始使用一套内置在文件中的隐形标记，检测和标记其他公司的人工智能服务生成的图像。
Meta 全球事务总裁 Nick Clegg 在一篇博客文章中写道，公司将对发布在 Facebook、Instagram 和 Threads 服务上的任何带有标记的内容应用这些标签，以向用户表明，这些图像——在很多情况下类似于真实照片——实际上是数字创作。
Clegg 表示，一旦新系统启动并运行，Meta 将对 OpenAI、微软、Adobe、Midtravel、Shutterstock 和谷歌运营的服务上创建的图像进行同样的处理。
值得注意的是，该行动开始于今年二月份，这家名叫 Ethos 的餐厅一直在 instagram 上火到了十月份才被揭破身份，而美国大选期间 Facebook 上的假图片也没有被第一时间识别清理。
Meta 在上周刚刚发布的财报中多次强调，公司本季度社交「应用家族」部分的广告收入增长 19%，主要归功于 AI 技术的应用。很显然，AI 为 Meta 带来可观的收入，但是在为用户提供足够清朗的社交环境方面，Meta 仍需努力。
*头图来源：Instagram
本文来自微信公众号 “极客公园”（ID：geekpark），作者：Xin Ling，aigpt6经授权发布。
相关文章
粤ICP备2024279727