特朗普持枪火拼、哈里斯扮作小丑……发布不到一天的Grok 2，摊上大事了

Grok 2，你是懂如何背刺自家老板的。

Grok 2 刚发布不到一天，就摊上事了。

事情是这样的：

昨天，马斯克旗下的 xAI 发布新一代大模型 Grok 2，并称已与初创公司 Black Forest Labs 展开合作，试验他们的 FLUX 模型。

本来是强强联合的一件好事，但由于 FLUX 模型对于生成的图像没有严格的限制，导致 X 上充斥着大量让人瞠目结舌的图像。

例如，扮作小丑的哈里斯开怀大笑：

颇具喜感的特朗普持枪火拼：

还有更离谱的，特朗普的枪口对准了一个黑人小男孩：

要知道，现在正值美国大选的敏感时期，如此恶搞的图像满天飞，势必引发诸多担忧。

有网友毫不留情地怒斥：Grok 在其图像生成上完全没有过滤机制，这是我见过的最鲁莽和最不负责任的 AI 实现之一。

xAI 意识到事情的严重性，目前已「锁定」该功能。

名人们要被玩坏了

由于 Grok 2 只有最低程度的保护措施，在发布后的几个小时里，不少网友拿它疯狂整活，名人们惨遭毒手。

比如，头戴耳机吞云吐雾的特朗普：

戴着大金链子，开着车与美女谈笑风生的马斯克：

就连那些水火不容的「政敌」，在 Grok 的撮合下，也上演「Happy Ending」。

拜登为特朗普站台：

特朗普为拜登伴舞：

还有特朗普与奥巴马的「兄弟情谊」：

最离谱的是特朗普和哈里斯这俩「死对头」，一反常态，不仅疯狂秀起恩爱：

还在前往双子塔的路上竖起大拇指（这显然暗指 9・11・袭击事件）：

不仅如此，Grok 也很懂如何背刺自家老板马斯克。

Grok 一顿操作猛如虎，硅谷钢铁侠化身 200 多斤大胖子，狂炫巧克力、冰激凌和可乐：

还有网友看不惯马斯克的碎嘴子，直接命令 Grok2 给自家老板改人设，从此两耳不闻窗外事，一心只钻研火箭：

此外，它还会生成一些包含暴力场景以及涉及版权保护的图像。例如，手持冲锋枪的皮卡丘、开枪扫射的米老鼠：

有网友锐评，我似乎闻到了即将到来诉讼的味道。

虽然 Grok 声称设置了一些限制，并承诺：

• 避免生成色情、过度暴力、仇恨或宣扬危险活动的图像。
• 对创建可能侵犯现有版权或商标的图像持谨慎态度。这包括众所周知的字符、徽标或任何可以被视为知识产权但不具有变革性元素的内容。
• 不会生成可用于欺骗或伤害他人的图像，例如旨在误导的深度伪造图像，或可能导致现实世界伤害的图像。

但在实际应用中，这些规则如同虚设。

Grok 不会拒绝包含真实人物的请求，也不会在其生成的图像中添加识别水印。

相比之下，Google、OpenAI 、Meta 和 Anthropic 表现得更为审慎。

它们在其图像生成模型中均实施了严格的内容过滤和道德准则，以防止生成有害或攻击性内容。

例如，OpenAI 不仅拒绝处理涉及真实人物、纳粹标志、有害刻板印象或错误信息等潜在争议主题的请求，还为生成的图像添加了识别水印。

用户虽曾试图诱导聊天机器人生成争议图像，但这通常需要使用俚语或其他语言技巧，一旦这些漏洞被发现，它们很快就会被修补。

谷歌 Gemini 曾因对种族和性别刻板印象的矫枉过正，导致其画不出白人，由于这一失误，谷歌在2月份道歉并关闭了 Gemini 生成人物图像的功能。

截至目前，该公司仍然不允许 Gemini 生成人物图像。

或许是因为备受批评，Grok 猛踩刹车，「屏蔽」了某些敏感提示词。

任性的马斯克，「闯祸」的 Grok

Grok 的这起「闹剧」，马斯克背有很大的锅。

在马斯克的话语体系里，言论自由大过天。

想当年，马斯克斥资 440 亿美元拿下推特，为的就是一句「freedom」。

在他看来，没有什么敏感话题不能提，也没有什么禁忌言论不能碰。因此，他对人工智能和社交媒体安全规范的态度，就俩字：

蔑视。

马斯克曾明确表示，安全防护会使 AI 模型变得更不安全。他在 2022 年的一条推文中说：「训练 AI 让其觉醒 —— 换句话说，撒谎 —— 是致命的。」

这也就不难理解，为何老马做的聊天机器人 Grok，如此百无禁忌，口无遮拦，疯起来连老板都骂。

巧了，8 月 1 日新成立的人工智能图像和视频初创公司 Black Forest Labs，似乎很认同马斯克将 Grok 打造为「防唤醒聊天机器人」的愿景，它没有像 OpenAI 的 Dall-E 或谷歌的 Imagen 一样设置严格的防护措施，任由各种 AI 生成的逼真图像在社交平台上蔓延。

有了共识，双方一拍即合，老马决定将 Black Forest Labs旗下的生图模型 FLUX 嵌进 Grok 中，生成的 AI 图像也均可直接发布到 X 上，这也就有了文章开头的这场「闹剧」。

实际上，这种缺乏防护措施的策略，此前就给 X 招来了不少麻烦。早在今年年初，AI 生成的泰勒・斯威夫特不雅照在 X 上疯传，也使该平台备受批评。

此外，Grok 几乎每周都会在 X 上生成各种虚假标题，误导用户。

就在本月初，马斯克还转发了一段使用 AI 技术合成哈里斯声音的视频，使副总统看起来好像承认自己是「多样化雇员」。

上周，五位国务卿联合呼吁 X 停止散布关于哈里斯的不实信息。

欧盟委员会也已经在调查 X 平台，以确定其是否违反了《数字安全法》，该法律规范了大型在线平台如何审核内容，并且今年早些时候，它已要求 X 和其他公司提供有关减轻与 AI 相关风险的信息。

本文来自微信公众号“机器之能”（ID：almosthuman2017），作者：关注AI的，36氪经授权发布。