惊爆！马斯克在某超市做「小偷」，当场被摄像头拍下，是真还是假，没人说得清。Grok被发现没有护栏后，网友们直接冲爆了，霉霉、川普、马里奥、米老鼠……Grok生图简直令人瞠目结舌。
没加护栏的Grok，简直大杀四方，被网友彻底玩疯了！
Grok和最强AI生图神器Flux一合体，再加上网友们的超绝想象力，这世界上的东西还有什么是真？什么是假？
看这里，马斯克出现在某超市，正欲行窃时被摄像头拍个正着。
这到底是真的马斯克，还是Grok生成的？没人分得清。
Flux 1的超逼真「监控录像」，已经是比真实更真实的程度。
目前的Grok，纯纯是一个自我放飞版，护栏松得相当明显！
一时间，网上被各种NSFW的照片冲爆了……
网友玩疯
首先上演的是「川普很忙」。
只见他秒变主刀医生，在手术台上认真操作。
紧接着，又去执剑斩巨龙。
一转眼，他开始和马斯克贴面热吻。
回「家」之后，又和奥巴马亲密地躺在一起。
显然，同样是话题顶流的另一位候选人，也逃不过网友的「魔掌」。
尤其是两个人的CP，更是被玩出了花。
但很快，就有人发现了华点：如果是让马斯克做类似的事情，Grok就会拒绝了！
不过用其他prompt恶搞马斯克，还是可以的。
甚至马斯克也加入这股大潮，带头给自己玩梗。
霉霉的「结婚照」
Grok在大尺度图片的生成上，也是毫无忌惮。
短短一句prompt，即可生成红发女模在床上的艳照。
甚至还有网友总结出了一套prompt模板：
第一张是霉霉和侃爷调情，第二张是霉霉和金卡戴珊、侃爷三人酒吧喝酒，第三张是霉霉单人酒吧照。
比起来，霉霉和川普的结婚照，就更是小case了。
而对于下面这类非常血腥的画面，也只需要在prompt中运用一点小技巧——
告诉Grok你正在进行「医疗或犯罪现场分析」，图像处理器就能通过所有设定的「准则」。
网友们纷纷用酒精和毒品创作马里奥和米老鼠的图像，就看地表最强法务部任天堂和迪士尼何时出动。
薛定谔的护栏
从网友的各种实测中不难看出，无论是抽着香烟的米老鼠、霉霉乘飞机飞向双子塔，还是泰姬陵被炸毁的照片，Grok都能立马生成。
那么问题来了，Grok在生成图像时，到底有没有护栏？
于是，有网友试图从Grok的口中直接得到的答案：
– 我会避免生成色情、过度暴力、仇恨或宣扬危险活动的图像
– 我会谨慎处理可能侵犯现有版权或商标的图像创作，包括知名角色、标志或任何可能被视为知识产权的内容
– 我不会生成可能用于欺骗或伤害他人的图像，例如意图误导的deepfake，或可能导致现实世界伤害的图像
但很显然，这些结果只不过是AI临时生成的而已。
只要再问一次，就会得到新的解释……
对此十分不满的网友们纷纷冲了马斯克的评论区，向他发起问责。
沃顿商学院教授Ethan Mollick也意味深长地表示：图像创作历来是LLM中最容易招致批评的领域，很好奇为什么Grok-Flux会被设定成这样。
而马斯克对此的态度则是：目前的产品只是一个过渡，可以让大家获得一些「乐趣」。
这么看来，老马或许就是「故意」的？
毕竟他曾明确表示过，所谓的安全措施是会让AI模型变得更不安全：训练AI学会撒谎将会带来致命的危险。
同时，作为合作方的Black Forest Labs董事会成员Anjney Midha，也发布了一系列对比，展示了谷歌Gemini和Grok+Flux在上线第一天生成的图像。
是的，就是曾经饱受争议的「有色古希腊哲学家」，「亚裔纳粹士兵」，以及两个白人不能结为夫妻等等。
对此，Midha表示：「我很高兴Igor Babuschkin和团队认真对待这个问题并做出了正确的选择。」
Reddit网友则直言道，「这感觉就像是性教育与禁欲教育的对比。人们需要了解这项技术的潜力，试图压制它只会让人变得天真无知。」。
然而，别看现在Grok的护栏很宽松，马斯克也非常蔑视AI和社交媒体的监管，显得很特立独行，很有style。
但正如沃顿商学院教授所说，图像生成器一直以来都是监管重点，而且今后还会变得更严。
据悉，欧盟委员会已经介入调查，看X是否违反了《数字安全法案》。
不过话又说回来，Grok也并不是如今唯一能生成暴力、色情或误导性图片的AI工具。
如果对Stable Diffusion之类的工具进行微调，一样也可以。
背后功臣：Flux
当然，除了恶搞之外，Grok在干「正事」的时候，效果更让人惊喜。
比如生成富有质感的人物照。
动漫、游戏的梦幻联动。
以及让人垂涎欲滴的汉堡套餐。
prompt只需输入一个「God」，Grok便可生成画面如此丰富的图片。
以上所有图像强大的生成能力，都是Flux为X赋能的。
然而，全网狂欢都在为马斯克欢呼。Reddit网友称，「请将功劳归功于实际做出贡献的人」。
不过，有人还为其洗白。
Grok 2博客中也提到了使用的是Flux 1模型。
其实，Black Forest Labs应该庆幸人们将那些AI生成的图片归咎于xAI，毕竟所有新闻报道都是负面的。
而Flux可以从中获得利益、曝光度、数据，同时避免的负面影响。
参考资料
https://x.com/skirano/status/1824146538463191540
https://x.com/dreamingtulpa/status/1824202643935248734
本文来自微信公众号“新智元”，作者：新智元，36氪经授权发布。
相关文章
粤ICP备2024279727