因为Gemini，Google被“围攻”了……

2024-02-29 20:59 来源：网络点击：

因为Gemini，Google被“围攻”了……

几天前，谷歌推出自己史上最强的大模型 Gemini 1.5 和轻量开放模型 Gemma，凭着 100 万超长上下文、入伙开源战局赢得一众喝彩。可好景不长，就像去年末发布 Gemini Pro 时被质疑演示视频造假一样，自带 " 麻烦体质 " 的谷歌又翻车了——只不过这回看起来要严重得多。

Gemini" 反白人 "？被批 " 病毒式觉醒摧毁西方文明 "

事情起因是人们在指示 Gemini 生成「1789 年的美国开国元勋」时，Gemini 吐出了四张以黑人和美洲原住民为主的图片，并称 " 多元化正是体现了创始父辈的精神 "。甚至还想象出了右侧穿着军服的 " 黑人版乔治 · 华盛顿 "。

网友一看，这不是在混淆历史吗？于是继续尝创建「一位教皇的图像」，结果得到的是东南亚女性和黑人男性。

11 世纪欧洲沿海和不列颠岛屿的北欧海盗维京人，在 Gemini 这里也被描绘成了黑人战士形象。

中世纪英格兰英国国王，除了左上角全都是少数族裔。

「第一位女性总统」又变为了黑人女性，而现实世界里她其实是右侧的 Vigdis Finnbogadottir，冰岛第四任总统，也是世界上第一位民选产生的女性国家元首。

渐渐地人们发现问题所在了：Gemini 似乎很难生成白人的图片。

或者说，为了遵循刻意的政治正确和多元化，对白人群体造成了「反向种族歧视」。

这一猜测很快被验证。因为指示生成 " 英俊的白人男性肖像 " 时，Gemini 拒绝了请求，表示 " 这可能会加剧人们对于美好的刻板印象，助长只有特定的物理特征才可取的有害观念 "，" 我是一个促进包容性的应用程序，你的命令排除了白人外的其它群体，美应当是主观的，超越种族的 "。

这么高光伟正、洋洋洒洒的一套下来后，再让它生成「英俊的黑人男性肖像」，干脆利落的回答却只花了几秒钟。

女性的情况也一样：

这个问题还出现到了取向问题上，Gemini 对创建「异性恋家庭」的图片无能为力，但对 LGBT 家庭乐意为之。对此反对的声音认为，多元化应体现在对所有取向和选择的尊重，而绝不是刻意刨除和指向性引导。

一时间网络炸开锅，Gemini 被各大媒体纷纷矛头对准。马斯克更是带头向谷歌开炮，狠批 " 病毒式的觉醒意识正在摧毁西方文明 "，并把 Facebook、Instagram 和维基百科拉下水，表示这些都是一丘之貉。

他说自己很高兴看到谷歌在 AI 图像生成上玩脱，" 这让他们疯狂的种族主义和反文明的编程公之于众 "。又顺势给自家大模型更新打了一波广告：" 也许现在很清楚为什么 xAI 的 Grok 如此重要了。虽然它现在远非完美，但会迅速改进，V1.5 将在两周内发布。不顾批评，严谨追求真理，从未如此重要。"

马斯克还贴出了 Gemini 给特鲁多 " 精心定制 " 的各种族裔版本。

网友马上效仿，炮制出政治正确版的马斯克。

曾因讨论 Gemini 而在社交平台走红的「The Babylon Bee」作家 Frank J. Fleming 发文说，" 现在兴起了一个新挑战：尝试让谷歌制作一个白人男性的图像。到目前为止我还没有成功。"

更离大谱的是，这种刻意的多元化已经不仅仅是针对 " 人 "，当指示 Gemini 生成著名艺术作品「戴珍珠耳环的少女」时，她也变成了黑人少女。

游戏角色亦然：

甚至国际象棋和甜品也…

有网友辣评现在的 Google AI 正在追赶好莱坞的步伐。

更严重的已经给它扣上了 " 种族主义者 " 的帽子。

产品负责人被扒，AI 图像生成服务暂停，谷歌搜索也中枪

火力全开的网友们还扒出 Gemini 背后领导成员之一的谷歌 AI 产品负责人 Jack Krawczyk，本身就是一个 " 反白人 " 的白人。

他曾在推特发表过许多抨击 " 白人特权 " 的言论，像是 " 我作为一个白人男性从未经历或想象过这样的侮辱 "，" 我不介意支付更多税收 "，"Jesus 只爱白人小孩 " 等等。

在人们的围攻下，Jack Krawczyk 已经把自己的 X 页面设为隐私，并且删去了和谷歌有关的一切职位描述。

事态愈演愈烈，《华盛顿邮报》刊发报道，指出除了 AI，谷歌的反向种族偏见还存在于其它产品。比如在谷歌搜索「白人夫妇」，绝大多数混合了黑人成员。

在 2022 年的谷歌政治新闻引用结果中，63% 倾向偏左，16% 中立，只有 6% 偏右。现在有人也开始怀疑谷歌会搅乱 2024 年美国大选。

还有媒体想起更早的 2020 年，谷歌就扎身政治正确道路，矫枉过正地去掉了自家 Chrome 浏览器中「Blacklist」和「Whitelist」，这两个原本是通用计算机术语的单词。

短短几天，刚被 AI 圈捧高高就瞬间摔落谷底，还引发众怒被架在火上烤。巨大压力之下，谷歌也只好发表回应，承认 Gemini 确实在某些历史图像生成描述上提供了错误信息。认为 Gemini 广泛的 AI 图像生成恰恰证明了全世界的人都在使用它，但它没有达到预期效果。

" 我们已经在努力解决 Gemini 图像生成功能的问题。在此过程中将暂停人物图像的生成，并很快重新发布改进版本。"

评论区的网友们没有买账，要求拿出证据证明这一切不是谷歌有意而为之。

为什么会生成误导图像？

千呼万唤中，谷歌公关再次道歉："Gemini image generation got it wrong. We ’ ll do better."

高级副总裁 Prabhakar Raghavan 亲自下场发文解释原因。

他表示 Gemini 是一个特定的产品，与搜索、底层 AI 模型及其他谷歌产品是分开的，其图像生成功能基于 Imagen 2 的 AI 模型构建。构建过程中谷歌进行了一系列调整，以避免生成暴力、暗示或特定真实人物图像，目的是为全球用户提供包容性强且多样化的图像内容。

然而引发了两个问题，一方面，这些调整未能在必要时提供特定而准确的人物图像；另一方面，随着时间推移，模型变得比预期还要谨慎，错误地拒绝了一些本质温和的提示。从而导致令人尴尬和不正确的图像生成。

这个刚问世三周的图像生成功能将暂时关闭，并计划在彻底改进和广泛测试后重新开放。

Prabhakar Raghavan 称 Gemini 被设计成一个创造力和生产力工具，在生成关于当前事件、不断演变的新闻或敏感话题的图像或文本时，它可能不总是可靠的，它会犯错。而幻觉是所有 LLMs 的已知挑战。谷歌无法承诺未来 Gemini 不会再偶尔出现冒犯性结果，但可以承诺每当问题出现时会马上改进。确保安全、负责任地推广 AI 这一新兴技术。

另外还有个插曲。

在谷歌面对这场轰轰烈烈的声讨时，祸不单行地被传闻说今年会关停 Gmail。