美法令机关对Grok“涉黄”着手：马斯克的xAI遭加州查询

  

  马斯克旗下AI谈天机器人Grok因生成非自愿性清晰图画引发的争议继续发酵，美国法令机关已正式介入。美东时刻14日周三，加州总检察长Rob Bonta宣告，对xAI及其开发的AI模型Grok发动查询，这标志着该争议从全球言论斥责晋级至具体法令举动阶段。

  据加州司法部分官网公告，该查询要点重视Grok“大规模出产”未经赞同的深度假造密切图画，这些图画被用于在网络上打扰女人和女童。查询将承认xAI是否以及怎么违背法令。加州州长Gavin Newsom也表态支撑这一查询，称xAI的行为“令人作呕”。

  这是Grok在全世界内面对的最新监管应战。此前，欧盟、英国、法国、马来西亚、印度尼西亚、印度和巴西等多国政府已对该东西采纳举动或宣告正告。对此，马斯克本周回应称不知情相关状况，并着重Grok已设定回绝不合法恳求。

  该事情正值美国国防部宣告在秘要和非秘要网络布置Grok，监管与运用的对立凸显了AI技能管理的紧迫性。

  加州总检察长Rob Bonta周三在官方声明中表明：“曩昔几周，关于xAI制造并在网上发布非自愿性清晰资料的很多报导令人震惊。” 他着重，这些描绘女人和儿童处于和显露性场景的资料已被用于在网络上打扰受害者。

  依据司法部公告，查询针对xAI“好像正在促进大规模出产深度假造的非自愿密切图画，这些图画正被用于在网络上打扰女人和女童，包含经过社会化媒体渠道X”。Bonta在声明中清晰表明：

  公告具体列举了Grok的问题。其间说到，曩昔几周，很多新闻报导指出，Grok 用户从网络上获取女人和儿童的一般相片，并运用Grok将这些人描绘成具有暗示性和显露性行为的场景，乃至“脱光”他们的衣服，而这一切都是在当事人不知情或未经赞同的状况下进行的。

  “更令人震惊的是，新闻报导称，有人运用Grok修正儿童相片，将他们描绘成穿着露出、处于性场景中。据报导，xAI还生成了儿童从事性活动的传神图画。Grok的这些用处好像正在大规模产生。依据一项剖析，在圣诞节到新年期间xAI 生成的2 万张图画中，超越对折描绘的是穿着露出者，其间一些好像是儿童。”

  加州司法部的查询聚集于xAI的产品设计挑选。公告指出，xAI将Grok的图画生成模型开发为包含该公司所称的辣味形式（spicy mode），该形式生成清晰内容。“该公司将此形式作为公司的营销卖点，果然如此地导致了未经赞同将人物性化的内容激增。”

  该问题在上一年Grok Imagine推出后显现。这款AI图画生成器答使用户经过输入文本提示创立视频和图片，包含可生成成人内容的辣味形式。问题在上月底急剧恶化，其时保管在X渠道上的Grok明显开端同意很多用户恳求修正别人发布的图画，恳求内容如让她穿透明比基尼。

  马斯克将其谈天机器人定位为比竞争对手更具优势、保证办法更少的替代品，加之Grok的图画揭露可见因而易于传达，这扩展了问题的严重性。

  面对争议，Grok表明将图画生成和修正功用限制为付费订阅用户。上星期五，该谈天机器人对图画修正恳求的回应为：图画生成和修正现在仅限付费订阅用户。您能够订阅解锁这些功用。它仅向具有蓝色认证符号的X用户颁发揭露可见的恳求权限，这些用户每月付出8美元取得高档功用。

  但据周二承认，免费用户仍可经过点击渠道上每张图片显现的“修正图画”按钮运用图画修正东西，而非符号Grok宣告恳求。独立的Grok网站和运用程序周二仍在同意图画修正恳求。

  关于置评恳求，马斯克的xAI公司一向以主动回复传统媒体谎话作答。X此前表明将采纳举动删去不合法内容，包含儿童资料，永久暂停用户账户，并在必要时与当地政府和法令部分协作。马斯克正告称，任何运用Grok制造不合法内容的人将接受与上传不合法内容相同的结果。

  在加州发动查询之前，Grok已在全球多个司法管辖区面对监管举动。英国媒体监管安排Ofcom周一发动查询，检查Grok是否违背了维护人们免受不合法内容损害的责任。印度尼西亚上星期六暂时封闭了对Grok的拜访，马来西亚政府周二表明将对X和xAI采纳法令举动。

  欧盟最高技能业务官员正告X一定要处理该问题，并征引《数字服务法》称假如不这样做，咱们将毫不犹豫地全面运用DSA维护欧盟公民。法国巴黎检察官办公室表明正在扩展对X的查询规模，将性清晰深度假造内容归入其间。

  据央视新闻报导，马斯克本周三回应称，并不知道关于Grok存在生成“未成年人图画”的状况，着重Grok的程序设定为回绝不合法恳求且一定要恪守各国法令。现在，多国政府及妇女、儿童权益安排已呼吁苹果、谷歌将该运用从运用商铺下架。