简要概述
* 欧盟已启动调查，审查X在部署Grok的AI功能之前是否正确评估了风险。
* 调查将审查X是否遵守该地区的数字服务法（Digital Services Act）义务。
* 这标志着欧洲对AI生成的深度伪造的最新打击，多个国家因儿童安全问题禁止Grok。
欧洲委员会于周一正式启动调查，怀疑X违反了欧盟数字规则，未能阻止其Grok AI聊天机器人生成和传播非法内容，包括儿童的色情图片。
委员会在周一的声明中表示，调查将评估公司在部署Grok的图像生成功能之前是否进行了适当的风险评估和缓解措施。
委员会还表示，风险已通过非法性内容的实际生成和传播而显现，暴露欧盟公民于严重危害之中。
此次调查正值国际社会对Grok在制造非自愿深度伪造方面角色的关注不断增加。
两周前，X实施了限制措施，将图像生成限制为付费订阅用户，并增加了技术屏障，防止用户对人物进行数字操控以揭示衣着。公司还在某些地区对该功能进行了地理封锁，因这些地区此类内容是非法的。
尽管采取了这些措施，研究人员发现，在CCDH样本中识别的儿童性化图片中，约三分之一仍然可以在X平台上访问。
“通过此次调查，我们将判断X是否履行了其在DSA下的法律义务，还是将欧洲公民的权益——包括妇女和儿童的权益——视为其服务的附带损害，”技术主权、安全与民主执行副总裁Henna Virkkunen在声明中表示。
本月早些时候，欧盟委员会发言人Thomas Regnier在布鲁塞尔新闻发布会上谴责了X的“Spicy Mode”功能。
“这不是辣。这是非法的。这令人震惊。这令人恶心。这在欧洲没有立足之地，”Regnier说。
cheqd的联合创始人兼CEO Fraser Edwards告诉_Decrypt_，“每个创作者都应该能够控制他们的肖像在AI生成媒体中的使用方式。”
他表示，“对深度伪造滥用的反弹凸显了互联网本身的根本失败。”
“目前还没有原生的方式验证一段合成内容的创建者是谁，或者其使用是否获得授权，”Edwards补充道，责任仍然“默认归咎于像X这样的中介，而非产生滥用行为的个人。”
如果调查结果证实这些失败，将构成对数字服务法第34(1)和(2)条、第35(1)条以及第42(2)条的侵权，这些条款要求平台评估和缓解系统性风险，包括非法内容传播和与性别暴力相关的负面影响。
欧盟的调查延续了2023年底的一起DSA案件，该案因欺骗性设计、广告透明度不足和研究人员访问受限，于12月对X处以1.4亿美元（1.2亿欧元）的罚款。
委员会随后将审查范围扩大到Grok，包括之前对聊天机器人生成的反犹太内容的担忧。
_Decrypt_已联系xAI寻求进一步评论。
