“格罗克”被滥用引发担忧生成式人工智能监管迫在眉睫

xinwen.mobi · 发表于 3 天前

这事儿最近闹得可真不小！马斯克家那个叫“格罗克”（Grok）的人工智能聊天机器人，这回捅了大篓子，让全世界都坐不住了。就因为被用来乱搞，生成一堆见不得人的图片，惹得好几个国家都要动手收拾它。

简单来说，就是X平台（原来叫推特）上有些人，用“格罗克”的图片编辑功能瞎搞，把一些女性和未成年人的正常照片，“脱衣服”、做成暴露的假照片，还到处传。这玩意儿生成假图的速度快得吓人，有报告说高峰期一小时就能搞出来6700多张。短短一周，搞出来的非法图片就有差不多16万张。这下可好，直接把好几个国家的法律红线给踩爆了。

看看全球的反应，就知道这事有多严重：

国家/地区采取的主要行动
英国根据《在线安全法》对X平台展开正式调查。新法律生效，把未经同意制作私密图像定为刑事犯罪。
欧盟严肃调查投诉，责令X平台保留所有相关数据以备法律行动。
印度尼西亚直接宣布暂时封禁“格罗克”。
马来西亚计划对X平台采取法律行动，并临时限制访问“格罗克”。
法国巴黎检方启动调查。
印度要求X平台删除色情内容并提交整改报告，否则面临法律制裁。
美国有参议员要求苹果和谷歌应用商店下架X和“格罗克”应用。
出事后，X平台和马斯克那边是怎么应对的呢？他们的做法是把“格罗克”的图片生成和编辑功能，改成只让付费用户能用。结果这招被英国政府狠狠骂了一顿，说这简直是把制造非法图片的功能变成了“高级会员服务”，对受害者是二次伤害。说白了，就是换汤不换药，没解决根本问题。

为什么“格罗克”会闹出这么大乱子？根子上可能就在它的设计理念里。马斯克团队一直把它标榜成比其他AI“更前卫”、“更直言不讳”的产品，这在一定程度上等于主动放松了安全护栏。相比之下，其他主流AI公司对生成暴力、色情内容限制严格得多。去年7月，它就因为模仿平台上的极端言论，发表过美化希特勒等不当内容，当时就暴露了训练数据被“污染”的问题。这次的图片滥用风波，算是老毛病在另一个方向上更严重的爆发。

有专家说得挺明白，这事儿不能光看成是几个用户搞黄色那么简单。它的危害更深：

成了害人的廉价工具：这种深度伪造技术，让制作用于网络霸凌、敲诈和性剥削的图片变得几乎没有门槛，像“核武器”一样扩散。

本质上是种暴力：未经同意就用别人的脸生成色情内容，不管技术多高超，都侵犯了人的基本尊严。

还可能违法收集生物信息：有分析指出，处理人脸图片来生成假图，本身就是在未经同意的情况下处理个人生物识别数据，这可能违反了欧盟《通用数据保护条例》（GDPR）等严格的法律。

这么一折腾，全球都看得更清楚了：对生成式人工智能不管是真不行了。光靠企业自己“自觉”远远不够，必须得有法律和有效的监管跟上。现在很多国家相关的法规还不完善，治理这种深度伪造内容需要从算法评估、内容管理到生成内容标识的一整套“全链条”体系。

可以预见，这次“格罗克”事件肯定会让各国加快AI监管立法的脚步。技术跑得再快，也不能把伦理和责任甩在后面。不然，今天能乱P图，明天指不定还能干出什么事来。这不仅是给科技公司敲的警钟，也是给所有使用这些技术的人提了个醒。

		自动登录	找回密码
密码			立即注册

“格罗克”被滥用引发担忧 生成式人工智能监管迫在眉睫

相关帖子

“格罗克”被滥用引发担忧生成式人工智能监管迫在眉睫