投稿邮箱:jxpinglun@163.com
QQ群 : 317365101
您当前的位置 : 理论评论 >> 热议
遏制AI技术滥用需要法治“紧箍咒”
来源:  2024-05-13 17:32:00  编辑:文峰  作者:郭元鹏[ 浏览字号:  ]

      随着AI技术的深度发展,“AI换脸”“AI脱衣”工具变得常见。一些不法分子将歪主意打到了造“黄谣”,甚至威胁、诈骗上。4月19日,北京市海淀区人民法院审理了一起使用“AI去衣”软件制作淫秽物品案。被告人将他人提供的承载人脸信息的不特定多数女性图片,通过深度伪造技术、AI软件制作成裸体图片贩卖牟利,同时出售“AI去衣”软件及使用教程牟利。(5月13日《南方都市报》)

      所谓的“AI脱衣”,其实本是一种图像处理技术,主要用于去除图片中的衣物,从而实现人物形象的净化。然而,这项技术却被不法分子用于制作淫秽物品,这种技术滥用现象无疑是对社会秩序的公然挑衅。

      类似滥用技术的案例还有很多。比如,今年1月,贵阳市花溪区一女子在某短视频平台直播带货的照片,被人截图后将上半身换成裸照,在网络传播。经调查,家住广西玉林市的谢某,将该主播的直播截图上传到一款AI绘图软件,使用局部改图功能合成了该主播上身赤裸的照片。

      虽然经过一段时间治理,但是目前仍有不少“AI换脸”“AI脱衣”“AI换衣”类的工具售卖,只是搜索路径更为隐蔽。一些店铺隐晦地将“去衣”表述为“去一”等同音字。客服解释称,便宜的工具是“换衣”,贵一点的工具是“去衣”。这其中的意思是不言而喻的,可以说有点“此处省略500字”的意味,但凡懂点语言文字的都能知道商家的意思是什么。

      技术本身并无好坏之分,关键在于人心的善恶。AI技术为我们的生活带来了诸多便利,但同时也给不法分子提供了可乘之机。随着AI技术的深度发展,一些不良现象逐渐浮出水面。不法分子将黑手伸向了这个领域,利用“AI脱衣”制作淫秽物品,甚至威胁、诈骗,对社会风气和公共秩序造成了极大的破坏。

      首先来说,需要让法律法规跟上新生事物的步伐。应当加快完善相关法律法规,明确规定AI技术的应用范围和限制条件,为打击技术滥用提供法律依据;其次来说,需要强化行业自律和约束。AI技术企业和相关行业不能为违法行为提供便利,比如借助AI技术实现图片处理的,是不是也需要进行实名认证?是不是也需要约束“用女性的图片或者视频脱衣”;再次来说,对于涉及“AI脱衣”等违法工具的研发、传播、使用等环节,要进行全面排查。尤其是各家社交平台,要管好自己的一亩三分地。

      面对技术滥用现象,我们必须果断出击,依法整治。

      (郭元鹏)

      编辑:徐楫越

      校对:熊细娇

      审核:文峰

    点击排行