您当前的位置:首页 > 综合 > 正文

今日最新！马保国成AI换脸的“新宠”？当心打开了“潘多拉”魔盒！

时间：2023-06-13 09:14:56 来源：环球网

本文转自【央广网】；

曾经爆红的马保国，近日又成为网络热词。只是这次是因为他的脸成了被AI换脸的“新宠”。

在各大短视频平台，马保国的脸被人恶搞“安装”在各种人身上，配合搞笑的肢体动作、语言、配乐等，着实给发布者带来很多流量。

(资料图片仅供参考)

网友这般跟风“创作”，虽然大多数是把马保国的头像当作“搞笑”素材，但这背后反映出AI应用走偏带来的风险隐患，值得人们严肃讨论。

正如马保国本人在其个人短视频账号中所作的普法提示，网友在未经其本人允许情况下大肆使用其个人头像，已涉嫌侵犯公民肖像权。我国民法典中明确规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。除非是法律另有规定，未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。

必须看到，AI换脸应用技术的泛滥，正给我们的生活带来已知或未知的严重后果，由此引发的案件已多次发生。

女子地铁照

被AI“一键脱衣”

就在今年3月，广州一女子在地铁上乘车照片被AI“一键脱衣”，相关造谣图迅即在网络广泛传播，事实上，这张裸体照并非真实照片，原图中她衣着正常，完全没有任何不妥之处，但却被有心之人用AI软件“一键脱衣”故意全网散播，对个人已造成巨大伤害。

该博主原本在平台发布的照片

此外，多起AI换脸或AI换装的争议事件也引起网友讨论。

“AI换脸”诈骗

防不胜防

前不久，多地警方提醒公众警惕“AI换脸”新型诈骗，就有一男子因AI“偷脸”，10分钟被骗430万元……

近日，内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。

来自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。

基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。

事后，郭先生拨打好友电话才得知被骗，原来骗子通过AI换脸和拟声技术，佯装好友对其实施诈骗。“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生事后说。

这类案件虽与马保国所遭遇的被换脸恶搞属于不同性质，但人们必须要警惕在这种泛娱乐氛围中大家会逐渐失去对AI换脸的风险意识。如果AI换脸能够被轻松应用，这将大大降低侵权、诈骗行为的门槛，也将令所有人陷入防不胜防的悲催境地。

央广网评

这一次是马保国，下一次没准就是你我这样的普通人。这一次换脸引发的是恶搞，下一次或许就是我们中的任何一个人被恶搞、被构陷、被……细思极恐。无论如何，在AI应用日益频繁且多元化的今天，对其可能带来的风险，我们绝不可忽视，且每一个驻在互联网空间的居民都要自觉守护个人权益不受侵犯。

这一现象应引起监管层面的重视。

到底哪些AI应用应该被规范和克制，哪些应被彻底禁止？

如何确保AI应用开发不触犯法律和伦理底线？

个人如何有效防范AI应用可能伴生的公民权益风险？

平台对于类似AI换脸内容的传播，是否有必要作出限制？

这些问题都应该在AI技术的研发应用实践中同题共答。总之，有效预防AI应用误入歧途，避免打开“潘多拉”魔盒，是我们每个人必须采取的态度和行动。

标签：

最新文章推荐