投资 干货 消费 评论 学院 滚动
风投 科技 创业 业内 要闻
守住安全底线 推进深度合成服务规范化
发布日期: 2022-12-15 18:26:42 来源: 中国经济网

新闻背景:


【资料图】

近日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。

深度合成技术亟待规范

随着互联网技术的快速发展,网络上出现了很多技术合成的内容,如AI绘画作品、换脸视频、变声音频等。从积极角度看,这类技术让生活更有趣,让制作或创作更加高效、逼真。但有些时候,深度合成也充当了诈骗、侵权等违法犯罪活动的“帮凶”,亟待规范。

科学技术是一把锋利的双刃剑,既给人带来便捷与愉悦,也潜藏着危险与痛楚,人脸生成技术即是如此。如今,从未经允许合成虚拟形象、假冒好友视频聊天,到合成不雅视频、从事诈骗活动等,人脸生成技术已成为一种受到黑灰产青睐的新型网络犯罪工具。

要更好地保障公众的知情权

《规定》明确要求,提供人脸生成等技术服务的,应当进行显著标识。这项强制性规定并非可有可无。因为,对于一般公众而言,在几乎可以以假乱真的新技术面前,并不具备孙悟空一样的“火眼金睛”,很容易发生混淆或者误认。

为防范深度合成技术成为诈骗工具,《规定》从多方面进行了规范,比如明确“红线”,强调不得利用深度合成服务从事法律、行政法规禁止的活动;依法对深度合成服务使用者进行真实身份信息认证。这无疑增加了相关规定的震慑力,也畅通了追责渠道。

依法治理是一场持久战

客观而言,《规定》中这些“对症下药”的措施,为人脸生成等深度合成技术筑起了一道法治堤防,有助于避免新技术沦为不法分子的“摇钱树”,为“潘多拉魔盒”加上了一把坚固的法治大锁。

同时也要看到,在巨大利益诱惑下,相关违法犯罪现象依然不少,依法治理仍是一场持久战。在这一过程中,公众的监督、维权也是不可忽视的重要力量。期待各方共同努力,引导技术向好向善,为深度合成服务的健康发展护航。

(以上综合工人日报、中国青年报)

V视角:

@明月何时比我圆:“AI换脸”该退烧了。

@丝路:“深度合成”不能成“深度伪造”。

@四十不惑:规定来得及时。

@小明:涉及用户隐私的信息必须做到充分保护。

@春天到:有这技术,有时真分不清真假了。

中国经济网编后语:

无规矩,不成方圆。《规定》是我国针对深度合成服务出台的第一部专门性部门规章,作出了一系列明确的合规指引。如今,互联网介入人们生活的程度不断加深。当一项新技术横空出世之际,我们对其背后的漏洞风险也应当审慎评估,相关的规定必须适时跟上。我们希望,从“野蛮生长”到“规范发展”的时间差越来越短。

来源:中国经济网