点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。
明确义务要求，强化主体责任
事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系，促进科技向上向善
从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。
然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。
引导多方参与，推动治理走深向实
随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。
《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。
孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。
中新社70年｜忆九八抗洪：伴着洪峰走，枕着长江睡******
编者按：
本期小牛工作室特邀参加1998年抗洪报道的中新社记者顾立军、田惠明，为大家回忆九八抗洪采访和应对“汛考”的难忘往事。
灾区欢迎三种人
24年前，1998年8月，沿江诸省，阴云密布，连月不开，暴雨如注，十日不停，恨不得将20世纪最后两年的雨水一下子倾吐出来。
四川的嘉陵江、岷江、乌江、沱江，湖南的湘江、资江、沅江、澧水，湖北的汉江，江西的赣江，呼啸着涌入长江，长江水位持续暴涨，洞庭湖满了，鄱阳湖溢了。滚滚江水，浩浩荡荡。
一时间，抗洪救灾成为举国上下的头等大事。
关键时刻显真情：身着绿衣的解放军官兵冲上了江堤，扛沙袋、堵管涌；穿白衣的医生护士赶到了灾区，医病患，救伤者；媒体记者闻风而动，穿梭在长江两岸，拍灾情，录实况，将军民团结抗洪救灾的新闻及时传至海内外。他们是灾区最受欢迎的三种人。
▲中新社采访团记者与当地民众合影中新社的记者不用扬鞭自奋蹄。
此时，时任湖北分社社长章敦华正全力以赴，疾走长江两岸。武汉支社长柳俊武镇守三镇，三峡支社长罗德惠负责宜昌，江西分社长段八一出征九江，总社摄影部多位记者急赴鄂、赣两省灾区，大家合力同心，及时将长江抗洪新闻采写发出。
眼看着洪灾越来越严重，总社又派出了一支抗洪采访小分队，于8月13日中午，乘白色桑塔纳、蓝色吉普车，驶出总社大门，向着长江抗洪前线出发了。
▲田惠明、赵胜玉、陶社兰乘冲锋舟采访灾区报道组成员有：时任社长助理顾立军为总负责，总编助理田惠明协调图文发稿，湖北分社长章敦华负责采访总调度，文字记者陈建、赵胜玉、陶社兰，摄影记者为邹宪。司机杨福顺、林宪。
星夜驱驰 奔赴荆州
我们星夜驱驰，沿高速公路直达郑州，稍作休息，又走107国道南下，当时京广高速还没有修到武汉。
我们马不停蹄，终于在14号傍晚时分，跨过了长江大桥，与章敦华会师于武昌城下。
15号我们在武汉市区采访，登黄鹤楼头远眺：江水翻滚横流，江面宽阔无涯，水位即将贴近长江大桥了。昔日江上百舸争流，今日没有一艘行船。
武昌沿江大道上，处处是堆的山高的沙袋，用以阻挡肆虐的江水入城。我们登上沿江大堤，穿行街头巷尾，一边察看水情，一边制定下一步的采访路线。
敦华社长的家乡在荆州公安县，他对长江再熟悉不过了。他说：“荆江大堤是长江的生命线，荆州沙市水文站是荆江大堤的晴雨表，荆州公安县是长江的分洪区，万里长江险在荆江。我们应该立刻赶到荆州去。“
事不宜迟，16日清晨， 杨福顺、林宪不顾疲劳，驾车飞速向五百里开外的荆州驶去。我们这两辆采访车此次发挥了巨大的作用，它兼有多种功能。
一是交通功能：哪里出险情，哪里有新闻，我们的采访车就可以每小时百公里以上的速度尽快抵达。
二是办公功能：我们的照相器材、电脑、传真、录音机、传真机、水情资料、地图等办公用品均在车内，大家在行进之中就可以打字发稿、研究题目、拟写采访提纲。
三是餐厅功能：我们的车上装有矿泉水、饼干、方便面、水果、香烟等，渴了、饿了就在车上解决。停车后，两位司机会及时采购补给。
四是卧室功能：采访车也是卧室。累了、困了就在车上打个盹儿。养精蓄锐，上车就睡，体力迅速恢复。下车就干，不知疲倦，一直保持良好的采访状态。两位司机可以停车大堤下，抓空睡会儿。
中午抵达荆州，我们站在荆州抗洪指挥部五楼顶上望去，数十米开外即是荆江大堤，长江第六次洪峰正滚滚而来，堤内是一望无际的浩瀚江水，水位已经超出警戒线两米多，快与楼顶齐平了。
如果荆江大堤一破，江水不但吞没荆州古城，而且一路向东，直逼武汉。可以说保住荆江大堤，就是保住了武汉三镇。
留下还是撤离？
此时，暴雨依然不停，水位一高再高，当地的水利专家告知，要想保住大堤，确保武汉安全，万不得已的情况下，只有在荆州对岸的公安县北闸大堤炸坝分洪，公安县有一个已经规划好的分洪区。
不容耽误，我们要立刻赶到公安县去，荆州与公安县隔江相望，只有几十里的距离，但江面上早已封锁，轮船停驶，摆渡停开，荆州也无大桥横江。
此时要想到对岸的公安县，只有驱车向西100多公里，那里有枝城长江大桥，过桥后再向东折回100多公里，才能到达公安县。两位司机二话不说。继续驾车长途奔驰，终于在傍晚时分到达了公安县城。
由于分洪已经提前预警通知，几十万村民准备“舍小家保大家”，要提前开始撤离。逆行者是解放军战士，他们列队扛锹，喊着口号跑向江边。
湖北媒体同行告知：公安县北闸的大堤上已经挖好了一百多个爆破坑，里面填装了近二十吨炸药。
万事俱备，只等当晚上九点后，中央一声令下，即可炸坝分洪。要炸开分洪的口子长2500米，届时，长江水将一路咆哮倾泻……
如果这样，几十万亩良田将被淹，几十万人口将流离失所，公安县分洪区将是一片汪洋。
怎么办？我们报道组是留下来坚守，还是撤离到安全地带？留下，可以采访到分洪现场鲜活的新闻，记者聚集的公安县抗洪指挥部的三层楼顶还可以抵挡一阵。
离开，关键时刻记者哪能撤离现场！但两辆采访车泡在水里，将彻底报废。
几十万人的家园保住了
怎么办？敦华社长坚定地说：“公安县就是我的家乡，我要留下来”。顾立军说：“九一年安徽淮河水灾我就在现场，我有抗洪的经验，我留下。”
摄影记者邹宪表示，我也要留下来，我用相机记录下炸坝分洪的瞬间。其他几位记者也表示愿意留下采访，让车辆撤离。经过一番讨论，最后决定顾、章、邹三个人留在公安县城，其余的撤到50公里开外的一处叫藕池的高地。
就这样，他们三人冒着生命危险留在了公安县城。其余的人驾驶两辆车急速向高岗之地驶去。
▲记者陈建在采访现场此时已经快晚九点了，公安县城已是漆黑一片，老百姓基本都撤离了，只有军车和军人们在行动。大喇叭还在反复播放着赶快撤离的通知。
我们驾车出了县城，沿着公路狂奔，一路暴雨倾盆，雷电交加，雨刷器用最快的速度来回的刷着，但仍看不清前面的路，车窗外白茫茫一片，大家谁也不说话，司机紧握方向盘，手在发抖，仍然拼力的前行。
我们睁大眼看着窗外，寻找着高点儿的建筑物。大家都表示，一旦分洪的江水追过来，我们就弃车跑到制高点上去，或者爬到大树上。
好在一路有惊无险，一个多小时后，我们终于看到了灯火，看到了高岗之地上避险的受灾民众，这时大家才松了一口气。
8月16日，这是一个不眠之夜，我们不时打探着公安县的消息。
一小时一小时地过去了，深夜两点多，终于，肆虐的江水有所收敛，荆州沙市的水位停在了45.22米，远远高出可以分洪的水位，据说这是150年来长江历史上的最高水位。
这是一招险棋，中央高层临危不乱，科学决策，指挥若定，坚持住了，没有下达炸坝分洪的命令。大坝保住了，公安县保住了，几十万亩良田保住了，几十万人的家园保住了。
伴着洪峰走，枕着长江睡
17日上午，我们的报道组又会师了。从17日起，我们又沿长江两岸的石首、监利、洪湖、赤壁、咸宁、岳阳一路采访，伴着洪峰走，枕着长江睡。
敦华社长得知了洪湖市长的行踪，知道其日夜坚守在长江边的一艘船上。堤在、船在、人在，这艘船就是洪湖市抗洪救灾的指挥部，市长吃住在船上已经几十天了。
敦华社长连夜前去采访，没有灯，打着手电做记录。采访回来后，熬夜写就了专访洪湖市长的稿件。
▲章敦华夜访时任洪湖市长记者陈建、赵胜玉、陶社兰更是勇者无畏，来到原42军叶军长的石首市抗洪指挥部，并自报家门进行采访，豪爽好客的叶军长被记者勇敢的精神感动了。
这位将军似乎与记者们很投缘，不但接受了我们的采访，还相约第二天，一起乘冲锋舟深入孤岛村庄，去查看被困的灾区。看看救灾的战士们，以鼓舞士气。
▲陈建采访原42军叶军长要知道，能深入到被淹的村庄去现场采访，没有船是寸步难行的。机会难得，第二天上午，我们身着橙色救生衣，随着叶军长一行，乘上冲锋舟，向着险情最严重的村庄驶去。
我们看到，灾区险段，战士们有的泡在泥泞中挖土，有的扛起沙袋一溜小跑，将沙袋垒在堤坝上。顾立军真是有经验，他钻进受灾民众的帐篷里，摸摸被子，看看锅里，又递给老乡们香烟，与他们深入交谈采访，民众将许多的心里话都讲给了他听。
▲顾立军在采访受灾民众邹宪的相机不停地拍着，留下了一个又一个难忘的画面。记者的稿件不停地写着，一篇篇传回了总社。值得我们自豪的是，报道组采写的《灾区欢迎三种人》稿件，角度新颖，文笔流畅，后来荣获了第九届中国新闻奖二等奖。
24年过去了，在1998年长江抗洪报道中，我们目睹了世纪大洪水的惊涛骇浪，我们经历了十几天采访的惊心动魄，我们留下了刻骨铭心的回忆，这段经历成为了我们新闻生涯中一段难忘的旧事。
作者：顾立军 田惠明
（文图：赵筱尘 巫邓炎） [责编：天天中] 阅读剩余全文（）  视觉焦点
彩神ap地图 |
)