【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花,水中望月,你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲,用来描述当下互联网时代的“云”上生活,在技术发展与风险伴生之下,“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来,人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态,但其被恶意利用制作虚假信息内容,进而带来了政策干扰、谣言泛滥、低俗内容等。因此,我们也在呼吁——“借我一双慧眼,把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程,技术治理本身就是一场攻防对抗博弈,也是技术从创新应用到规范发展的必经之路。近日,这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”, 迈出我国新技术新应用立法的重要一步,也将有效维护网络空间良好生态。
明确义务要求,强化主体责任
事实上,深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展,深度合成技术门槛大幅降低。2017年11月,Reddit网站的用户“deepfakes”发布伪造视频,曾一度将这项技术推至风口浪尖,其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”?《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括:篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然,从技术进步的角度看,深度合成技术应用的初衷是让生成合成内容更逼真,但技术在愈趋“智能”的同时,也不可避免地带来更多风险。对此,中国科学院信息工程研究所所长孟丹介绍,除深度伪造风险外,还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者,也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现,《规定》明确了深度合成技术定义和服务范围,提出了服务提供者落实信息安全主体责任,指出了服务提供者和技术支持者备案义务,并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价:《规定》分析梳理了深度合成活动边界,对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如,服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务,服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系,促进科技向上向善
从此起彼伏的社会案件中可以看出,深度合成信息内容制作和传播数量正在高速增长,尤其伴随“元宇宙”等新模式、新场景不断落地,深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为,《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步,标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》,对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上,加强对深度合成服务全过程管理,也深化了备案与评估标本兼治。
然而,从技术发展阶段看,深度合成技术与应用管理仍处于起步阶段,在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设,是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间,凸显了“以技术管技术”的逻辑,也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架,提出了明确的数据和技术管理规范,为促进深度合成技术向上向善,引导相关产业健康发展,确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向,在明确‘红线’的同时,为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如,《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议,从深度合成信息内容源头上,解决其衍生的内容安全风险,利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力,不仅着眼于管理好、使用好、发展好深度合成技术及相关服务,也致力于深度合成技术的合法合理合规使用,促进深度合成技术及相关服务健康有序的发展。
引导多方参与,推动治理走深向实
随着数字化、智能化进程不断加快,互联网信息服务综合治理不断细化,规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示,深度合成服务治理需要政府、企业、社会、网民等多方主体参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展。
《规定》明确提到,国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责,国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为,《规定》构建了统筹协调、多方参与的监管体制;《规定》鼓励相关行业加强行业自律,搭建齐抓共管、协同共治的治理机制;《规定》通过系统化的制度安排,进一步构建完善了我国网络综合治理法治体系。
孟丹也提到,《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面,仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中,建议业内推进产业联盟建立,以产业自治、多方共治的方式,不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实,徐波建议,强化智能监管平台支撑。比如,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设;加强人机混合的智能监管技术,研究深度合成服务提供者的安全可控技术保障方案,把监管规范转化为评估标准,建设面向网络全域监管的监测管理平台;研发深度合成与鉴别对抗机制,鼓励新兴科技企业与研究机构开展技术演练,共同推动深度合成服务健康发展。
官方部署:重点加强务工人员返岗运输保障******
中新网2月2日电 据“交通运输部”公众号消息,近日,国务院应对新型冠状病毒感染疫情联防联控机制春运工作专班印发通知,就务工流、学生流返岗返校等运输服务保障工作作出进一步部署。
一、进一步强化客流组织保障
(一)切实加强旅客运输组织。各地要加强春运后半程客流研判,统筹综合运输资源,强化运力保障,合理安排班次,充分满足群众返程需要。要加强城乡交通运力与铁路列车、道路水路客运班线、民航班机等信息共享和衔接,提升疏运能力,畅通群众出行“最后一公里”。要加大农村运输服务保障力度,通过开通赶集班、春耕班、开展预约响应服务等方式,最大程度满足农村群众赶集、农忙等出行需求。
(二)重点加强务工人员返岗运输保障。各地要加强务工人员返岗情况摸排,通过加密客运班次、增开定制客运线路、强化城乡客运衔接等方式,提升务工人员返岗运输服务保障能力。对于目的地集中、具有一定规模的,可开展上门售票服务;具备条件的,可提供包车、专列(包车厢)、包机等“点对点、一站式”运输服务,切实保障务工人员安全便捷返岗。鼓励各地通过政府购买服务、补贴部分包车费用等方式,降低务工人员出行成本。
(三)切实加强学生返校运输保障。各地要按照“分期分批、错时错峰”的原则,稳妥有序做好高校学生返校运输服务保障工作。高校集中的地区要针对可能出现的学生短时间内集中抵达的情况,加强运力调度,通过开行校园专线、大站快车、区间车、延长运营时间等方式,及时疏解学生大客流。对于出行需求集中、出行距离适中的学生群体,可提供家门到校门的包车直达服务。
(四)持续加强自驾人员出行服务保障。各地要加强区域路网、重点水域运行动态监测,多渠道及时发布路网、客滚航线运行信息,动态更新发布拥堵缓行路段、客滚航线信息,引导自驾人员合理选择出行时间和出行线路。要加强高速公路服务区运营保障,强化服务区加油、充电、用餐、如厕等基本服务管理,确保商品供应充足、环境卫生可靠、服务便捷高效。
二、进一步加强交通物流保通保畅
(五)持续做好医疗物资运输服务保障。各地要加强属地重点医疗物资保供企业、重点物流企业跟踪监测,强化运输组织和运力调度,持续做好医疗物资运输保障工作。要指导属地骨干物流运输企业与医疗物资生产经营企业、流通企业建立长期合作关系,保障物资调拨、运输、流通等环节高效畅通运转,维护医疗物资产业链供应链安全稳定。要充分发挥各级物流保通保畅工作机制作用,建立部门间常态化对接渠道,建立健全疫情防控新阶段保障医疗物资稳定可靠供应、安全高效运输的长效机制。
(六)扎实做好春耕备耕物资运输保障。各地要及时掌握种子、农药、化肥、农机等农业生产物资运输需求,统筹利用综合交通运输资源,加强调度指挥和运输组织,确保农业生产物资运输需求及时响应、物资及时运达。要指导重点货运物流企业强化农业生产物资运输保障,优先承运、优先装卸、优先运输。具备条件的地区可在高速公路出入口开通快速通道,全力保障农业生产物资运输车辆优先快速便捷通行。对于承运春耕化肥等重点农业生产物资的船舶要实施优先引航、优先过闸、优先锚泊、优先靠离泊措施,确保农资水路运输通畅。
三、进一步落实落细疫情防控措施
(七)精准落实疫情防控措施。各地要按照《2023年综合运输春运新型冠状病毒感染疫情防控指南》要求,严格做好客货运输场站、交通运输工具、高速公路服务区、收费站等清洁消毒、通风换气,强化客运场站进站口、售票窗口、安检通道、检票口等重点部位客流组织引导,积极推广无接触式作业,最大程度减少疫情传播风险。要加强防疫宣传,引导公众提高防护意识,加强个人防护,理性错峰出行。
(八)持续加强从业人员防护。各地要督促交通运输从业人员上岗期间规范佩戴口罩、做好手部卫生,离岗后加强个人防护,倡导实行“两点一线”管理。优先保障交通运输一线从业人员防疫物资供应及疫苗加强接种,加强重点客运枢纽和在途时间较长的列车、客船退热等药品配备。坚持和完善关键岗位轮岗备岗制度,保障工作有效接续,确保春运期间重点枢纽场站不关停、重要运输通道和线路服务不中断、重点物资运输不断链。
四、进一步加强服务保障
(九)着力强化路网运行保障。各地要完善部省站三级调度、区域协调、路警联动等工作机制,坚持“一事一协调”,及时发现、快速处置路网阻断堵塞情况,持续做好疏堵保畅。要加强部门间信息协同,加强路网运行研判、气象灾害预警,组织有关部门做好极端天气下的交通管控,备齐应急抢通力量,提高应急处置水平。
(十)着力提升旅客出行体验。各地要进一步强化客流组织,优化服务举措,积极开展人工售票、协助候乘等适老化便民服务,联网售票、电子客票等无接触服务,定制客运、联程运输等“门到门”服务。要畅通12328交通运输服务监督热线,高效做好接听转办工作,解答公众咨询,对旅客反映的问题即报即查、即转即办,及时回应社会关切,坚决杜绝矛盾积累。
(十一)着力加强春运宣传。各地要聚焦综合运输整体优势和各运输方式比较优势,做好出行资讯服务,推介便民利民举措,分阶段、分主题、全方位开展春运宣传引导。要聚焦一线从业人员、志愿者,进一步挖掘和宣传春运典型做法和生动事迹,讲好春运故事。
五、进一步强化安全应急保障
(十二)持续做好安全隐患排查整治。各地要对春运安全检查发现的问题隐患开展“回头看”,确保整改到位,并举一反三,针对性完善安全监管措施,压实企业主体责任。要加强冰冻雨雪等恶劣天气预警,督促运输企业做足做细途经路线选择、动态监控、安全培训、安全设施检查等各项准备,遇极端天气存在重大运输安全隐患的,及时调整计划,坚决杜绝冒险运营。要严格落实客运安全告知制度,督促旅客乘车期间全程规范使用安全带,最大限度提高安全防护水平。
(十三)突出加强重点领域安全管理。各地要深刻汲取春运以来有关交通运输安全生产事故教训,清醒认识节后返程高峰、复工复产对客货运输安全的影响,扎实做好重点领域安全监管。针对重庆彭水“1·13”、云南玉溪“1·27”事故暴露出的包车异地违规经营问题,车籍地要加强旅游包车源头监管,旅客出发地要做好本地运力供给和服务保障。要加强危险化学品、烟花爆竹等各类危险品托运、承运、装卸、车辆运行等全链条安全管理,严厉打击非法托运、违规运输危险品行为。要督促相关运营单位加强重点客运枢纽场站、城市轨道交通车站客流疏导和安全管理。
(十四)着力加强安全执法监督。各地要以务工人员输出、输入集中的市县为重点,持续深化客运打非治违,保持安全监管高压态势。要充实重点客运枢纽场站、高速公路出入口、公路服务区等区域执法力量,针对性加强执法检查。要依托高速公路通行、联网联控等数据加强频繁出入本地的大中型客车排查,依法从严查处非法营运、脱离动态监控运营、违规异地运营、甩客倒客、客运包车未经备案擅自运行等违法行为。对本地查处的外地客车,及时通报车籍地强化源头管控和监测预警。
(十五)切实维护行业稳定。各地要强化底线思维,落实属地责任、部门责任,加强行业动态和舆情监测,有力有效排查、防范和化解道路货运、出租汽车、城市公共汽电车等领域稳定风险隐患,做到处理在早、在小、在散。要督促出租汽车、道路客货运输企业落实企业主体责任,督促交通运输新业态平台企业依法合规开展经营,保持运营规则稳定性,维护从业人员和消费者合法权益。
(十六)持续做好值班值守和信息报送。各省级春运工作专班要继续严格执行值班值守和领导带班制度,加强部门信息共享和协同联动,强化调度指挥协调,全面掌握本辖区内春运工作情况,妥善处置突发事件,及时报送相关信息。(中新财经)
(文图:赵筱尘 巫邓炎)