从“算法选择”到“选择算法”:我国网络空间治理进入新阶段

从“算法选择”到“选择算法”:我国网络空间治理进入新阶段

新华社天津8月30日电(记者梁姊)算法正在深度嵌入人们的生活,但大数据杀熟、个人隐私泄露等负面影响,让人们产生了算法滥用的担忧。

今年3月1日,《互联网信息服务算法推荐管理规定》正式实施。新规落地半年,我国在算法治理领域有何新进展?2022年中国网络文明大会算法治理分论坛与会嘉宾和其他专家学者就此给出了自己的解答。

算法治理落地半年成效如何?

算法作为数字经济的基础,已广泛使用多年。对于近年来出现的算法乱象,北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙认为,这是算法由人工规则转为数据驱动导致的。“当下的算法与大数据深度耦合,由于数据存在不确定性,算法能力边界不清晰,算法行为才会不可控。”

3月1日起,国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》(后称《规定》)正式实施。这是我国首个互联网信息服务领域具有针对性的算法推荐规章制度。多位受访人士表示,《规定》出台填补了互联网治理领域的空白,我国进入算法系统性治理阶段。

在中国社会科学院大学互联网法治研究中心执行主任刘晓春看来,《规定》落地,意味着我国在算法治理探索上处于世界前沿。“更难能可贵的是,《规定》回应了算法内容治理、未成年人保护等现实问题,是一个有中国特色的治理方案。”

论坛上,多位嘉宾分享了《规定》施行半年来的成果:开展2022年“清朗·算法综合治理”专项行动,对部分互联网企业进行现场检查;发布首批境内互联网信息服务算法名称和备案编号,包括多家大型互联网企业和产品;明确提出“用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务”,把算法使用选择权归还用户……

除了实际的治理行动以外,刘祥龙认为,《规定》落地所产生的指导性影响同样重要。“这释放了一种对算法进行自上而下系统治理的信号,互联网企业应该主动规范自己的行为,保证用户的权利和使用公平。”

8月28日,在国家会展中心(天津),参会者在2022年中国网络文明大会现场参观展览。 新华社记者 孙凡越 摄

算法“黑箱”技术难题如何化解?

在算法治理分论坛上,中国科学院计算技术研究所数据智能系统研究中心主任沈华伟指出,人们对于与《规定》同步施行的互联网信息服务算法备案存在一些误解,主要是备案的内容。“我国算法备案的内容包括算法的主体信息、算法信息、产品及功能信息三部分内容,并不涉及算法所使用的数据和代码。”

多位受访专家学者认为,数据、决策机制和设计意图的不透明,使依靠数据进行深度学习和分析的算法成为“黑箱”。以打车为例,每个乘客都希望能够尽快打到车,平台的派单算法却可能考虑如何分配车辆以实现全局运力最优,进而进行补贴设计达到利润最大,算法优化目标与用户诉求之间存在一定的偏差。

由此,算法推荐服务提供者作为我国算法治理体系的重要一环,对于算法的事前、事中监管意义重大。

沈华伟介绍,算法推荐服务提供者在算法上线应用前应进行算法安全自评估,排除可能存在的风险。目前,在技术发展和监管工具尚未成熟之前,实现对“黑箱”算法的有效监管还有一段路要走,算法安全评估可以作为算法治理的重要补充。

8月28日,在国家会展中心(天津),参会者在2022年中国网络文明大会现场拍摄展览。新华社记者 李然 摄

算法与人如何和谐相处?

论坛上,多位专家表示,当前我国发布的有关算法治理的指导意见和规定,事实上都是针对算法使用的“行为规范”而非技术底层。

在问题算法频现的当下,人与算法相处的过程中是否就要处于被动的位置?在我国算法治理的实践中,用户能否找到主动权?

刘晓春指出,《规定》中明确要求,“用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务”。“这让用户在算法服务当中的主动地位有了改善,意味着用户可以拥有不被算法选择、引导甚至裹挟的权利。”

刘祥龙认为,人与算法本质上是一种“委托”与“代理”的关系——用户将个人数据交给算法,委托其代理自己做出最佳的决定。但事实上,由于算法自身的技术门槛,用户是缺乏相应的技术鉴别能力的。“这就要求作为‘中间商’的算法服务提供方压实主体责任,践行社会价值,使算法数据更加透明公开,让用户产生信任感。”

此外,在算法系统性治理背景下,作为重要参与者的用户也要理性认知算法,既不畏惧技术,也不放松对算法的合理要求,与监管部门形成合力,推动从“算法选择”到“选择算法”的转变。

责任编辑:崔静涵校对:吴自强最后修改:
0
事业单位事业单位标识证书 京公网安备京公网安备 11010102001556号