厘清算法滥用的边界 九部门印发算法治理意见

时间:2021-09-30       来源: 网络整理

经济观察网记者 冯庆艳由算法引发的诸多乱象,终于有了专门的“紧箍咒”。

9月29日,临近国庆节,国家互联网信息办公室(下称“网信办”)等九部门联合印发了一则关于算法治理的指导意见,即《关于加强互联网信息服务算法综合治理的指导意见》。

“防范算法滥用风险。”意见中称,维护网络空间传播秩序、市场秩序和社会秩序,防止利用算法干扰社会舆论、打压竞争对手、侵害网民权益等行为,防范算法滥用带来意识形态、经济发展和社会管理等方面的风险隐患。

这让上海财经大学电子商务研究所执行所长崔丽丽看到,国家对互联网平台经济行业发展,进行规范、保持市场公平以及维护消费者正当权益的决心。“今后,平台算法不可以基于人性弱点或者根据消费者的特定特征来区别同样产品或服务的定价。”

“行业发展将更符合市场公平、科技向善和可持续发展的预期。”崔丽丽说。

算法乱象亟待治理

第一个有着算法意义的自动化推荐系统,最早是1994年美国明尼苏达大学研究组推出的,近年来,随着我国平台经济的繁荣成长,算法技术已经席卷了新闻资讯、社交、短视频、购物、餐饮、出行以及搜索引擎等各类APP,平台的用户和从业者均深切感触到其无处不在。

“算法是一种在有限的步骤中,生成问题答案或者解决方案的系统程序,在大数据时代之前就已经被广泛应用,但是在数字经济崛起之后得到广泛的使用。”与此同时,北京达晓律师事务所中国合伙人林蔚还看到,算法滥用行为已经对公民、市场、社会和意识形态等多个层面的利益或秩序,产生了较为严重的影响,并且有进一步发展的趋势。

林蔚告诉经济观察网记者,算法的滥用行为表现集中在平台对热点事件的刻意推动和引导,推送内容和检索结果的干预所带来的信息茧房,以及大数据杀熟,算法歧视等,这些行为破坏了网络空间传播秩序、社会秩序,数字经济的竞争秩序,不仅侵害了消费者的合法权益,和竞争者的利益,严重的甚至还危害了公共安全,给经济发展和社会管理等方面带来风险隐患。

“算法虽然是个新现象,但不要把其定义为有别于传统技术的一个特殊现象,”在上海交通大学安泰经济与管理学院教授黄少卿看来,它的一些特殊性在于意见中提及的“互联网信息服务算法”,即算法过程中,是和服务者本人或者服务的主体机构紧密相关的,它获得大量的消费者信息,或者数据作为前提。

滥用的边界何在

平台在算法运用当中,缘何陷入滥用的漩涡,其运用算法的边界何在?

黄少卿对经济观察网记者说,算法在一定程度上讲,属于企业技术范畴,或者甚至是企业商业机密,因为企业的算法给消费者提供了独特的价值,或者更加有效的服务,别的企业知道了就会模仿,这个很容易被抄袭。理论上有保密的内在要求,但算法现在的确有一种现象就是算法滥用风险。

崔丽丽也认为,算法作为企业核心机密信息是不予公开的。对算法的解读也需要相当的技术基础。

黄少卿看到,算法本质是一种技术,企业可以用一项技术来提高它的生产效率和服务效率,当然也可能会利用这项技术来形成自己的垄断或者是消费者能力。

“数据和算法是数字经济时代平台企业技术能力的集中体现,数据资产的多少和算法的优劣,会直接决定企业的竞争能力以及变现能力。”崔丽丽对经济观察网记者说。

“企业一旦掌握了大量消费者信息,就会有一些涉及到违背垄断和反不正当竞争,以及损害消费者权益的算法出现。”黄少卿说,比如网约车,平台知道这个点消费者需要用车,给出比较高的加价,这就把消费者剩余利益转移到提供服务的平台上去了,还有通过算法打压竞争对手的现象,平台上的司机想要转去其他平台,可能需付出更高代价。

黄少卿表示,区别于之前的生产者角度,平台经济是使用者角度,即平台上的用户越多,平台的效率就越高,这就必然会趋向于一个赢家通吃的现象,而这种现象其实就给平台滥用算法提供了可能性。

三年为期

至于意见明确的用三年左右时间,逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。

黄少卿看到,目前我国已经有一些相应的法律出台了,比如《网络安全法》《数据安全法》《个人信息保护法》等等,不过这中间有个司法的实践过程,这个过程也许两年,也许三年。

“算法治理意见称,用三年的时间来建立算法治理格局,已经是比较乐观的目标了。”林蔚说,“算法治理的难度很大。”因为,算法是执行平台意志的计算机程序,其外在形式是程序,其作用过程和决策机制都非常隐蔽,甚至不便于人类思维理解,类似“黑匣子”。

林蔚看到,目前对算法的监管的困难表现在,监管技术上的困难,法律依据上的滞后,和目前还未达成具体共识的算法伦理,以及多部门的协调。

“在此背景下,各国**开始尝试对算法进行监管,但也都在摸索和尝试之中。”林蔚称。

公开信息显示,欧盟在《通用数据保护条例》中规定“收集个人数据进行自动化决策时,应当向数据主体提供关于此类问题处理的逻辑及预期后果的有效信息”。

美国则在2019年4月发布了《算法问责法案(草案)》,其中显示,涉及相关算法影响评估的规定,要求衡量算法在设计和训练数据中,对准确性、公平性、偏见、歧视及对隐私和安全的影响。

落实到中国,林蔚认为,具体说来,治理工作首先要花时间摸清算法使用的现状,然后构建符合中国国情的算法伦理,最后建立有效的治理机制。

林蔚补充称,伦理原则的大方向是“对人类有益”,但在各类应用场景中,还有算法透明、公正诚信、内容向善等等细致要求。还要建立事前备案评估,事中监管,事后救济等多层次的监管体系。这些问题既专业又细致还交叉。每一项都需要花较大的力气。

崔丽丽也表示,难点可能主要包括,算法采用何种技术手段,可以实现既具有隐私特性,又可以实现技术手段的监管。

崔丽丽补充道,这其中可能是否采用常规性算法不当使用后果的抽检策略,还是从源头上进行控制?可能企业还需要有相应的人员配合,相关**部门也需要储备相应的技术力量,以及在此过程中对于难点问题的专家咨询和解决方案寻找……

黄少卿对经济观察网记者称,算法滥用的问题,涉及到传统意义上的反垄断和反不正当竞争,以及保护消费者权利,结合以上情况,要对算法进行监管,应该不偏离已经有的反垄断的法律框架,反不正当的法律框架和维护消费者权益的法律框架。

“意见的印发是个好消息,”黄少卿说,不过由于算法是个技术,很多东西是企业内部正当的经营活动,相关部门执法过程中需要谨慎,避免过度介入到企业的正常经营当中去。

林蔚看到,算法治理的意义重大。“首先我们要明确算法治理并不是要否定或拒绝算法,而是积极参与到算法纠偏的过程中来,联合多种力量对算法的运作过程进行监督。”

林蔚对记者表示,在拥抱技术,利用技术发展生产力和改善人民生活的同时,发挥算法的巨大“向善”潜力,塑造健康包容可持续的智慧社会,树立尊重人类尊严的价值理念,维护人类的自主性和多元性,维护人的基本权利,人类社会的基本秩序和市场经济的公平格局。

热门推荐
  1. NO.1 深圳拟立法规定国企选聘企业家可突破年龄国籍限制

    近日,《深圳经济特区企业国有资产监督管理条例(草案)》公开征求意见。

  2. NO.2 教育部公布2021-2022学年全国中小学生竞赛活动,36项赛事入选

    蓝鲸教育9月7日讯,今日,教育部办公厅发布通知,确定第五届全国青少年人工智能创新挑战赛”等36项竞赛活动为2021—2022学年面向中小学生的全国性竞赛活动,举办时间原则上为2022年8月前。通知指出

  3. NO.3 “东北多地停电”刷屏!手机没信号,红绿灯停运,为何多省史无前例同时拉闸限电?央媒说出真相

    9月26日,东北多地限电引发关注, 东三省用电高峰拉闸限电 、 国家电网客服回应东北多地限电 、 东北限电 等话题登上微博热搜。 据红星新闻报道,有网友表示,停电已持续了3天,并且时间越来越早,手机

  4. NO.4 湖北黄冈团风县淋山河镇党委书记张彩平被免职

    8月10日,据湖北黄冈市纪委监委消息:经团风县委研究并报黄冈市委组织部同意,免去张彩平同志团风县淋山河镇党委书记职务。张彩平先后任淋山河镇镇长、党委书记。据“黄冈发布”此前通报,8月8日,黄冈市团风县

  5. NO.5 多地“一刀切”加码限电限产 发改委完善能耗双控方案 解决能源消费管理难题

    《方案》的发布,增加了能耗双控制度的灵活性、合理性,能够更好地兼顾减碳与经济增长的平衡。 9月16日,国家发改委印发《完善能源消费强度和总量双控制度方案》(以下简称《方案》)。在过去十余年的时间里,能

  6. NO.6 扬州公安:南京女子隐瞒引发扬州疫情已被立案侦查

    原标题:南京女子隐瞒引发扬州疫情已被立案侦查2021年7月29日,我局依法对毛某宁(女,64岁,户籍地:南京市秦淮区,居住地:南京江宁区禄口街道)以涉嫌妨害传染病防治罪立案侦查。

  7. NO.7 湖北武汉多措并举 保障封控区居民正常生活

    央视网消息:8月8日,湖北全省新增新冠肺炎本土确诊病例3例,其中武汉市新增2例。眼下,湖北武汉也是采取严格的防控措施,当地多措并举,保障封控区域内的居民正常生活。在武汉市武昌区南湖街道华锦社区虹顶家园

  8. NO.8 43岁江华,当选玉溪市长

    据云报客户端消息,8月10日,玉溪市五届人大五次会议举行第二次全体会议,江华当选玉溪市人民政府市长。此番当选后,江华成目前全国地级市中第二年轻的市长。江华(资料图 图片来源:文明玉溪)据公开简历,江华