网信办等4部门规范管理算法推荐 未来算法产业方向明朗

钱玉娟2022-01-04 22:58

经济兴发网  记者  钱玉娟 1月4日上午,网信中国公众号信息显示,国家互联网信息办公室会同工业和信息化部、公安部、国家市场监督管理总局,于近日联合发布了《互联网信息服务算法推荐管理规定》(以下简称《规定》),自2022年3月1日起施行。

对于《规定》出台的背景,国家互联网信息办公室有关负责人表示,算法应用日益普及深化,在给经济社会发展注入新动能的同时,算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题,也深刻影响着正常的传播秩序、市场秩序和社会秩序,给维护意识形态安全、社会公平公正和网民合法权益带来挑战。

《规定》明确了不得利用算法推荐服务从事违法活动或者传播违法信息,应当采取措施防范和抵制传播不良信息;规范开展互联网新闻信息服务,不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息;不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为等。

在通览《规定》细则后,深入关注互联网产业的北京市盈科(深圳)律师事务所股权高级合伙人朱逸聪认为,继《网络安全法》《数据安全法》《个人信息保护法》颁布后,《规定》又是一个与数据相关且具有里程碑意义的法律法规,“该规定将会对以算法驱动的公司产生巨大影响,如短视频、网约车、新闻、外卖平台等信息服务公司。”

算法也需监管

正如国家互联网信息办公室有关负责人所言,针对算法推荐制定的《规定》,明确了算法推荐服务提供者的主体责任。

“有非常多算法推荐服务类的企业需要进一步合规化。”北京高勤律师事务所合伙人王源看到,《规定》中不仅强调算法安全主体的责任机制,还在算法伦理方面加以明确,“不得设置诱导用户沉迷、过度消费等,违反法律法规或者违背伦理道德的算法模型”。

从互联网到移动互联网,人类迈入大数据时代背后的技术进步是毋庸置疑的,但数字经济智库高级研究员胡麒牧发现,基于数据信息、技术能力,算法推荐确实容易直达消费者,精准满足用户需求,但对于信息接收者来说,“定向推送很容易形成信息茧房,干扰了信息的正常传播,侵犯了消费者的信息选择权,出现舆情时也容易放大负面情绪”。

朱逸聪就向记者回溯起一些典型事件,像2018年“蔡徐坤一条微博转发量过亿”引发的流量造假事件,以及2019年6月操纵该事件的幕后推手“星援”APP被查。“大数据时代的‘流量造假’、‘过度推荐’、及‘操纵榜单’等现象,已经对公众造成影响。”他看到,《规定》对上述行为都作出了明确规范,如不得实施流量造假,不得操纵搜索结果等;且建立了算法分类分级管理和算法备案制,意在有针对性地对算法推荐领域的乱象进行监管,并全面规范各类算法推荐活动。

“互联网不是无法之境。”长期从事数据治理工作的王昭彧,在接受记者采访时认为,《规定》正是站在公共利益的角度上,就算法背后的规则,针对一些平台、科技企业使用算法推荐逻辑,实现垄断、窃取个人隐私,歧视对待用户、信息茧房等意图获取利润的行为,予以监管。

在王昭彧看来,如果科技不能向善,算法一旦成为企业谋利的工具,结局一定是大多数人的利益受损,基于此,算法理应被有效且强监管。

有法约束“大数据杀熟”

就算法推荐的过程,独立经济学家王赤坤将其大致分为五步骤,“信息收集、信息分析、信息匹配、推荐、杀熟。”他举例:一个人经常出差深圳、上海等地,过程中需要订机票、酒店、打车、吃饭,不仅始发地和目的地等位置信息、出行信息和交易信息等会被算法清晰准确地记录下来,甚至还包括了工作收入、生活习惯、消费水平、兴趣爱好等个人信息,如此一来,算法对人进行用户画像和标签匹配,而相关科技企业、平台便可以进一步锁定,进行航班、酒店等出行、就餐类的产品、服务推荐。

王赤坤还对“杀熟”这一步骤加以分析,“相关平台锁定用户的相关需求信息,针对刚需和必需,让其做被动选择和有限选择,商家往往掌握着主动权和定价权。”

同一送达地址,同一外卖商家,不同用户订外卖的价格却不同。朱逸聪深度兴发发现,“大数据杀熟”所涉及的场景不仅有外卖,还有网购、酒店、出行等。

近年来相关问题频发,也常见诸报道中,但王赤坤觉得,相关平台因其信息和专业优势,在确认责任时,往往形成规避,让消费者变得被动。特别是一些消费者在遭遇大数据杀熟时,取证难度较大,造成后续维权难度增大,不少消费者觉得“得不偿失”,最终选择了放弃。

采访中,朱逸聪强调,现《规定》明确禁止“大数据杀熟”,若有平台再实施该行为即属违法。不过,他还补充到,“杀熟”行为往往披着差异化营销、不同折扣的外衣,如何进行有效判定,仍将是落实《规定》的一大重点。

指明产业方向

对于算法,人们往往为之添加上一个“聪明”的形容词,不少平台基于算法能力的提升,抓住用户喜好的内容、服务需求,进行推送,在满足用户需求的同时抓住用户粘性,扩展用户数量等。

王源就表示,基于算法推荐进行的内容推广、广告营销,已经成为了互联网行业的一个盈利模式。而在《规定》发布前后,已经有不少平台做出了调整,用户可选择关闭算法推荐。

一位快手平台内部人士告诉经济兴发网记者,快手APP于2021年11月时就更新了“关闭算法推荐”选项按钮。而今日头条相关负责人也在截稿前回应表示,“头条将认真落实相关规定,目前在APP中已提供了关闭个性化推荐选项。”

胡麒牧认为,《规定》一方面保障了消费者的信息选择权,另外对于相关算法推荐服务类平台提出了新的要求,“它们应该多利用智能算法去识别非法信息,净化网络环境”。

在《规定》中,特别对防止未成年人沉迷网络作出规定,朱逸聪指出,“该规定较为概括,需要网络服务提供者共同参与细化,同时也为日后执法机关的执法留出足够的空间。”

任何行业都有其生命周期且遵循一定的发展规律,大多是市场发展在前,法律规范在后。在王赤坤看来,过去的算法市场,并没有针对部分模式、行为的法律监管出现,“无法可依”。他将当下的算法推荐行业视为“成长阶段”,这一阶段乱象不可避免地发生,而《规定》及时发布,则有利于规范市场有序发展。

采访中,有观点认为《规定》出台,犹如为滥用算法的行为加了一个“紧箍咒”。对此,朱逸聪也认为,《规定》出台将对平台数据及算法权力滥用形成有力规制,增加算法推荐的公开透明度,保障用户知情权;同时还可以有效地遏制以“流量为王”的恶性竞争之下的不良风气,维护法律及公序良俗,倡导主流价值导向。

不过,谈及《规定》对产业界的影响,尤其之于算法市场,是否意味着要“戴着镣铐起舞”?有采访对象予以认同,但朱逸聪不这么觉得,“更像是指明了方向”。朱逸聪表示,立法在前,往往比企业无序增长后,再用严厉的法规去纠正,“对企业及产业发展造成的影响要少得多”。

特别是立足当下来看,目前算法推荐类相关的企业,还没有受到十分严厉的处罚,在此基础上,《规定》出台,朱逸聪认为,可以先给产业界在立法层面加以引导,以避免后续发展过程中产生大问题,有助于产业的整体健康发展。

版权声明:以上内容为《经济兴发报》社原创作品,版权归《经济兴发报》社所有。未经《经济兴发报》社授权,严禁转载或镜像,否则将依法追究相关行为主体的法律责任。版权合作请致电:【010-60910566-1260】。
TMT新闻部记者
长期关注并报道TMT领域的重大事件,时刻保持新闻敏感,发现前沿趋势。擅长企业模式、人物专访及行业深度报道。
重要新闻线索可联系qianyujuan@eeo.com.cn
微信号:EstherQ138279