我来决定你的网络内容?中国网络算法新规为治理还是为控制?



1/14/2022

2022114 06:04


资料照:中国北京的一位手机用户用智能手机上搜索网站百度


华盛顿 — 

中国政府将于3月开始施行针对计算机大数据算法的管理规定。这份指向性明显的法规旨在解决现实社会网络用户和从业者的权益问题,但其中措辞模糊的干涉性条款也反映了中国当局约束科技业自由发展、巩固国家管控科技力量的野心。

新规凸显哪些社会问题?

将从31日开始施行的新法是由中国国家互联网信息办公室等四部门出台的《互联网信息服务算法推荐管理规定》,对基于大数据算法技术的网络服务加以规范和限制。

算法(algorithm)是大数据管理与计算的重要组成部分,是计算机在计算和解决问题的操作中遵循的过程和规则。而“算法推荐”是指网络服务和平台运用大数据分析、向用户推送、精选、过滤信息的过程。

在大数据后台的算法助力下,亚马逊、阿里巴巴等购物网站通过分析消费者的浏览习惯推荐消费者可能喜欢的商品,YouTube、优酷等视频网站可以源源不绝地推荐用户可能感兴趣的影片;脸书、推特、微博等社交媒体按照个人账户的喜好,决定呈现哪些新闻条目、以及呈现的优先次序。

荷兰莱登大学现代中国研究助理教授、斯坦福大学网络政策中心“数字中国”(DigiChina)项目共同创办人罗吉尔·克里默斯(Rogier Creemers)说,对于大型的网络平台来说,算法不但无所不在,也是实现其功能的“秘密酱料”(secret sauce)。

克里默斯以中国视频分享程序抖音的海外版TikTok举例说:“TikTok的独到之处、之所以用户想用TikTok、商业组织也希望通过它做广告,在于TikTok善于将个人与消费机会联系起来。”

计算机算法通过处理海量数据的超人能力,除了在一定程度上改善众多用户的体验,也带来了用户使用沉迷、内容极端化等问题,一些人群的权益尤其受到影响——例如青少年、老年人、科技产业的底层打工者等。

因此有分析认为,中国的线上监管控制反应了线下的社会问题。

美国乔治城大学安全与新兴技术中心战略事务主任海伦·托纳(Helen Toner)说,中国这部法规的独特之处在于,中国政府希望让社交媒体和影音平台为如何向用户推荐信息的整个技术过程负责。

托纳对美国之音说:“他们(中国政府)试图要做的是去管控一个大型类的、被称作‘推荐系统’的人工智能系统。这类系统范围广泛,却很少受到媒体的关注和讨论。”

中国的新算法规定要求,网络平台在向未成年人、老年人、劳动者和消费者等用户提供算法推荐服务时,不得诱导未成年人沉迷网络、必须保障老年人安全使用算法推荐服务,并需要为“外卖小哥”这样的科技公司基层雇员“完善平台订单分配、报酬构成和支付、工作时间、奖惩机制”。

克里默斯说:“我们可以看到,在规定的最终版本中,有一些条款谈到了对老年人的保护。很明显,当你生活在一个银发族越来越多的社会里,老年人尤其容易受到各种与手机相关的欺诈、诈骗和不公平对待——当然这里不只限于老年人。关照老年群体不是件坏事。”

以老年人遭遇“网络陷阱”问题为例,当购物网站甄别出用户是老年人之后,基于算法的推荐功能可能会推测粗这一类用户的节俭心理而推荐价格低廉、以次充好的商品,一些预装的恶性软件将也常常被爆出窃取和倒卖用户的个人数据,侵犯老年人的隐私权和数据权。

中国互联网络信息中心发布的最新《中国互联网络发展状况统计报告》显示,中国60岁以上网民占总网民人数的12.2%,人数达1.23亿;艾媒研究院发布的《2021年中老年群体触网行为研究报告》显示,51%的中老年人每天平均上网时间超过4小时。

近年来,算法引发的社会问题在美国引发舆论关注。202110月,美国社交媒体巨头脸书公司的一位前员工向媒体透露,社交媒体巨头脸书的内部研究调查发现,旗下的图片分享产品Instagram的使用导致许多年轻女性用户焦虑、抑郁。《纽约邮报》报道说,脸书的调查还发现,Instagram上传播的有关极端瘦身方法的图片导致具有饮食紊乱问题的未成年人病症更加恶化。

托纳说:“在美国,我们看到,比如脸书、YouTube,相关的算法试图让用户一直停留在它们的网站上,让你点击,让你的眼睛锁定上面的新闻提要,这可能导致算法去推荐,在某些情况下,推荐会让用户变得激进的内容,如果用户容易受此类内容吸引的话。”

她说:“我认为美国的例子在媒体上得到了更广泛的讨论,我想中国正在看到类似的问题正在出现。我认为他们正试图解决其中的一些问题,并让平台以一种前所未有的方式为这类行为负责。”

莱登大学的克里默斯认为,中国政府清楚地意识到,他们遇到了与西方国家类似的网络空间导致的社会问题,但认定自己可以拿出一套比西方制度更有效的做法。

他说:“这部法规的的真正目标似乎是那些巨头、大型网络巨头,例如阿里巴巴腾讯。有意思的是,这些规定不是凭空而来的……他们的意义是重新平衡消费者和科技公司之间的关系。”

中国创新环境紧缩,“权力清单”越拉越长

对于人工智能技术的发展来说,数据是帮助计算机提升算法能力的关键资源。因为掌握了庞大数据资源,中国的人工智能行业曾被认为具备无与伦比的优势。有分析认为,随着政府对技术平台数据处理限制的不断加大,中国消费型科技企业的技术发展将受到严重制约。

即将生效的算法条例规定,算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。也就是说,用户有权要求技术平台停止分析和追踪个人信息,有权要求网络商家停止通过算法分析个人数据、以“先入为主”的既定印象向用户推荐商品和服务。

但批评者认为,科技企业并非执掌大数据算法技术的唯一主体——政府本身时时刻刻通过数字监控分析公民的个人信息、掌握百姓行踪,没有AI算法技术,“智慧城市”、“城市大脑”这样的数字化管理框架模式不可能实现,但政府如何使用算法却丝毫不受监管制约。

“中国技术威胁”(China Tech Threat)网站共同创办人、丹麦电信行业咨询公司Strand Consult高级副总裁罗斯林·莱顿(Roslyn Layton)通过电子邮件对美国之音说:“这些规则在某种程度上与欧洲算法政策的措辞相似,反映了政府的傲慢态度,即决策者可以调整算法以改善结果,例如保护消费者。通常,从商业角度来看,这些策略会降低算法的效率,并会降低终端用户得到的效用。”

莱顿还指出:“我只想问,谁会保护中国人民不受政府的伤害?监管者谁来监督?”她说:“要注意到的是,这类政策不适用于政府用来处理用户信息的算法。中国政府进行了大量的数据处理,但对公民没有任何保护。你无法选择不让政府处理(你的数据)。”

观察人士认为,中国对科技公司算法出台新规,是近年来加紧科技业管制的整体趋势的写照。

对于政府对新兴产业越来越多的介入,体制内人士也提出了谏言。据凤凰网报道,中国对外经贸大学法学院红天讲席教授、中国证监会原副主席高西庆去年12月在一场公开活动上说,对政府监管部门要有足够的制约,让市场对资源配置起决定性的作用。

他说,要限制政府的“权力清单”,也就是说“政府的监管部门所能做的事情要有个确定范围,不能想干什么就干什么”。

不过,中国政府的“权力清单”似乎越拉越长。去年,中国政府和官方统管的研究机构制定和下发了多项有关人工智能运用标准和规范的文件和指导意见要求。与此同时,官方对科技企业的打压也毫不手软。

20213月,中国信息通信研究院发起“可信人脸识别守护计划”;7月,信通院发布《可信人工智能白皮书》。

20219月,网信办等九部委下发《关于加强互联网信息服务算法综合治理的指导意见》;中国科技部也在去年9月发布《新一代人工智能伦理规范》;12月,“中央全面深化改革委员会”通过了中国科技部起草的《关于加强科技伦理治理的指导意见》。

而对于那些被官方认为过度支配市场、不符合安全标准、对主旋律弘扬不力的科技企业和社交媒体,中国政府更是直接出手,高调打压众多知名公司。

中国政府去年公开阻止了打车软件公司滴滴出行在美国纽约证券交易所上市,7月禁止滴滴注册新用户,下令其应用程序下架,并对其展开网络安全调查结束。另外,中国政府几乎全面取缔了网上课外教育和辅导行业,理由是希望降低学生负担、降低育儿成本。

去年9月,阿里巴巴因涉嫌垄断被处以182亿人民币的天价罚款。10月,外卖网站美团因类似罪名被处以34亿元的罚单。据《纽约时报》统计,从去年1月到11月,新浪微博共被处罚44次,电影和书评网站豆瓣被罚20次。

市场规模达近三千亿人民币的网络游戏行业也遭当局整顿。官方媒体去年8月痛批网络游戏是“精神鸦片”,政府同时发布命令,限制青少年的网络游戏时间。

习近平特色的科技强国路

华盛顿一家著名商业咨询公司的科技与地缘政治战略分析专家认为,对于中国政府来说,科技产业的利润是次要的,国家权力的巩固才是最主要的,这是中国科技创新和商业环境必须面临的挑战。

这位要求匿名的分析人士说:“正如你所知道的,中国并没有像欧洲和美国资本主义那样创造财富——不是我们假设的那样,以为创造财富是游戏的终点。国家主席习近平清楚,权力的积累才是最终目的,财富的积累只是权力的一种表现。”

莱登大学的克里默斯说,算法管理规则中的某些方面体现了习近平提出的“共同繁荣”理念,但也关乎中国共产党对于其执政稳固地位的安全考量。

他说:“(共同繁荣)的这一理念是要改变经济结构……现在有一部分人迅速富裕起来,该让其他人也变得富有了。当然,这里还有因素与保护中国共产党及其所掌政权的重大安全利益有关。在这份其实非常简短的文件中,你可以找到中国共产党试图实现的许多不同目标的种种例证。”

至于算法规定如何实施、如何影响科技企业运作,专家表示还需拭目以待。克里默斯说:“公司监管中的一个大问题一贯是如何去打开那个‘黑盒子’,因为公司往往不愿意让外人知道它们的黑盒子里有什么。涉及到算法,显然情况就更糟了,因为算法本身是公司的核心知识产权。问题是,(这部规定)对政府获取这一非常重要的知识产权意味着什么。”

(对华援助协会特别转载自美国之音)