给“算法应用(yòng)”立规矩

        保护个人信息，护航数字经济发展

　　给“算法应用(yòng)”立规矩

　　使用(yòng)某个应用(yòng)程序后，它就能(néng)“猜”到你喜欢什么，并且精准推送相关内容，滋生“信息茧房”、大数据“杀熟”等问题。这样的情况最近终于开始有(yǒu)了改变。随着國(guó)家网信办等4部门联合发布的《互联网信息服務(wù)算法推荐管理(lǐ)规定》近日正式施行，很(hěn)多(duō)APP先后上線(xiàn)算法关闭键，允许用(yòng)户在后台一键关闭“个性化推荐”。专家表示，要继续压实平台责任，促进算法应用(yòng)向上向善，让算法更好地為(wèi)用(yòng)户服務(wù)，推动信息服務(wù)行业長(cháng)遠(yuǎn)、健康发展。

　　可(kě)一键关闭“个性化推荐”

　　通过参考互联网上的“攻略”，北京的王女士最近终于将一款社交应用(yòng)中的“个性化推荐”服務(wù)选项关闭，“再打开这个APP，感觉安心不少”。

　　王女士之所以下决心关掉“个性化推荐”服務(wù)，源于此前遇到的一些糟心经历。她在这款应用(yòng)里曾发表过皮肤干燥的言论，此后便在各个平台不断收到面部“保鲜”秘笈的文(wén)章、美容产品的推销广告，让王女士不堪其扰。

　　在移动互联网时代，每一个人都在生产“数据”。此前，这些“数据”被平台以各种方式采集，然后通过算法分(fēn)析出用(yòng)户行為(wèi)、习惯和喜好，进而精准地提供信息、娱乐、消费等各类服務(wù)。这种基于算法的技术创新(xīn)在為(wèi)用(yòng)户提供精准信息服務(wù)的同时，也滋生出不少问题。

　　《互联网信息服務(wù)算法推荐管理(lǐ)规定》（以下简称《管理(lǐ)规定》）近日正式施行，将算法推荐服務(wù)全面纳入监管。《管理(lǐ)规定》提出，算法推荐服務(wù)提供者应当向用(yòng)户提供不针对其个人特征的选项，或者向用(yòng)户提供便捷的关闭算法推荐服務(wù)的选项。

　　《管理(lǐ)规定》出台后，多(duō)家平台先后上線(xiàn)算法关闭键，允许用(yòng)户在后台一键关闭“个性化推荐”。用(yòng)户关闭“个性化推荐”后，平台会根据内容的热门程度进行分(fēn)发，推送内容更加體(tǐ)现应用(yòng)特色。很(hěn)多(duō)网友表示，以前总是被“安排”看一些内容，关闭“个性化推荐”后，感觉看到了更广阔的世界。

　　记者在體(tǐ)验后发现，目前多(duō)数APP还是默认打开“个性化推荐”，要找到“个性化推荐”关闭键并不太容易。以一款電(diàn)商(shāng)应用(yòng)為(wèi)例，需先后点击进入数个页面，然后在呈现的10多(duō)个选项里找到“个性化推荐”的关闭按钮。有(yǒu)用(yòng)户认為(wèi)，这样的设置方式难言“便捷”，其目的是让用(yòng)户“知难而退”。

　　关闭个性化推荐，是否意味着算法推荐技术走到尽头？中國(guó)人民(mín)大學(xué)信息學(xué)院教授程絮森分(fēn)析，随着新(xīn)规实施，如何使个性化推荐更加规范，是很(hěn)大的挑战，但也相应促进了各互联网平台的技术发展进步，有(yǒu)利于加速推进相关行业的数字化转型与平台经济的健康发展。

　　合力推动产品向善

　　同样的订单，熟客比新(xīn)客多(duō)付钱，被用(yòng)户质疑平台利用(yòng)算法模型进行大数据“杀熟”。《管理(lǐ)规定》提出，算法推荐服務(wù)提供者向消费者销售商(shāng)品或者提供服務(wù)的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用(yòng)算法在交易价格等交易条件上实施不合理(lǐ)的差别待遇等违法行為(wèi)。

　　中國(guó)信息安全研究院副院長(cháng)左晓栋认為(wèi)，大数据“杀熟”等顽疾归根结底是滥用(yòng)用(yòng)户个人信息导致的。解决这类问题首先要在治理(lǐ)违法违规收集用(yòng)户个人信息上下功夫，其次要保障用(yòng)户的选择权、删除权等权益。

　　“刷短视频、玩游戏的时候，没感觉时间过得很(hěn)快，但每次放下手机，发现已经几个小(xiǎo)时过去了。”在上海一家企业工作的陈先生感慨，每次拿(ná)起手机娱乐时，感觉像中毒一样停不下来。另有(yǒu)不少网友抱怨，当自己反复浏览某件商(shāng)品时，平台就会显示一连串促销优惠信息，很(hěn)多(duō)人因此盲目下单。

　　《管理(lǐ)规定》提出，算法推荐服務(wù)提供者应当定期审核、评估、验证算法机制机理(lǐ)、模型、数据和应用(yòng)结果等，不得设置诱导用(yòng)户沉迷、过度消费等违反法律法规或者违背伦理(lǐ)道德的算法模型。

　　北京大學(xué)中國(guó)社会与发展研究中心主任邱泽奇对记者说，社会學(xué)把人们偏好的内容區(qū)分(fēn)為(wèi)两个理(lǐ)想类型，一类是理(lǐ)性的，类似于对人对事物(wù)的观点，这种对“自我”的偏好是人类认知偏好的一部分(fēn)，容易形成“信息茧房”效应或“回音壁”效应；另一类是感性的，类似于对人对事物(wù)的情感，人们在情感上容易受到他(tā)人的感染，易产生“情绪传染”效应。

　　邱泽奇认為(wèi)，在数字时代，诸多(duō)产品都是动态产品，需要根据交互数据对产品不断进行优化迭代，通过产品升级、算法升级以满足用(yòng)户需求。基于人类认知偏好的复杂性，企业除了承担产品责任，还要承担起相应社会责任，把用(yòng)户纳入产品的开发、生产与服務(wù)中，通过政府、企业和用(yòng)户共同参与、建立相应规则，不断推动产品向善、科(kē)技向善。

　　实现负责任的创新(xīn)

　　近年来，一些企业利用(yòng)算法注册虚假账号、雇佣网络“水军”，鼓动“饭圈”粉丝互撕谩骂、刷量控评；操纵干预热搜、榜单或检索结果排序；向未成年人推送不良内容……针对这些问题，《管理(lǐ)规定》提出“建立健全算法机制机理(lǐ)审核、科(kē)技伦理(lǐ)审查、用(yòng)户注册、信息发布审核等管理(lǐ)制度”“提供算法推荐服務(wù)，应当遵守法律法规，尊重社会公德和伦理(lǐ)，遵守商(shāng)业道德和职业道德”等措施。

　　从更深层意义看，因算法技术创新(xīn)而衍生的一系列问题涉及科(kē)技伦理(lǐ)。中共中央办公厅、國(guó)務(wù)院办公厅近日印发的《关于加强科(kē)技伦理(lǐ)治理(lǐ)的意见》提出，加强源头治理(lǐ)，注重预防，将科(kē)技伦理(lǐ)要求贯穿科(kē)學(xué)研究、技术开发等科(kē)技活动全过程，促进科(kē)技活动与科(kē)技伦理(lǐ)协调发展、良性互动，实现负责任的创新(xīn)。

　　中國(guó)社科(kē)院信息化研究中心主任姜奇平表示，从技术创新(xīn)层面看，应推动算法技术回到正常轨道，比如单纯基于人们的偏好推荐阅读内容，错误之处在于对人的理(lǐ)解不足，把人理(lǐ)解成机器，没有(yǒu)考虑到人还具有(yǒu)自由意志(zhì)。从价值伦理(lǐ)层面看，哲學(xué)上的善和伦理(lǐ)的本质都源于自由意志(zhì)，因此应该在技术创新(xīn)过程中把人之為(wèi)人的一面、人和人的关系摆进技术里考虑。

　　专家认為(wèi)，数字时代的算法技术创新(xīn)应是一种负责任的创新(xīn)，要进一步压实平台责任，确保科(kē)技活动符合科(kē)技伦理(lǐ)。只有(yǒu)坚持把消费者对信息服務(wù)的评判权置于采集权之上，才能(néng)更好把握个性化信息服務(wù)业态的发展方向，促进数字经济高质量发展。（记者 彭训文(wén)）