算法推荐是否会造成算法歧视?

如题所述

算法歧视不仅损害用户利益,更会激化社会的原有偏见。调研发现,新闻推送中的女性、老年人等弱势群体更容易受到人们的关注,有68.7%的受访者认为“女司机”“女大学生”等带有性别指向的词汇更容易上热搜,性别议题更易激起讨论。平台利用“用户画像”和“贴标签”区别个体、扁平化用户,强化现实生活中的刻板印象,可能引发社会舆论。
无处可逃的信息收集与“隐私威胁”。热播的黑色幽默短剧《大妈的世界》中有这样一段情节:广场舞大妈们正发愁买什么颜色的演出服,此时王大妈随口说了一句晚上吃西红柿炒蛋,并拜托杨大妈去接“熊猫班”的外孙,结果手机购物App就分别给她推送了红黄相间、黑白配色的衣服。平台以“偷听”的方式窃取数据用以计算用户的偏好,再“突袭式”地进行信息推荐,已引起普遍关注。调研中多位被访者表示,置身于平台与算法联手建立的系统中,被“偷听”已成“家常便饭”。很多企业、App、第三方机构在共享用户的个人信息之际,试图掌控更多的个人隐私。访谈中,不少用户表示,浏览器总能“记住”其搜索历史并且同步到其他设备上,在首页反复推送搜索过的同类内容,让人有一种“被泄密”的不安感。
基于收集个人信息的算法推荐服务带来的困扰不止于此。一方面,不当的推荐表现在“量”上,过多同质化的内容形成了信息冗余,容易使个体产生心理疲劳与隐私焦虑;另一方面,算法推荐的“度”也常常超出应该推荐的内容范围,色情、低俗等有违主流价值观的内容常常被置入开机页诱导用户点击。
被算法过滤与掌控的“渐进式依赖”。“平时吃饭、遛娃我都会找App上排序靠前的餐厅和游乐场”,31岁的二胎妈妈孙颖表示,依靠应用平台推荐虽然也“踩过雷”,但这样的选择对于她而言更省时省力。互联网时代,不少网民越来越多地将事物的优劣判断交给算法。算法凭借着“优先”“分类”“联想”“过滤”等机制在很大程度上建构了“人们在互联网上的感知与现实”。调查显示,超六成的受访者会根据平台的排名、评分等数据做出个人决策,尽管他们并不认同排名靠前的商品或内容一定是更好的。
调研还发现,不少提供算法推荐服务的平台,更是通过将相关内容放在突出位置、屏蔽其他平台链接等方式,实现“入口垄断”与“自我优待”。这些平台在热搜榜、首屏、弹窗等重点环节,通过设置关键词、定向推送等方式将特定内容推至榜单前列,暗中控制人们可关注的信息范围。72.1%的被访者认为平台会推荐与自身兴趣相似的内容。当人们习惯由平台供应信息时,有可能陷入算法设置的“过滤气泡”中,人委身成为数据的“附属品”,渐渐丧失接触多元信息的机会。
应对:
从“逃避”到“栖身”的用户生存之道
从对“大数据杀熟”的诟病,到对“信息茧房”的熟知,普通用户在强势的算法技术应用面前,不得不选择以妥协的方式忍受算法带来的种种问题。调查中,超过半数受访者表示自己意识到了平台或商家对个人信息的收集,但如果不勾选“用户知情同意书”,就无法使用软件所提供的功能。让渡隐私来换取服务,成为普通人与算法共存时“无奈而自洽”的心态。然而,在“受制于算法”的大多数情形之外,仍有不少用户选择同算法“斗智斗勇”,规避算法的消极影响。
善用“反追踪”策略的“数字隐身”。大学生高宇是社交平台的“重度用户”,在和算法推荐日复一日的相处中,她练就了一身“躲避”算法的本领:“我每次在首页刷到不想看的内容就会‘以迅雷不及掩耳之势’划过。”此外,她还在同一个社交平台注册了“小号”,“大号用来追逐热点资讯,小号用来发日常,这样不想看到相关内容的时候就有个地方可以‘躲’了”。
当下,身处各类默认设置协议中的普通个体,发展出多元的“算法回避”策略。他们或更换手机号码、建立多个账号,以此迷惑算法;或采取不点赞、不发表、不评论的方式,减少在互联网中的数字痕迹;或因不喜欢某些软件的推荐机制而选择关闭或停用,直至寻求到算法友好的替代性产品;或想办法关闭手机收音功能,从硬件设备端对可能的算法监听予以阻隔。这些方式呈现出共性的算法化生存之策——“断连”与“隐形”。然而,调研中许多用户表示虽然可以远离算法软件,却无法躲避算法思维的连锁反应。调查显示,只有54.9%的人认为这种逃避产生了效果,霸王条款、偷用隐私、强行定位等情况依然难以靠个体力量得到缓解。
“因地制宜”投喂算法的“反向规训”。依据算法情境“因地制宜”地制定使用策略,主动探究算法运作的规则与思维方式,通过意图鲜明的点赞、收藏、点击“不感兴趣”等行为设置自主偏好,甚至在感兴趣的帖子下留言称“大数据请记住我,多向我推送这样的(帖子)”……调研发现,部分用户选择以主动“喂养”的方式寻求与算法的相处之道。
其中,一度活跃于“饭圈”的“数据粉”就是依靠与算法的“你来我往”试图影响信息排序的一群人。“数据粉”群体通常通过组织信息点击和发布,对偶像的作品点赞、带话题转发等,提高相关内容的热度,从而影响算法,令与偶像相关的内容跻身更显著的位置,高调抢占大众注意力。
借算法平台谋取红利的“栖身式共存”。“以前我只选感兴趣的内容创作,但有一次偶然剪辑制作了一部爆款影视剧介绍,流量特别好,自此以后我开始琢磨怎么才能更火。”余家豪是一名业余的视频网站内容创作者,受和他类似感受的牵引,越来越多的MCN(多频道网络)及自媒体创作者全心“栖身”于算法主导的内容世界,迎合代码规则、抓住流量密码、实现商业变现,构成了算法化生存的另一种模式。调研中,在“是否主动迎合推荐机制发布内容”的回答中,选择“是”的比重超过三分之二。调研也发现,部分内容生产者不惜使用“三俗内容”“打擦边球”等方式迎合算法准则。
温馨提示:答案为网友推荐,仅供参考
相似回答
大家正在搜