智能陷阱 你的思想被谁控制?

发布于 2021-04-09  462 次阅读


世界上只有两种行业会将顾客称为使用者:那就是“违禁药品”和“社交媒体”。

你是否有这样的经历,拿起手机只是想回个微信,却不自觉地点开朋友圈,放下手机时,已经过去了半个小时。

明明只是在微博发送了一张图片,打开某橙色软件后,首页上赫然推荐了图中的商品。

你在聊天软件中说想唱歌,打开某黄色软件后在搜索栏出现了附近的KTV。

这些场景看似稀松平常,但身处其中的你,可能并为察觉,自己已经身处社交媒体的“智能陷阱[Smart Trap]”。

我们为什么离不开手机,各种APP是如何让人上瘾的?社交平台又如何做到监控并操纵我们的生活?阴谋论盛行的背后,是谁在助推?信息裸奔的时代,制造一个27亿人的楚门世界(True Men’s World)有多么容易?

我们已经从信息时代过渡到了虚假信息时代,我们所创造的工具,已经开始逐渐侵蚀社会正常运转的社交纽带。

虚假新闻、信息茧房、群体极化、民主崩坏、内部冲突爆发,这些听起来危言耸听的词语,真的是社交网络会带给我们的么?

一、监视资本主义

前谷歌设计理论学家、人文技术中心联合创始人特里斯坦·哈里斯注意到,在设计「谷歌邮箱」时,似乎所有人都不是想办法简单操作,优化功能,将邮箱打造成一个纯粹的交流工具,而是在考虑如何让用户更多地使用产品,让它更「致瘾」,吸引用户一次又一次地进行点击,不断地打开各种功能。

其实,工程师们的设计是基于一种「注意力经济」的商业模式。从表面上看,许多网上的服务是免费的,似乎是在做慈善,其实不然。软件背后是各大广告商在付钱,而软件出卖的正式用户的「注意力」。对于这一模式,最经典的看法是「如果用户没有付钱,那么用户就是商品」。如果你去找一个人,你说:“给我一千万,我会让世界往你希望的方向改变1%。是整个世界!这很神奇,值很多钱!”

哈佛商学院名誉教授、《监视资本主义时代》作者「肖珊娜·祖波夫」曾说;“通过成瘾设计,让用户沉迷于产品之内,并用设计细微地改变用户的行为,满足广告商的意图,这是每种商业都抑制梦想的,就是每投放一个广告,有一定能够成功的保证。”

「亚瑟·克拉克」曾说:“任何足够先进的技术,都及其类似于魔术。”

魔术师可能是最早的心理学家,他们懂得操控你自己都没有注意到的潜意识信息,从而来营造「奇迹」。

社交软件工程师也是同理,如果他想去修改用户的行为,想让你不停地用手指下划,那就增加「下拉刷新」的功能。「下拉」、「刷新」,并不断获取新信息,这在心理学上被称为「正积极强化(Positively Strengthening)」。同样的小手段还有很多,但他们的目的都是相同的,那就是让你在软件中待得更久一点,再久一点……

 Facebook前运营经理、Uber前产品经理「桑迪·帕拉吉拉斯」谈论“操纵”时说:“你让我感觉自己像是实验室的小白鼠,你就是小白鼠,我们所有人都是。我们和开发致郁癌症药物的实验室小白鼠又不一样,这些实验的最终受益人不是我们。我们就像是僵尸一样,他们就是想让我们看更多的广告,从而让他们赚更多的钱。”

不知道你有没有注意到,如果长期没有使用一款社交软件,他就会隔三差五地给你推送特别诱人的信息,比如某著名「PDD」软件,会通过一系列渠道向你推送「XXX好友领取了大额红包」、「只差你一个人,千元现金就能提现」、「恭喜您获得免单机会」……直到你点开它。

它之所以这样做,最终目的就是让你吧时间投入到软件中,看其中的广告,转跳购买,以及让你成为它的「每日活跃用户」,并抬高公司的股价。

我们已经走过了以工具为基础的技术环境,来到了以致瘾和操纵为基础的技术环境。

在2020网飞高分纪录片《监视资本主义:智能陷阱》中有这样一个模拟情景,展示了一个家庭中,作为「社交媒体重度用户」的孩子们的情况。

一天,晚餐时间,本的妈妈提议为了更好地享用美食,大家都将手机上交,放到一个带锁的盒子里,只有当一小时的倒计时结束时,保险箱才会打开。

但是,这个举动并没有使原本沉闷的用餐气氛活跃起来。

手机推送过来一条消息,本的妹妹不能等待了,想去取回手机。

由于妈妈锁住了盒子,本的妹妹一气之下便砸坏了盒子,同时也砸坏了本的手机屏幕。本的妈妈承诺,如果本可以一周不碰手机,就给他买新的。本答应了。

本的妹妹回房间发了一张自拍,却只获得了两个赞。随后她将照片删除,重新加了很重的滤镜。

这一次,她如愿以偿地获得了很多赞美与评价,但随后的一条称她的耳朵太大,还加了一个大象表情以表嘲讽。

敏感的她默默用头发吧耳朵藏在后面,面对镜子,独自落泪。

二、Z时代

Z时代,也就是这些1995年到2009年之间出生的孩子们,是第一代从初中甚至更早就开始接触并使用社交媒体的人群。他们将情感寄托于网络中,不懂得处理现实中的情绪。可是,又因为极易受别人负面评价的影响,导致他们有变得更加焦虑、脆弱和抑郁的倾向,更可怕的是,自杀率也呈现相同的趋势。

大一点的少女(15-19岁)自杀率比起本世纪初增长了70%,青春期前的少女最开始自杀率非常低,但现在也突然增长了151%。这个自杀率的增长模型,正好匹配了社交媒体的影响。

因为社交媒体的出现,现在的青少年们在自我认知上更倾向于否定自己。

作为脸书与谷歌的前工程师,Asana的联合创始人,也是「点赞」功能的发明人,「贾斯汀·罗森斯坦」在接受采访时表示:“这个按钮的设计初衷是为了让网民能感受、传播和分享更多的爱,并没有预料到它会成为很多人否定自己的源头。”值得反思的是,虽然群居的人类进化了,「在意其他人如何看待自己」的机制并没有发生明显改变,人类也在这种机制下相安无事地生存了这么多年。

但在现实生活中,人们的朋友数量是很少的,并不需要像在社交媒体中一样,在意「毫不相干的一万个人怎么看自己」,也不需要每隔五分钟就获得一次社交认同。

社交媒体背后的「人工智能们」在想方设法地通过结合数据模型,分析出最能吸引你的信息,推送出去。在算法与人类自制力的对抗中,似乎总是算法获胜。

「兰迪玛·费尔南多」接受采访表示:“自上世纪60年代以来,计算机处理能力呈指数级增长,并持续增长了万亿倍,而人类大脑还基本保留着原始的水平。”

在这场对赌中,或许从一开始就注定了结局。

在强大的算法面前,人类的思维很容易被影响,而真正可怕的是,算法看似善意地为用户着想推送「用户喜欢的内容」,但在不知不觉中,它已经为每个人制造了一个「茧房」。在这个茧房中,没有真实的世界,只有你喜欢的,或者说算法想要你看到的世界。

三、信息茧房

曾经你以为,网络包罗万象,足不出户就能体会多元文化,但其实,一不留意他就会给你建起一堵墙,让你的视野比以往任何时候都更加狭隘。

可能很多人都看过《楚门的世界》,其中的真人秀导演耗费了大量人力物力,建造了一个全世界最大的摄影棚,让主角相信自己所在世界的真实性。

但如今,社交媒体轻而易举就能做到为每个人单独创造一个「世界」。

-「你觉得楚门为什么到现在都从来没有接近,或者发现他所在世界的真实本质?」

-「我们接受了,呈现在我们面前的世界就是现实,就这么简单。」

软件的「投其所好」让我们只能接受到我们原本就认同的信息,长此以往,大家很容易变得更加固执和偏激。

我们每个人都有属于自己的「信息茧房」,但软件所做的不止如此,它会在庞大的社交网络样本中,找到与你行为模式相似的人,并用算法和推送让你们「偶遇」、「抱团」。当有一天,你发现目之所及的网友都支持你,而他们的观点也都是你所认同的,这时,就要警惕起来了,因为那可能并不是健康的网络环境,它很可能正在演变为可怕的「群体极化」现象。

四、群体极化

一旦「极化」的几个群体观点对立,势力又分布不均,就很容易形成「沉默的螺旋」,优势的一方声势越来越浩大,其他声音渐渐被淹没,直到再也听不到任何反对的声音。

过程中,优势方的成员也容易产生盲目自信,久而久之,他们会更加拒绝理解与之相悖的观点。

此外,群体极化还会刺激「阴谋论」的盛行。

一直以来,莫须有的「阴谋论」就是普罗大众茶余饭后的上好谈资。如果说,在口口相传的古代尚且有「三人成虎」,那可想而知,步入5G时代的我们,多么容易接收到「虚假信息」。

根据第三人效果,人们脑中有一种普遍的感知定势,倾向于认为那些「不好」的信息不会对「你」「我」产生多大影响,但对「他人」会产生不可估量的影响。也就是说,面对一个谎言,自己和他人不会受到太大的影响,「傻」的都是与自己不相干的人。但其实,这个想法是很危险的。

美国就曾有过「披萨门」的阴谋论,2016年大选,希拉里对战特朗普,在最终选举前,一位黑客窃取了「希拉里竞选主席」约翰的邮箱,并根据其邮件内容,脑补了一出关于政客们和披萨店的「黑暗交易」。

他们解读了邮件里的很多词语,「芝士披萨(Cheese Pizza)」缩写是CP,人们拆开分析,认为芝士披萨,指的是「儿童色情(Child Pornography)」,甚至有人开始相信,披萨就是性侵儿童的行话。

编造者们不愿意相信邮件中那些「我们要给竞选志愿者买披萨」指的只是表面意思,于是融入了含有主观偏见的想象桥段,再加上人类在认知过程中天然有「合取谬误」的作用,很多人相信了「披萨」就代表了「拐卖儿童」。最终一定程度上导致2016年选举的天平向特朗普倾斜。

虽然脸书的创始人「扎克伯格」极力否认脸书对竞选结果的影响,但我们确实应该看到社交媒体在该领域中发挥的特殊作用。

有一项调查研究表明,近年来,在美国成年人群体中,个人和政治两极分化达到20年来最高,比任何时候都要分裂,他们之间没有求同存异,只有党同伐异。通常的分布应该是持中间观点的人最多,但近些年的变化趋势明显是往两边极化了。

“问题是制造了两个对立面,丝毫不在听取对方的观点,不再想听对方的观点,不再相信对方,这使仇恨被暴露出,并转化成种族暴力。如果继续这样割裂下去,会发生什么,将不堪设想。”

五、进步&进化

活在似是而非、不辨真假的世界里可怕么?确实可怕。这代表技术进步是错的吗?也不尽然。现实中的批判者们并没有在一昧抵制技术进步,或是说,正式因为他们对「技术」抱有更多美好的想象,才会反思该怎样更好地利用它们来造福人类社会。是批判者驱动着改进,批判者才是真正的乐观主义者。

不过,对于我们到底能做些什么呢?从源头上看,公司应该对产品加入人道主义设计,并停止「提取用户信息,建立数据模型」的做法。但是很容易想到,如果只有一个平台停止提取用户模型,其他平台照旧,那最可能的后果就是这个「有道德的平台」会被当成「傻子」,没多久就会被「业绩更好」「更有优势」的公司啃食殆尽。

但是,让全部的公司突然醒悟更加是几乎不可能的事情,因此我们也只能在用户这边给予建议,比如「少玩手机」、「关注不同的声音」、「冲出信息茧房」,还有就是「少看平台推送」和「自主搜索需要的内容」。

不过,可惜的是,手机里的软件是根据人类的天性设计的,而「少玩手机」和「听反对的声音」这些都是基于人类的理性和自律,根据过去的教训,能够用自律战胜天性的人总是很少的。

当今时代,人类的主要媒体形式「由文字变为图形」。「尼尔·波兹曼」在《娱乐至死》中说到“让人们就这么放弃电视是不可能的,而许多人也试图通过电视的途径让人们认识到看电视是不对的,这件事本身就非常讽刺。唯一可行的方法是,只有人们深刻而持久地意识到信息的结构和效应,消除对媒体的神秘感,人们才有可能对电视或电脑或任何其他媒介获得某种程度的控制。”表明了他对「电视娱乐化统治」非常无奈,并认为「让人们就这么放弃电视是不可能的」。随后他提出了两个解决方案,第一个就是制作一档「教人们怎样正确看电视的电视节目」,第二个则是「通过学校教育来纠正」,但用他自己的话说,前一个是「已遭否决的无稽之谈」,而后一个「希望渺茫」。

情况如此相似,现在正在看这篇文章或这部纪录片的你我,即使知道了社交困境背后的可怕原理,也还是会不自觉地受其影响。未来的挑战不容乐观,不过,这些都是必须接受的现实,坐以待毙只会让情况更糟。

但现在我们所能做的,也就是从「意识到」开始,时刻审视自己、警惕周围,将社交媒体暗藏的不良影响变得小一些,再小一些,怀抱希望,直到人类的智慧可以解决这种「社交困境」的那一天。

毕竟,未来会发生什么,谁又能知道呢?

部分截图内容来自纪录片《监视资本主义:社交困境》

部分文字内容来自木鱼水心《你我都是商品!一个没人能逃脱的「智能陷阱」》


真正无穷的自由,会包容你所有的思念