猜你喜欢
剧照
详细剧情
长篇影评
1 ) 你听得到
更新：刚发现，《黑袍纠察队》第二季第七集片头与该片主旨严重契合。
——————————————————————
首先，影片制作本身，在嘉宾谈论之外加入情景剧、拟人演绎、动画演示，太炸了（27/06/2022 我发现每每重看自己的文章，有时总能让人忍俊不禁，尴尬无比。但其实，我是不想修改的，这就是当时较为真实的状况），最后那个类似《水滴》拉伸镜头展现出来电子大脑的结点囚牢让人原地炸裂。人们一步步被控制得死死的，身处现实世界越来越看不清，而在虚拟囚牢里却越来越真实。（囚牢里的男主从一开始全身透明的人类形体，一点一点被“充实”显现，到最后完全坠入，像行尸走肉） 其次，说回影片主旨，当下的各类社交媒体，包括“豆瓣”本身，在此风暴下，又何尝不是与“视觉文化”以来，居伊·德波的“景观社会”达到一种严丝合缝的契合。人们“自甘堕落”。
人类必将在自我发展中自我毁灭。图片时代更替了文字时代，影像时代更替了图文时代，发展的同时也是毁灭。事物存在的前提与事物所需之发展相悖，太多了，存在即悖论。
个人而言，少用手机，甚至不想用，但是大家都要用，我也就被裹挟。举个最简单的例子：现在你让上司通过短信（再“离谱”的方式我就不多说了）联系你那是不可能的，你也不可能同时与多人通过短信即时相互交流和沟通。
但，“景观社会”最核心的一点是什么？它是怎么存在的以及如何发展壮大的？它的基础是目前所处的影像时代，以各大社交媒体为平台，我们消费和得到的是别人的关注。我们不再只是购买和拥有，我们更多从“拥有”转向了“展示”。所以，我本人手机里东西尽量少，朋友圈不咋看（我的朋友圈也尽量小），我自己也越来越少发东西，也确实没意思，甚至怕别人给我点赞。因为，I don't give a shit. （27/06/2022 我想当时可能是美剧看多了）我并不在意别人怎么看以及如何看我的东西，我一直觉得是，你看不看、怎么看这是你的事，与我无关。但同时我也很清楚，所有人在点赞和评论时，第一，要么是认为对方是在意你这一下的（比如一些秀智商的评论）；第二，要么是自己在意这一下的（比如一些秀智商的评论）；第三，要么是真心喜欢和认同的。以上几点，虽然会有大相径庭，但其实有一个共同的核心——渴望被看到被（去）认同。（有人会疑问第三点，个人认为其实“点赞”和“评论”的动因在于潜意识里的“物以类聚，人以群分”，尤其“豆瓣”里面，相对于微信朋友圈什么的，“亲人朋友票”较少，也就是说你潜意识里认为自己是这一挂的，志同道合的，品味相投的。清流也好，“泥淖”也罢，玩笑也是，都无所谓）这也正是“景观社会”的引力核心，也是当下人们的精神疾病。
个人有些极端和无情。虽然I don't give a shit，按理说别人点不点赞还关心什么？但就是不喜欢别人点赞。因为，点赞无非是上面情况其一，我从不站边，我就是我，我只相信自己，我也不需要任何人的赞美和认同，最不喜欢别人的加油和鼓励。我也从不加入什么豆瓣小组，加入了我也不会看。我相信没有人可以被范围圈定，或许有什么“三教九流”、“人以群分”和“芝兰之室”，但，与“我”（个体）无关，I don't give a shit. 我不是什么反社会人格，但我确实想与世隔绝，独自生活。
跟很多人一样，个人只是把朋友圈、空间还有豆瓣什么的，当做自己对日常生活的记录。
渴望被看到被认同，不好吗？不是。除了某些炫耀作秀的畸形心理（景观社会的病症）不好之外，一些价值上的被认同，努力上的被看到，没什么不好。因为人总是很孤独。
个人的感觉是，只要你不在意所谓的关注和赞美，平常心对待，那么你孤独中有时出现的赞美和认同就会变成黑暗中的火光，力量会更大。不要期待被关注、被认同和被赞美，更不能习惯被关注、被认同和被赞美，这样也不会那么容易被那些“陷阱”所陷害。
其实能做到这样，也就基本上是因为你是什么样的人，那么有些事其实本质上就与你无关了。比如，本人从来没看过抖音，是根本没有意识到我可以去看看。（当然，前段时间做了一段时间的短视频编导，真的是必须下载抖音，但其实我还是没怎么看，干干净净。事实上也是半个月就辞了，觉得自己真的没法拍那些东西，我也认为有些东西多了真的不好，真的不好。我并非坚决否定其他任何人或某些事物，还是那句话，与“我”无关，我只是需要把握自己，目前我也绝无那么大的能力影响别人）还有去年，基本上没怎么用手机，尤其是社交媒体，沉寂了一年，远离社会，消失无踪，也没有打任何招呼，以致最后打开微信，成百上千条新消息，很多好朋友都在问，也在问对方，这人去哪了？还好嘛？我真的很抱歉，最后更是写下长文忏悔自己。而这次“行为艺术”之后，我删了一批人，剩一百来好友。我在长文前言里说得非常明白，有些渗人。朋友也说，你这不仅是在考验自己也是在考验别人。以前有过两次大批量删人的经历，也都会提前打招呼。我这人很不好，也很难与自己和解。
我并非提倡某些行为，也还是那句话，以往写一些涉及个人想法的文章都会提，大致是：以上所有，你没必要相信和认同（所以我不喜欢点赞嘛，点和被点。但并非完全不会，其实别太在意“点赞”一事就OK），你有你自己的想法。必须注意的是，当你觉得我说的某些话可能有些道理的时候，可得小心了，因为我的话可能正成为某种意识形态对你“询唤”，要不要“应答”这就是你的事儿了。我的建议是：不要随意应答，学会时刻存疑，多多思考！（那最后这句话，你要不要听呢？）
（27/06/2022 在旁人的提醒下重新审视自己）
2 ) 【汇总】片尾的一些建议
√ 在手机上关掉/减少各种“通知”，大部分“通知”既不及时也不重要。
√ 放弃Google搜索系统，改用Qwant（ //www.qwant.com/ ）。
Qwant是一家法国的搜索引擎，它承诺执行非常严格的隐私条例，并保证绝不获取使用者的任何信息，也不会在用户浏览网站时，搭载任何可能泄露使用者身份及位置的Cookies文件。Qwant将搜索结果分成 WEB, NEWS, SOCIAL, IMAGES, VIDEOS, SHOPPING 几个部分：
补充，类似保护隐私、不会主动泄露cookies的搜索引擎还有 DuckDuckGo，Searx，Startpage 等。网上有许多这样的介绍和测评，随手搬运一篇《 搜索引擎详细测评（Google, Startpage, Bing, DuckDuckGo, metaGer, Ecosia, Swisscows, Searx, Qwant, Yandex, and Mojeek）》（2020-02-15）
√ 不看YouTube（此处可以等效替换）推荐的视频，要看什么自己选。
√ chrome有许多的拓展插件，可以为你屏蔽那些推荐（针对外网的比较多，希望内网也多多开发）。
√ 在分享信息之前，用你的搜索引擎先去核准下事实（fact check）。对于容易激发情感的内容，要高度重视。
√ 在社交媒体上去关注一些自己不认识、意见相左的人，有意识地去获取和自己不一样的声音。
√ 可以自发地设立“家规”：孩子不能用社交媒体。（很多业内的技术人员是不让自己的孩子用那些的。）
√ 可以自发地设立“家规”另三种：
每天到了固定的时间，手机等电子设备不能带进卧室（例如睡前半小时，把所有设备都请出去）；
高中（或16岁）之前禁用社交媒体；
提前与孩子商讨出一项“时间预算（time budget），比如：每天你打算在这些设备上花多久？你觉得多长的时间是合理的？正向沟通、相信孩子，往往可以得到一个合理的时长预算。
√ 下线，多享受线下的现实。
3 ) 又开始疯狂讲话
短评里对这个片子的微词多着眼在影片内外的割裂对立。 但我倒是在观影过程中忍不住跑神头脑风暴了n次，这么看，影片对我就不仅仅是老生常谈了。 虽然没法按顺序按逻辑梳理我的wandering mind，就想到哪说到哪吧。 第一个反思是：（只）运用抽象语言
我感到自己表达能力不足并意识到表达力的重要性，不仅源自现实学习工作的需要，和社交网络中意见领袖的影响力飙升也脱不了干系。我不只一次对着舌灿莲花的博主感叹：“怎么这么会讲！”“太会讲了吧！”于是暗自发力练习讲话。
但最近，一个问题引起了我的注意。我发现我把精力都集中在抽象语言的运用，但忽略了具体叙事和细节描绘。事实上，我爱的那些博主，ta们说话的魅力也常常表现在针对具体事件形成观点输出和论证，偶尔援引其他具体事件也是出于论据需要。
在传播场上，我们很容易发现，观点跑得比故事快，有些观点甚至会浓缩成迷因长久地流动在社交空间里。而那些能混得开的故事往往是以观点容器和引爆器的身份占据了大众视野。这个世界，观点已具有比事实更重要的力量，而抽象语言则作为观点的基础占据了我话语实践的绝大部分。而影片也是以这种方式展开。
话语空间铺天盖地的抽象语言是不是削弱了波兹曼在《娱乐至死》里对批判性思维丧失的担忧呢？当然没有，事实上，它和李普曼在《舆论》里提到的“象征符号”遥相呼应，以抽象泯灭了那些具体生动复杂的情境、细节和差异，以口号式的单板逻辑满足了个体对“独立思考”的情感需要。
因此，这也向我发起了警告，尝试去说一些具体的故事，以民族志而非大数据的方式去看一看这个世界，甚或在一些时候抛弃掉旁观者的角色，只进入其中说话。（当然，这条除外🤥）
第二个反思是：我在意点赞吗？
即使我对点赞也很敏感，享受着每一个认可带来的即时满足，但我似乎不完全被点赞影响着心情。事实上，由于更多人活跃在朋友圈，偶尔发一条动态时，甚至会因为要点掉消息提醒而感到疲乏。对于公共空间的讨论也如是，在一些过度投入的评论回复的来来回回里，我会迅速感到疲乏。而其他一些骗取我注意的策略：通知栏、奖励性广告都对我无效。我玩不来抖音，也不喜拼多多（恨死它总因误点而自动下载）。而在我沦陷的那些平台里，我也时常产生厌倦到不想继续浏览的思绪。
但是，我不耍手机，还能做什么呢？不论我关不关注点赞，长期活跃在虚拟空间里确实挤兑了我对其他活动的意愿和想象。现实连接的淡漠致使我仍然会不停刷刷刷，刷到眼睛不得不合上。手机不再令我快乐，却也剥夺了我从其他活动获取快乐的能力。
所以，如何去拓展现生，并激发出长久为体验过的愉悦（不依托在社交平台上的炫耀），是亟待实现的下一阶段。
第三个反思是：两极化
前两天刚因为路温1900的视频跑去知乎和别人battle“女拳”在现阶段是否应该取缔。我倒不是想借这个例子说明两极化确实存在且日渐严重，而是好奇，沟通的可能性。事实上，任何一个观点呈现在面前，都是在trigger你脑海里的过往经验和认知，但在虚拟讨论空间中，我们对另一个人的脑内图景一无所知。是否存在一些最基本的共性，可以为双方能彼此听懂的讨论提供策略？
这个问题也让我想到了robber's cave那个实验，被随意标签的两组儿童在交往过程中自发产生了对本组的高认同感和对另一组的憎恶，而促进两组儿童collaborate的唯一办法是树立起第三方敌人。啊哈，牛嗷。我们在多大程度上是自主选择了某一共同体，又在多大程度受到共同体支配行为与思想？我们应该如何培育自主性，如何抵御这种支配？还是说我们的确可以利用共同体实现一些抱负？
这可太复杂辽，在这里仍只触及了边边。脑容量不够，还没法顺畅地阐释这个问题，再讲下去又要头痛咯~
就这样吧。
结束
4 ) “算法是内嵌在代码中的观点...”
1.参与度目标：
“理解这部纪录片需要一定“智力门槛”，我认为看完它是对我有益的，我可以从中获得精神上愉悦感和快感。于是在这100分钟里我不刷手机专心致志将尽可能多的注意力集中在它身上。”
2.增长目标：
“我认为这部纪录片是好的，有益的，通过思考领悟它我可以学到新的知识增加未有过的见识扩宽观察社会观察社交网络的角度。于是我将它分享，我邀请好友观看，我期待好友从中获取新知识，或者单纯地，我希望通过分享它彰显自己的观影品味与思维深度，博得朋友们的好印象。”
3.广告目标：
“编剧好牛，导演好牛，奈飞好牛！”
5 ) 你被抖音、微博等社交媒体卖掉的30个真相
无法放下手机是意志力薄弱吗？谷歌、脸书和自行车一样只是我们使用的工具吗？算法和技术是中立的吗？假新闻为什么无往而不胜？这个假期看完的第一个片子是奈飞新出的纪录片《监视资本主义：智能陷阱》，触目惊心，假期的末尾希望有空的话你也可以看看。
影片其中一条叙事线由谷歌、脸书的前员工、ins早期员工、推特高级副总工程师等一票国际互联网大厂的从业者面对镜头讲述，这里面不乏社交媒体上点赞功能的设计者，甚至还有帮助脸书建立商业模式的负责人，他们出于对行业道德伦理的担心纷纷离开，现在他们重新站出来讲出他们看到的真相并发出警告。下面我将摘选30条我觉得重要的观点，方便你快速了解。
1.进入凡人生活的一切强大之物，无不具有弊端——索福克勒斯
2.主角之一的特里斯坦·哈里斯是前谷歌员工，曾在谷歌邮箱团队工作，他觉得很疲惫，因为他们一直在讨论邮箱应该长什么样，用什么颜色，他坦承自己对邮件上瘾，但更有趣的是团队里每一个人都想让用户上瘾。但是大家有反思过这个现象吗？他认为谷歌有解决这个问题的道德责任。但讨论在谷歌内部却不了了之。
3.脸书商业化负责人说，他负责帮助脸书想出如何盈利，而彼时他认为广告模式可能是最优雅的模式。以前我们为硬件和软件付费，但现在这些互联网产品都是免费的，但其实并不真是免费，背后是广告商在付费，广告商是这些互联网产品的客户，而使用者其实是被销售的商品。经典的说法是，如果你没有花钱买产品，那你就是被卖的产品。
4.谷歌并不只是一个搜索工具，脸书并不只是一个你和朋友联系的社交工具，其实种种互联网产品，他们都是在抢夺我们的注意力。仔细想一下这些互联网公司是怎样运作的。用户免费，广告商付费，广告商为什么付费？他要花钱交换你看广告，我们的关注就是卖给广告商的产品。这样说可能过于简单了，产品其实是我们的行为和认知的逐渐的一点点未察觉的改变。这才是他们拿来赚钱的唯一的东西：改变你做的事，你的思维方式，改变你这个人。
5.每种商业都有个梦想：投放一个广告，有成功的保障，这就是广告平台的生意，出售确定性。为了这个商业成功，必须有预判的能力，而优秀的预判能力始于一个必要的条件那就是数据。
6.我们使用互联网社交产品的一切行为数据都被监控和记录，具体到你在某张图片停留多久，我们的孤独、抑郁时刻，我们爱看前任的信息，我们深夜做什么，这些系统统统知道。这些我们不经意流露出的数据，都被喂养给系统，而这几乎不需要人看管，系统会不断做出越来越好的预判，判断出我们是什么样的人，我们要做什么。
7.很多人有一个误解，认为被卖掉的是我们的数据，脸书的兴趣肯定不是卖掉数据，而是用数据建立一个可以预测我们行为的模型，拥有最优秀模型的公司就是最后的赢家。我们用互联网技术创造了全球一整代人，他们成长的背景中，彼此之间的交流，文化中都渗透着操纵的鬼影。
8.任何足够先进的技术都极其类似于魔术。
9.魔术师几乎是最早的神经学家和心理学家，他们是最先明白人们思想工作原理的人。魔术师懂得你思想中你自己都没有意识到的某一部分，这是让幻觉起作用的关键。
10. 特里斯坦·哈里斯在斯坦福大学的劝服技术实验室研究如何用心理学知识劝服人们，以及如何把这个运用到互联网技术中。很多硅谷的互联网公司的人都学过这样的知识。他们想修改一个人的行为，让人们按照他们的意愿去做，譬如不停的用手指滑动屏幕浏览信息。往下拉，最上面是新的内容，再往下拉，上面又是新的每次都一样，这在心理学上被称作积极正强化。你不知道什么时候能刷到，或者你能刷到什么。这其实和赌场里老虎机的原理一样。
11.无数工程师他们的工作就像黑客一样黑进人们的心里，然后获得更多产品数据的增长，更多的用户增长，更多的活跃。他们会做大量的AB测试，然后根据结果不断优化就可以让用户做他们想让用户做的事，这就是操纵。很多时候他们诉诸的是人的潜意识，你被影响时甚至根本没有意识到，因为这是在利用人心理中最脆弱的部分挣钱。
12.自行车问世的时候，没有人不满，没有人会说它毁灭了我们的社会，因为自行车拉远了父母和孩子之间的距离，毁灭了我们的民主，让我们无法分别消息的真假。如果一个东西是工具，它就会忠诚的坐在那里，耐心等待。如果一个东西它对你有所求，它想引诱你，操纵你，从你身上获利，它就不是工具那么简单了。
13.我们已经走过了以工具为基础的技术环境，来到了以致瘾和操纵为基础的技术环境。社交媒体不是在原地等待被使用的工具，它有自己的目标，有自己的方法去实现这些目标。利用你的心理来对付你，
14.社交媒体就是一种毒品，我们有着基本的生物学的欲望比如和别人保持联系，这直接影响着奖赏通路中多巴胺的释放，这背后是几百万年的进化，我们群居找到伴侣繁殖。毫无疑问，社交媒体会优化这种联系，自然会有致瘾的可能性。
15.这些技术产品不是由努力保护儿童的心理专家设计的，他们的设计是让算法非常善于给你推荐下一个视频，非常善于让你拍照加滤镜。这些东西不仅在控制我们注意力放在哪里，而且越来越深入到大脑的根部，夺走孩子的注意力和自我价值。我们进化出了在意社群中的其他人评价的机制，这很重要。但是，我们进化需要在意一万个人怎么看我们吗？我们的进化不需要每隔5分钟获得一次社交认可。
16.我们在训练、调节整个一代人，我们不自在、不确定、孤独、害怕时，有一个自己的数码安慰，这让我们处理自己情绪的能力退化了。
17.有一种说法是，我们应该去适应它。我们要学着与这些设备共存，就像我们学着与其它事物共存一样。但这个说法忽略的是，有些东西明显是全新的。这其中最危险的是，这是由技术驱动的成指数级向前发展的。计算机处理能力，从上世纪60年代至今，增长了亿万倍，我们身边没有任何东西以这个速率增长。而我们人类生理上，大脑根本没有丝毫进化。我们的大脑已经存在几百万年，然后出现了这样一块屏幕，屏幕的另一端是数千工程师和超级计算机，有着与你不同的目标，那么这个游戏谁会赢呢？
18.算法是内嵌在代码中的观点，算法并不是客观中立的，算法被某种成功的定义优化。你给AI一个目标，我想要这样一个结果，AI自己去学习怎样实现，这是机器学习概念的由来。没人真正明白，为了实现这个目标，他们在做什么。
19.算法有自己的思想，虽然它们是由人写的。它被写出来的目的，是建立一个机器，这个机器会自己改变。作为人类，我们几乎已经失去对这些系统的控制，因为使它们在控制我们看到的信息。
20.想象一下，你用脸书，你的对手是人工智能，它知道你的一切，能预测你未来的举动，而你对它一无所知，这根本不是公平的竞争。
21.我们都在担心这个时刻，技术什么时候超越人类的智慧和力量。但有更早的时刻，技术超越人类的弱点时，这个超越点就是上瘾。两极分化、激进化、激化愤怒，激化虚荣，它在压制人类的天性，挫伤人性。
22.脸书的推送方式非常错误。如果我们打开一个维基百科页面，你看到的和别人的是一样的。这是网络上少有的我们统一共享的东西。想象一下，如果维基百科说，我们要给每个人一个个性化的定义，有人给我们钱让我们这么做，维基百科会监视你，会计算要怎么做才能代表一些商业利益，让这个人产生一点改变，对吧？然后就会改变整个词条。你能想象吗？脸书就是这样，你的youtube推送就是这样。
23.看了这个片子我才知道，原来在不同地方用谷歌搜索我们得到的是不同的结果。譬如我们在搜索框输入“气候变化是”在某些城市你会看到自动填充的提示语是“气候变化是一场骗局”在其它地方你将会看到“气候变化是对自然的破坏”。这个功能提供的不都是气候变化的真相，而取决于你在哪里搜索，以及谷歌对你个人兴趣的了解（譬如如果你是个阴谋论者，它就会给你推送气候变化是一场骗局的内容）。
即使是两个很相似的朋友，看到的也是完全不同的内容，因为算法会按照怎样对一个人来说最完美来呈现内容。逐渐你会有一个错觉，所有人都赞同你，因为给你推送的新闻中，每个人都和你极其相似，一但达到这种状态，你就容易被操控了，和被魔术师操纵是同样的方式。
24.油管前算法推荐工程师坦承，他研究的一个算法增加了社会的两极分化。但从在线时间上看，这种两级分化的做法却极其有效的让人们一直在线观看。
25.著名篮球运动员凯里·欧文说他相信地球是平的，后来公开道歉时说，这是油管算法的锅。地球是平的这一言论被算法推荐了几亿次，我们很容易判断出大概只有几个笨蛋真的相信。但可怕的是，算法每天都在变得更聪明，今天它能说服少部分人相信地球是平的，明天它就能说服你相信一个完全虚假的事情。
26.推特上传播假新闻的速度比真新闻快6倍。当一个人比另一个人有6倍的优势，这个世界会如何？你可以想象，有些事情让人类的基本面倾斜了。让一些行为更难，一些行为更容易。虽然你总是可以自由的走上山坡，但这样的人越来越少。所以在更大的范围内，整个社会的基础倾斜了，改变了数十亿人的想法和行为。
我们创造了一个偏爱假信息的系统，并不是因为我们想这么做，而是假消息能让这些公司更容易赚到钱，你知道的，真实信息比较无聊。这是一个利用虚假信息牟利的商业模式，允许未受监管的信息推送给更多的人，卖出更好的价钱，以此来赚钱。
27.脸书每天推送万亿个新闻资讯，他们无法知道哪些信息是真的哪些是假的。从未有工具像脸书一样能够如此低成本又高效的影响如此广泛的人群。算法和政治家在学习如何激发我们的方面变得越来越专业，非常擅长制造我们容易接受的假新闻让我们信以为真。我们似乎对自己是怎样的人，自己的信仰越来越缺少控制权。如果每个人都有权执着于自己的真相，就没有必要妥协团结了。我们需要对现实有一些共同的理解，否则我们就不是一个国家了。
28.谷歌不知道真相，它只知道点击。如果我们不认同真相，我们就无法找到任何一个问题的解决办法。硅谷的很多人相信一种理论，我们正在建造一些全球的超级大脑，我们所有的用户都只是可交互的神经元，我们一点都不重要。它让人们服从于这样一个奇怪的角色，你就像一个小的编程元素，我们通过我们的行为操纵去编程，为了服务于这个巨型大脑，不会给你钱，不会让你看到真相，你没有自主权，因为你只是编程的一个节点，你根本不重要。
29.技术并不是人类存亡的威胁，只是技术能够把人类社会中最坏的东西带出来，社会中最坏的东西才是人类存亡的威胁。如果你不知道身处矩阵之中，你如何从矩阵中醒来。
30.在整个人类历史中，每一次有事物变得更好，都是因为有人站出来说，这太蠢了，我们可以做得更好。是批判者推动改进，批判者才是真正的乐观主义者。
影片的最后，画外音问特里斯坦·哈里斯，你觉得我们能改变这一切让他们变得更好吗？特里斯坦·哈里斯说，我们必须要实现。
6 ) 关于技术的非客观性与不可控性
道理我都懂，可是谁能在拉屎的时候不看手机呢？
言归正传，以前一直叫嚣“技术中立”的我这些年来对技术，尤其是巨🐂🍺的技术，真的是越来越保守了。既然略微涉及到了自己专业方面的东西，不妨稍微多写点记录一下自己想法的改变，以及近期的一些思考，主要想说说两点，技术的非客观性和不可控性。
非客观性
任何对数学或是计算机科学稍有了解的人应当都知道，算法本质上就是一堆数学和运算，定义明确，不存在任何欺骗性和模糊性——给两组一样的输入，就会出来两组一样的结果（起码分布相同）。算法是如此地“笨拙”和“老实”，不管你是资本家还是无产阶级，算法不受贿也不行贿，只做它该做的事，这还不能被称为客观吗？
机器学习有个子领域叫机器学习公平性（machine learning fairness），专门研究算法中的偏差对社会公平性的影响。这个领域的研究经常会提到COMPAS数据集，里面记录了一些被告的个人特征信息与犯罪服刑记录等。研究人员用这个数据集去训练了一个机器学习模型，来预测某人未来犯罪的概率，发现训练出来的模型更倾向于错误地将黑人预测为容易犯罪。数学上，这种偏差一方面是来源于训练数据的分布，另一方面则是来源于一些复杂的因果关系，比如法庭上由于种族歧视等黑人更容易被判有罪。这些问题其实都可以通过技术手段，比如重采样或是引入工具变量等，来克服或是减轻，但它背后更本质的一个问题是：为什么我们的社会需要预测一个人是否有可能犯罪？有很多科幻作品比如PSYCHO-PASS都讨论过这个问题，包括社会心理学上也会从自我实现预言的角度研究该种预测对个人和社会所可能带来的影响。这里只做个简单的想象作为一个小小的思维实验，假设我们训练一个模型来预测犯罪，并希望它能最准确地找出潜在犯罪者，同时又训练一个决策或行动模型来逮捕最有可能犯罪的人，随着两个模型互相产生数据互相迭代，最终“犯罪”这个概念将完全由模型定义。当我们为机器学习算法设定目标时，即准确预测潜在的罪犯，我们是在默认地假设一个人是否犯罪是预先就被决定并且不会为环境所改变的。这种假设和目标的设定本身就存在巨大的问题，其反映的是目标和算法的设计者对于人类社会的偏见。
我们知道所有算法的提出和应用都是为了优化某个目标和解决某个实际问题，但如果我们的目标和问题定义错了呢？我们还要继续使用这些算法吗？问题错了，算法再怎么提升也是白费，it's not even wrong. 刨开它想要解决的问题，算法本身毫无意义，而这些问题被定义的方式，恰巧就反应了问题定义者对于一系列事件乃至整个世界的看法。Algorithms are not objective，它们是一整套价值观的投射，只要我们还在一个人的社会里，算法与其背后的利益关系就不可能也不应当被割裂开。可惜的是，在现在的学术界和工业界，绝大多数全世界最聪明的大脑关注的仍然是如何在特定目标下提升算法的表现，而我们的问题是否定义正确，我们的优化目标是否设计正确，相对来说却不太有人讨论。
这里我想到之前上的一位研究 Science, Technology and Society（STS, 中文还没有翻译）的老师的课，他论文里有一段关于优化算法的讨论特别有意思。优化算法我们一直都在学，求最值、线性规划、凸优化、非凸优化、动态规划、整数规划诸如此类。但实际上，“优化”是一个西方资本主义社会所创造和强化的概念，它的背后是一套利益最大化的逻辑，这在非西方世界的传统价值观中是罕见的。随着大航海时代与殖民主义、帝国时代的演进，这一套优化的逻辑也慢慢根植进了各个民族的思想，也写进了不同国家的教材。我并非是想说“优化”这个概念不好，或者我们不应该研究优化问题，相反，优化问题很重要，并且能建模很多实际问题。但正因为它能建模太多太多的实际问题，我们才更应该加以注意其适用范围，比如一个班里的同学或是一个组里的同事相互竞争，搞成绩最大化利益最大化，硬生生地把非零和博弈考虑成了零和博弈，这种内卷或许只对补课机构和资本家有益。
不可控性
当影片把我们所面临的问题赤裸裸地摆在面前的时候，我才真正意识到并惊讶于，一个我们无法理解、无法控制、拥有巨大预测世界和改变世界能力的技术，竟然早已悄无声息地融入到了我们生活的各个角落。我们一直在思考，如何提升人工智能的极限，或是AI还需要多久才能取代人类，我们看到的始终是AI在人类强项上的羸弱，如关系推理、结构生成等等，就好像AI仍然完全在我们的掌控范围内。但实际上，我们常常忽略的一点是，AI在人类的弱项方面已经做得非常好了，并且我们对其知之甚少。以前中学的时候和同学聊过一些关于基因工程、人体改造诸如此类的话题，结论是这类技术太过神秘、太过强大，在伦理道德和法律条文完善之前就不应该去触碰。现在想来，基因改造相对于复杂的算法来说，或许就是个弟弟。我说“复杂的算法”，并不是因为算法本身的实现很复杂（当然确实也挺复杂的），而是因为现在的很多算法，比如神经网络，本身就是一个“复杂系统”。
我个人认为复杂系统或者混沌理论是人类在20世纪所提出的最具革命性的概念之一，起码本科接触到这个概念之后，我的世界观迅速就改变了很多。复杂系统（complex system）简单来说，就是系统中有多个个体，它们相互之间会有一些交互，这些个体本身的行为模式或简单或复杂，其间的交互也能以各种形式呈现，可一旦当它们构成系统，整个系统中可能就会涌现出一些难以预见的行为模式。复杂系统或者混沌现象在我们的世界中无时无刻不在呈现，比如气象系统，洛伦兹当年就是因为发现自己用微分方程无法预测天气，而开创了这整个领域，大家常说的“蝴蝶效应”，其实指的就是微小的空气扰动也会在未来大幅影响整个气象系统的运行这一现象。除此之外常见的例子还有大脑活动、心脏跳动、股票市场的波动等等。康威在70年人为构造了一个复杂系统并将其命名为“生命游戏”，这里找到了一个模拟器，感兴趣的话可以玩玩。关于复杂系统和混沌理论的研究瞬间就颠覆了17世纪以来的牛顿范式（虽然爱因斯坦早几十年已经从时空观的角度颠覆过一次了），所有的研究结果都告诉我们，这个世界不是你推动小球，小球就会获得一个加速度，然后像你预想的那样运动——当这个世界由千千万万个小球组成的时候，哪怕你完全知道每个小球的受力情况，你也无法预测整个小球系统将会怎样运行。当然，刘慈欣的三体早就科普过，只需要三个小球，就能使任何人、任何计算机的大脑彻底瘫痪。之前看过BBC的科普纪录片《神秘的混沌理论》觉得很不错，里面也提到了在如此混沌的世界中，数学和科学还能为我们做些什么，答案就包括统计学等等，扯远了。
回到技术的不可控性，这里想重点讨论一下深度学习掀起的神经网络浪潮。神经网络（neural networks）是计算机科学家们仿照人类大脑的结构所提出的一个计算概念，在计算中，每个节点都被看做是一个神经元，它接收上游神经元所传来的信号，并在一番处理之后将结果信号再传递给下游神经元。单独看每个神经元的行为其实是非常简单的，就是一个带权求和再套一个激活函数（现目前最常见的激活函数就是ReLU，它保留正的数字并将负的数字变为0）。再看神经元之间相互的关系，其实也非常简单，就是计算结果的传递。然而就是这么一些简单的小小的计算神经元，却能从系统层面上发挥令人意想不到的作用——人脸识别、图像生成、阅读理解…很多理论上的工作都尝试去解释神经网络的运作机制，但目前还没有人敢说他真正地理解了神经网络。其中一个比较有代表性的讨论就是神经网络的泛化能力。泛化能力指的是模型把从训练数据中所获得的知识，应用到未曾见过的样例上的能力。做个简单的类比，就好像是你通过刷题来准备期末考试，如果相同知识点的题，刷题时你学会了，考试时你也能做对，那么你的泛化能力就很好。传统机器学习认为模型的参数或是可变性越多，泛化能力就越差。这就好像是你的记性特别好，过目不忘，那么为了做对题库里的每一道题，对你来说最省时省力的方法就是把所有的答案都完全不加以理解地给背下来，但到考试的时候你就会傻眼了。神奇的是，神经网络并不遵循这一规律，去年OpenAI公开的 GPT-3 语言模型中共有1.75兆个参数，但它在下游任务上的表现却完全暴打之前的模型。近期的一些工作比如 Neral Tangent Kernel 对此细致地进行了理论上的阐述，大体上讲，就是当大量神经元组成神经网络后，整个复杂系统就会涌现出一些新的性质。目前不管是学术界还是工业界，都把神经网络当作黑箱在使用，没有人知道这个黑箱中究竟在发生些什么，更不用说有谁能够做到精准地控制黑箱。
更加令人沮丧的是，神经网络等技术的复杂性还只是不可控的一方面，而另一个不可控因素就是人类社会。人类社会由许许多多的个体组成，个体之间也会经由社交产生各种互动，是一个典型的复杂系统。在人类社会的历史中，我们可以看到很多群体行为的涌现，如政党的形成、经济系统的构建、革命与暴乱等等。如此一个复杂系统本就已经够社会学、经济学、政治学、心理学等学科研究的了，而我们现在还要将复杂的神经网络运用到复杂的社交网络上，其结果想也不知。就如纪录片中所说，这些大佬们在开发产品的时候最多也就考虑了用户粘性等跟商业挂钩的指标，而诸如阴谋论、假新闻的流行，还有意见的极化和青少年成瘾等负面影响，都是在最初的产品开发时所难以完全预见的。至此可以看到，在我们将越来越多的权力交付给人工智能时，情况已经愈发地失控了。
最后
尽管快到末尾时大佬们把AI技术、社交网络等带来的问题归因为商业模式的运作，包括整部片子的译名也被加上了“监视资本主义”，但这些问题的根源绝不仅仅只在于经济形式——again, it's all about power moves. 任何形式的社会，只要有权力结构的存在，就会使算法带有一定的目的性，并且此种目的性也会由于算法和社会本身的不可控性，而造成难以预见的影响。
看到最后真的蛮感动的，有这么多厉害的大佬都不只是在关心自己的个人利益，而是利用自己的视角来为全体人类尤其是还在成长中的下一代做思考，怎么说，算是野蛮屠宰场里人类文明的微光吧。
中文翻译的标题线路很正确嘛
通过海量的数据加上对用户个体的行为记录，最终用户个体不再特殊。你的行为可以被预测，你的心理已被掌握，你已经无所遁形。在IT巨头面前，你只是一个可被盈利的工具。 --你以为你想买的东西其实是巨头想卖的东西，你想做的事情是巨头暗示你做的。下篇讲述 在网络环境中，虚假的信息传播的更快，其中人工智能的推荐起到了加速作用。 推荐系统的智能化是的信息发送方变得极化，同时是的接受的信息变得不再全面的。。。。
最讽刺的是你之所以能看到这部片子，多半也是因为它被网飞自己的大数据和算法推到了用户主页。这种感觉就像是有天迈克尔·贝跑出来拍了一部【电影艺术是如何被滥用CGI特效的好莱坞大片毁掉的】纪录片一样。
聚众吸牍哪家强 网飞找来这群人一个劲戳别人脊梁骨 没种把自己的5秒跳转下一个视频算进去
最后还是把问题还原到商业模式和经济上去了 也就是说 不是简单呼吁大家自己控制社交媒体的使用就可以解决根本问题的 不过很有意思的是… 看完片子之后 大家还是屁颠儿屁颠儿跑到社交媒体上来打分了😂 这和竞争关注的结果其实没有本质上的区别吧 人生而愚蠢...也是没办法的事
影片翻译成”监视资本主义“太符合中国上层领导了，其实就是讲了社交网络怎样赚钱、怎样改变和监视用户、大数据统治的，其影响会延伸和触及到人性、进化、政治竞选等领域。但人类历史中的谎言、煽动、阴谋、阶级等现象，并不是网络时代就特有的，只是网络时代让这些现象具有更大规模、更快的反应而已，但不能把原罪归于网络。
前半段谈的是个人的成瘾性，后半段谈到了对社会和政治的影响，甚至还提到了香港问题受到了推荐算法的影响，实在是强烈推荐的纪录片。推荐算法让人类看到更多他想看到的信息，而不是正确的信息；当算法没有被操纵的时候，假象会被传播和放大的更快，社会群体的分化会更严重；当被操纵的时候，它会成为比以往更高效的舆论控制工具。
可能是今年 Netflix 最好的一部纪录片，无论是 have no clue 的大众还是互联网业内工作人员，都能从中得到新的启迪。一段虚构故事结合湾区大佬们和学者们的访谈形式也耳目一新。Just fucking watch this right now！另外好多差评真是男言之瘾重灾区…
“是批判者推动社会变得更好，批判者才是真正的乐观主义者。”
三星半吧。这个片子一边谴责社交媒体蛊惑人心，一边也通过背景音，模拟场景，动画，拼命传输自己想传达的意思。有点讽刺
“在整个人类历史中，每次有事情变好，都是因为有人站出来说：“这太蠢了，我们可以做的更好”。是批判者驱动了改进，他们才是真正的乐观主义者。我们正飞速走向毁灭，需要一个奇迹才能让我们回头，这个奇迹就是集体意识，再足够的公众压力出现之前，这台机器是绝对不会回头的。”
我一直是更亲近Yuval Noal那种对社交网的防御心，最近他跟唐凤的对话中，唐女士更接近Bill Gates，她们对Code is law的信任是基于他们对科技的掌握，略傲慢的盲目。人类善于发明创造工具，却总是不能智慧的使用好它，socialmedia被创造出时的工具属性越来越模糊，连接一切变成绑定一切，我们都在失去个人专注力的同时被训练的自动贡献出时间来替科技公司创造价值。见惯了友邻放弃包容，讽刺刻薄的针对陌生人，哪怕对方只是没把咖啡馆当图书馆对待产生噪音。我们大部分人，都忘了我们用社交网的初衷了，我们只是停不下来了，这不对，要自省。
就提一个capitalism会死吗
朋友圈已经关闭了好几年，也不用微博和fb的我感觉自己还是有点觉悟的。
某种existential crisis的压迫感沉重到可以将其归类恐怖片的程度：迫真humanity的一个至暗时刻。毋庸置疑新自由主义的放任默许了它们的野蛮生长。日渐两极化割裂的民主世界，中产的消亡，功绩社会里的精神暴力，抑郁及自杀率的攀升，ultra-right/left异军突起众多吊诡背后，总能追溯到科技巨头的鬼影。今年的BLM可谓一个高潮，空前的社会撕裂，内战的恐惧开始在北美大陆扩散，然而那种担忧早已经在太平洋对岸成为了现实，诸如废青和武统的呐喊此起彼伏，落入集权独裁手里的社交媒体正上演着数亿人的《楚门的世界》。
在网飞纪录片序列中算不上惊艳，内容都能想得到，有个别地方倒是有启发。其实社交媒体不是重新发明了人性，只是顺应人性被发明出来。
突然觉得，我如果能活到八十岁，说不定可以亲眼看到这颗星球毁灭……
互联网是人类文明的硕果还是浩劫？这是一个问题。互联网发展太快，而互联网用户运用它的智慧却太慢。它几乎成为现代人剪不断的脐带，每个人都以为这根脐带为我们输送养料，却很少发现它也在吞噬我们的时间，消耗我们的生命。互联网背后是不断将我们异化的数据和图形，是将用户打造成韭菜的智能工具，而你我是它们手中的行货。尼采说，“在自己身上,克服这个时代。”然而，这多么困难。最有意思的是，看完这部纪录片后，我发布的信息也会成为互联网内容的一部分，不小心浪费了别人的时间。
一边抗拒一边沉迷，也是无解了。
能请到离职的脸书 谷歌 twitter高管或功能创始人来搞一部揭露社交APP之罪的纪录片确实牛逼!！看影片开头好多工程师已经在担心律师函了。 我们以为的AI危机（人工智能）是电影中类似机器人入侵的画面，其实，人类早已被AI奴役好几年了，它们以智能手机APP的面貌出现在我们生活中，吃掉我们的时间，夺取我们的注意力，令我轻信、空虚、偏执甚至被利用…… 就连创造出这些APP的工程师们——这个AI统治者的创造者们都承认有手机上瘾症。if you are not paying for the product, you are the product.You would not realize it's a Matrix if you Are in the Matrix.