11月29日晚上18:30,由复旦MPA中心举办的第12期子夏读书会暨“腌do鲜”高汤讲坛,在智库楼402室顺利举办,共有三十余位MPA同学报名并参与了本次活动。
复旦大学国际关系与公共事务学院教授郑磊老师推荐阅读的书籍是《技术有病,我没药》,本次活动有幸邀请到了来自中国科协 - 复旦大学科技伦理与人类未来研究学院的杨庆峰教授和来自上海交通大学科学史与科学文化研究院闫宏秀教授作为原作者嘉宾亲临现场。所有同学和老师围绕本书观点、感悟、启示等展开激烈地思辨与真诚地分享。

全场活动分为3部分,首先是思辨环节,报名的同学提前选择自己的观点:
反方:技术为恶
正方和反方的同学们轮流发言表达自己的观点。
支持技术为善观点的同学认为:
一、人类增强与技术发展:有同学认为,随着技术爆发式发展,尤其是 AI 人工智能的铺开,人类本体能力如记忆、智力和寿命已跟不上技术迭代。书中提到的人类增强概念,如生物增强力量、智力和寿命等,可使人类跟上技术发展,避免被技术控制和奴役。
二、技术赋能与生活改善:多位同学指出,技术增强了人类身体机能,改善了生活质量。外骨骼机器人可缩短生产时间,农业技术突破实现粮食增产增收,交互方式改变使沟通不受时间地域限制,知识得以广泛传播,医生可完成远程手术。同时,技术在工作领域也带来了革新,如民政局社会救助领域通过系统实现高效审核,基层信息上传审核速度大幅提升,儿童救助等社会领域也能第一时间介入。
三、技术本质与人类关系:部分同学强调技术是对人类有限性的突破,其诞生初衷是服务人类共同福祉。技术与人类相互塑造,是共生体,所谓技术之恶本质是人类的异化与滥用。例如,信息茧房源于平台对流量的盲目追求,数据泄露源于开发者的责任疏忽,不能将这些归罪于技术本身。


与此相对的,支持技术为恶观点的同学表示:
一、人类被技术拒绝:有同学提出,人类社会建立在技术系统之上,技术发展步伐难以预见,普通人追赶技术和承受技术拒绝似乎是必然。如输入密码、人脸识别等日常例子,以及人们对工作被 AI 替代、下一代培养等问题的担忧,都是人类被技术拒绝的表现。
二、技术放大偏见与丧失思考习惯:部分同学认为,技术在一定程度上放大了现有的偏见,如人工智能在判断再犯罪概率时对不同种族存在偏差。同时,技术使人过度依赖算法和模型,丧失了思考习惯,忽视了对当下的关注和判断,甚至出现责任推卸现象。
三、技术加剧社会不平等:有同学指出,技术可能加剧社会不平等,如人机结合在医疗领域的应用可能使一部分有钱有权的人更具优势,进一步加深社会差距。此外,技术的发展可能导致社会阶层固化,原本的社会差距可能被生物学差距进一步放大。
四、技术导致精神疾病高发:有同学认为,技术创新是现代精神疾病高发的关键诱因之一。从规训社会到功绩社会的转变,技术将效率至上的逻辑内化为个人价值观,使人陷入自我剥削和倦怠,导致抑郁等精神疾病。同时,技术提供的无限连接和比较使人过度积极,沉迷于工作优化和自我实现,直至精疲力尽。

听完同学们的分享,闫老师与杨老师针对大家的观点进行了总结,并指出讨论的关键问题:技术为善观点是理性思考的结果,多数同学倾向于此;而技术为恶观点部分源于情绪表达。同时,将技术视为工具的观念存在局限,现代技术正超越工具属性,大模型智能体已展现出主体性。闫老师关于效率的深入探讨也值得深思,他通过庖丁解牛和土著人拖粮食的例子,生动地说明了不同的效率观,提醒使用者内心要有衡量效率的标准,思考自己应有的效率。杨老师则提到猴爪效应,即技术使用反馈可能超乎使用者意愿。


在接下来的《圆桌对谈》环节里,闫老师提出了3个问题供大家思考:若技术是工具,“工具人” 作何解释?使用技术过程中谁是被使用者?使用 AI 时是否有 “AI 羞耻感?
针对“工具人”含义的探讨:有同学认为,在不同理论视角下,“工具人” 有不同定义。技术决定论视角下,工具人是被工具利用的人,技术凌驾于人类社会之上;技术复购论视角下,工具人是利用工具的人,技术与人类相互影响;行动者网络理论视角下,工具人关注工具和人之间的主客体互动关系,技术可能具有能动性。
在技术使用者与被使用者这个问题中,有同学指出,表面上是人在使用技术,但实际上人也被技术使用。如在使用 AI 时,人的注意力被占用,数据被收集;AI 行业中,文科博士为技术训练提供内容,但报酬与技术人员差距巨大,体现了知识要素定价的不公平。
AI 羞耻感方面,大家持有不同的观点,有同学表示目前在 AI 面前没有羞耻感,认为 AI 可做人类做不了的事,人类也能做 AI 无法完成的事,AI 可作为百科全书,人类应发挥自身对场景的熟悉优势。也有同学对 AI 怀有敬畏之心,认为其是人类智慧的集合体,随着脑科学发展,AI 可能产生情感和道德,未来可能与人类形成对等主体关系。

杨老师在圆桌环节中,对“技术发展带来生态破坏”这一看似无法反驳的观点举了一个现实的事例。某地有一个大型的化工厂,带动了当地人的就业,供大家生存生活,但是化工厂的运作,会造成空气污染、水污染等问题。从外部影响来说,可以判断为恶,但从当地人角度看是为善的,当地的发展之路应该如何抉择?对技术后果的评价因视角不同而有差异,涉及当代人与后代人利益的价值判断。人应在技术使用中明确自身定位,追求高质量生活,技术面前的 “成年” 可能是为善为恶的重要变量。杨老师指出,当下人工智能已出现一些超乎想象的迹象,如欺骗型表现。若人工智能具有同理心的观点成立,意味着人工智能可能产生道德。闫老师也补充介绍了超级智能的少数派报告,强调使用者应具备伦理意识,明确自身需求。

郑磊老师从公共管理学科角度出发,对本次活动的讨论发表了自己的观点,介绍了技术决定论和制度决定论。技术决定论认为新技术必然带来好结果,但实际情况并非如此,政府使用技术时可能出现一刀切等问题。制度决定论则强调技术是工具,其作用取决于使用者。技术存在社会建构现象,如产品宣传和企业游说力量会影响技术的选择。不同技术的优劣并非完全由科学决定,还取决于讲故事和游说的能力。郑老师反思了数字政府领域对技术的看法,过去一直认为技术是解决社会问题的好药,但实际上技术可能本身就是病,如跨部门信息共享问题,多年来多种技术尝试都未能解决。政府在使用技术时应思考其真正效果,关注不同人群的感受,避免技术带来新的问题,如焦虑和过度劳累等。
在互动问答环节中,有同学询问当前AI 发展超过人类的时间预测和AI 发展的应对方法,闫老师推荐参考《AI 2027》报告,强调应分开看待 AI 对不同领域的替代情况。同时指出,人类应思考如何跟上 AI 的发展,实现与 AI 的和谐共处。

本次读书会引发了大家对技术与人类关系的深入思考,郑老师鼓励大家在日常工作和学习中继续思考技术到底是病还是药,以及如何让技术更好地服务人类。提醒政府工作人员在使用技术时,要多关注技术带来的实际结果,避免盲目追求新技术,思考解决问题的根本方法,可能不仅仅依赖技术,还需从政策、人性、管理制度和体制机制等多方面入手。
最后,在一份份鲜美香浓的腌笃鲜蒸腾的热气中,由腊肉(郑老师和杨老师)、鲜肉(同学)以及春笋(闫老师)精心炖制2.5小时的“腌do鲜”暖心落幕。同学和老师们的笑容定格在合影中,但是技术的发展以及对技术的思考,从未停止。
撰文:邓诗卉
摄影:邹聿辉、王颖

