用户登录

中国作家协会主办

新技术演进中的多重逻辑悖逆

来源:《探索与争鸣》 | 张成岗  2018年07月09日15:44

个体隐私数据正在进入利益价值的社会化循环

20世纪80年代以来,互联网的快速发展推动信息社会进入到大数据时代,大数据催生了人工智能,也加速推动了互联网的演进。社交网络既是一种社交工具,也是产业和经济发展的重要平台。作为提取并售卖人们提供的信息的强大工具,社交网络同时也在把正常的对话和乏味的日常生活转变为新的商业机会。在大数据时代,广告已经找到侵入生活的另一种方式,即通过使用数据挖掘技术获取用户信息进行分析,并进一步利用获得的知识(信息)来“定制”和“推送”广告。应当说,信息和数据技术的发展提供了隐私暴露的主渠道,个体化隐私数据正在进入了利益价值的社会化循环当中。

近期,作为一家数据分析企业的剑桥分析公司所导致的“脸书”用户隐私泄露事件受到社会各界广泛关注,其影响在持续发酵。人们不禁要问:“脸书”数据泄露事件到底反映了一个什么性质的问题,或者说“大数据时代怎么了”?

对此,可以有多种视角的解读和诠释。公众的第一反应似乎是大数据实业界在隐私保护方面做了很少的工作,因此把公众隐私置于风险之中。情况可能并非如此!恰恰相反,不论是政府部门、大数据业界抑或理论界等相关主体,在数据隐私保护方面已经做了不少努力。应当说,该事件反映的并不是人们在表层所看到的某个产业巨头不关注数据隐私保护的问题,而是数据产业界在对数据隐私保护付出巨大努力之后仍旧出现的隐私泄露问题!

在笔者看来,真正的问题实际上是新兴技术,尤其是数据和人工智能技术在新的技术时代是否正在脱离人类控制的问题!当然,毋庸置疑,这一事件的发生一定会使数据产业面临如何更好地平衡商业价值和商业伦理的问题,在产业活动中必须做到数据的合理使用和隐私保护的有机结合。人类在发展技术中能否真正实现对技术有效控制的问题,正在以一种新的形式出现在当代处于数据化生存的人类面前,我们必须更好地洞视我们的时代,对新技术时代的数据事实做整体化描述,描述作为技术事实、社会事实、伦理事实和法律事实的大数据。

我们生活在一个信息和图像数据爆炸的大数据时代,信息技术和互联网的发展正在深刻改变社会组织结构和个体行为规范,随着全球数据量的指数增长及其对人类生活的全面侵入,“大数据时代来临”成为全球性共识。笔者认为,“大数据时代”并非某种自然范畴,而是聚合了特定历史画面的社会发展模式,代表了某种强调某些特定性质并使其他性质边缘化的解释框架,“时代图景”往往具有丰富和多元性,每一种“时代图景”也都依赖于理论家思想谱系的主要元素。以大数据技术为基础的社交媒体正在演化为当代人类生活的重要结构性元素,新技术的社会运用正在不断重塑人们的生活方式,在新媒体技术所导致的生活方式变革中,用户隐私暴露与数据泄露等问题成为亟待关注的社会问题。

新技术演进的历史轨迹与时代坐标的定位

人类似乎正在进入一个“隐私谈话”终结的时代,越来越多的谈话和交流通过邮件、媒体和社交媒体进行。理解数据隐私及其泄露风险离不开“技术社会”这一重要现代性构架,我们应当把握新技术发展的历史轨迹并对时代坐标作准确定位。

对于置身其中的当代技术社会,我们可以用诸如“网络社会”、“信息时代”、“人工智能时代”、“大数据时代”等理论词汇进行描述和凝练。在1962年出版的《技术社会》中,埃鲁尔详细论述了“技术社会”之存在、特征及其对人类历史的影响。他的“技术”概念拓宽了传统思想界对技术的工具性理解,展示了具有宽泛和包容性的技术图景。他认为,技术是所有人类活动领域合理得到运用并具有绝对效率的方法的总体,哪里有以效率为准则的手段的研究和应用,哪里就有技术存在。

技术已经成为染指人类社会历史发展根基的统摄性力量,在一定意义上,技术决定着科学、经济及文化走向,技术已成为人类生存的新环境,这就是所谓的“技术社会”。历史地看,我们所处的新技术时代是以往技术社会的历史延伸和逻辑拓展,问题在于,其中到底有哪些逻辑架构的延展。

笔者认为,数据时代依旧面临着技术发展中的三重逻辑悖论挑战:一是“主奴悖论”,即制造者与制造物的矛盾,也就是如何避免制造物对制造者的叛逆,如何防止技术失控?二是“不均衡悖论”,即技术与社会制衡力量的矛盾。第三次工业革命以来,技术的指数增长与相应的社会规约、文化、伦理道德、文化系统的发展速度不匹配的矛盾更加凸显。三是“工具和目的悖论”,即原初意义上作为中性工具的技术与演化中成为意义源或目的本身的技术殖民困境。新技术文明中,人类还能不能作为一个主人而存在?这无疑是一个绕不过的基础性问题!

技术社会的三重逻辑悖论在当代数据社会中依然存在;同时,技术社会的众多实践又演化和呈现出不少新理论形态,比如新技术决定论:算法决定论、数据决定论;比如新伦理悖论:数据隐私与暴露、自动驾驶中的“新电车难题”等;比如技术恐惧论的新形态:新卢德主义、数据恐惧、算法共谋等。传统理论概念在数据时代生命力依旧存在,同时又遭遇不少新的技术事实和社会事实之挑战,在人工智能时代,新的技术产品是劳动友好型的,但新技术发展的过程往往是劳动替换型的,人工智能技术发展所导致的技术性失业的挑战已经得到各国关注。

目前,在大数据发展中,产业界、学术界以及政府机构对数据本身共识性的东西并不太多,采取的监管措施也非常多样化,实践中尚没有任何一个国家对数据的权属问题进行明确界定。按照库恩的范式理论,科学发展通常会经历从常规科学、科学危机、科学革命,再到常规科学的发展历程。大数据学科无疑具有多学科交融的特征,其发展一开始就在“危机重重”中行进。尽管在实践上取得了巨大进步,经历10多年发展后,大数据学科依旧处于追问“是什么”的阶段,不同学者、不同产业、不同国家和不同地区在一些基本问题上往往会给出不同答案。

从技术发展史来看,通常在技术发展初始阶段会存在对技术的“批判不足”、“神化或美化有余”的特征。跟传统技术发展不同,人们对大数据技术的发展,一开始就充满了质疑和反思,方向感并不清晰,疑惑和模糊一直存在,处于“边接受,边怀疑;边怀疑,边接受”的状态。也就是说,数据技术发展的风险问题一开始就受到高度关注,技术的社会批判理论必定呈现出与以往技术批判不一样的路径。

关注数据隐私,用伦理规约新兴技术发展

以现代性为基础构架的技术社会中的主奴关系、发展不均衡性以及目的工具关系中隐藏的三重逻辑悖逆正持续延展到数据社会中。同时,当代中国正在进入的大数据和人工智能社会,正面临新全球化、新工业革命、社会转型三重叠加的现实挑战。在当代社会,数据成为关键基础设施,对数据技术的治理也一直在进行,但似乎并没有避免问题的发生,一些新的技术实践活动后果在不断牵引出人类的技术忧虑。以信息科技和生命科技为核心,以新材料、新能源科技为代表的新兴科技发展极大推动了人类文明进步。由于高科技自身的高度复杂性和不确定性,加之其高投入、高收益、高风险等特征,由此带来的社会伦理问题也在日益增多。

信息技术发展伴随着两个主要技术革新,一是计算机硬件小型化,二是网络连接普遍化。图灵关于计算的理论分析为大型机诞生做了关键性准备。1950—1960年代大型计算机在关键领域的应用显示了信息技术的潜力,1970—1980年代个人机出现使得计算机进入了日常生活中。从应用伦理学学科发展脉络来看,20世纪80年代开始,对于新兴科技发展前景的争论中已经涉及新兴技术对社会规范的影响。20世纪90年代,在西蒙·罗格森、特雷尔·贝纳姆以及R.卡普罗等学者的推动下,计算机伦理开始关注信息社会的更大背景,而不仅限于计算机和网络伦理问题,信息伦理学成为真正意义上的现代信息伦理学。

对于信息伦理学来说,不只是要以经典伦理原则来讨论信息这个对象,更要为信息时代的人类生存提供新的伦理规范。实际上,新兴技术的出现一定会导致新伦理出现,比如作为信息伦理学家的摩尔提出伦理上的摩尔法则:技术革新对社会的影响越大,其产生的伦理问题越多;弗洛里迪等学者提出了在线生活宣言等。

现代世界的图像转换过程中伴随着隐私概念内容的不断丰富,我们应当明确数据隐私的基本含义,这无疑是进行数据隐私保护的基本前提。隐私是一个具有多元性的概念,可以从不同层面进行理解,其伦理内涵有一个历史演变过程。1890年沃伦和布兰迪斯在《哈佛法律评论》中首次提出了隐私权概念,将隐私视为一种权利;梅森进一步认为隐私是“控制、收集和使用个人信息的权利”;科尔南则将隐私定义为“某人控制其他人接触自己个人信息的能力”。斯库曼认为隐私与个人生活的私密方面,与人际关系的微妙方面,与人们关心他人对所知的关于自己的特定事情的态度等密切相关。

我们可以把隐私划分为物理隐私和信息隐私两类:前者主要指对个体的物理访问或者对个人私人空间的访问,而后者主要是指访问个人可识别信息。从历史上看,隐私首先是指物理隐私,漫长的农业社会以及工业社会初期,隐私主要用来指称与个人物理空间相关的“无形财产和权利”。随着信息技术的发展和后工业社会来临,个人和团体信息被纳入隐私保护范围,信息隐私演化为隐私的重要方面。在网络社会中,随着信息可获取性的极大增长和大数据时代的来临,数据隐私成为重要的隐私内容。

对隐私的讨论不能仅仅从个体价值和意义层面进行,而应当将其置于特定社会环境中。大数据、人工智能、网络技术发展使社会环境发生了重要改变,人们可以足不出户地利用技术完成绝大多数社交活动,满足各种需求,生活方式的改变使得人们对待隐私的态度也发生变化。

对此,赫里斯托菲季斯指出,技术环境影响人们的社交行为、各种网络社交新技术给人们提供了暴露隐私的方式和条件,鼓励人们通过暴露自己或者他人的隐私来获得人气。在商业利益驱动下如果暴露部分隐私可以获利,很多时候人们愿意主动暴露隐私,从而导致“隐私悖论”出现。个人独立空间的缩小往往会使得个人自我展示欲望增强、隐私个体化程度不断弱化;信息资源的共享化趋势则使得个人隐私的社会化程度不断增强。

大数据时代的最大风险是“我们并不了解大数据的风险”。在思想探索进程中,我们必须反对认识上的决定论,不能直接假定“大数据是坏的,或者大数据是好的”。除了关注技术进步本身,我们应当努力描述作为“社会事实”和“伦理事实”的大数据技术,应当对数据时代日常生活进行全面审视。数据时代的隐私泄露及保护问题,要求我们在技术层面重新审视技术与人的关系,发展“为了人类的技术”;在伦理层面发展负责任的伦理以规约新兴科技发展;在政策层面通过法律规定来进行监管,建立利益相关者广泛参与的有效网络和数据监管及保护机制。

努力提供大数据技术治理的“中国方案”

人们对大数据技术中存在的隐私泄露风险感到担忧,同时也对通过大数据追踪疾病、应对自然灾害,关注弱势群体的流动指标和规律等对社会带来的福祉感到兴奋。认识新兴科技风险的特征,反思当前新兴科技风险治理模式所面临的问题,研究更为合理的新兴科技风险治理模式,对于引导新兴科技走向“与人为善”的发展之路具有重要意义。

当前我国正努力于推进创新型国家建设,力图使科学技术更好地为社会、经济发展服务,在此情境下,反思中国当前的新兴科技风险治理模式存在的问题,建立符合中国国情的新兴科技风险治理模式显得尤为重要。数据是发展人工智能的关键基础设施,拥有针对特定领域的庞大数据集成能够成为塑造强大竞争优势的重要源头。以传统技术为规约对象的技术治理体系,并不能很好地适应网络社会发展的需要,处于现代化进程时空高度压缩和多重问题叠加阶段的中国,更需要加强对问题的反思、研判及应对,避免数据技术的泛化与滥用,充分借鉴国际经验,提供数据技术治理的中国智慧。

大数据技术治理应当做到顶层设计与行动主义相结合,应当着力解决发展失衡、治理困境、数字鸿沟、分配差距及数据隐私泄露等问题,进一步推进健康、协同和可持续发展,发挥社会与文化的想象力和洞察力,同时注重实践品格的培育。

对于大数据技术的发展既不能过度乐观,选择性简化或忽略问题的严肃性,也不能过于放大风险甚至成为“技术灾变论者”,因而裹足不前,阻碍技术发展。我们应当欢迎、认知和引领新技术,对新的信息和数据技术及其可塑性保持开放性心态。在大数据治理中,应当超越技术工具论假定的局限性,实现数据技术的价值回归。数据技术不仅仅是一种治理工具,大数据时代更应当成为人们未来生活的一个重要组成部分,赋权和激活治理主体,达到“共享共治”的目标。在此过程中要区分国家发展阶段的差异,发达国家经验不能照搬,因为不同的初始条件可以有不同未来场景。

从国际实践来看,由于各国具体情况不一,规制目标和个人数据保护水准的设定存在差异,各国在数据本土化、数据隐私保护、网络空间治理方面呈现出多样化的特征。总体而言,欧盟基本坚持更严格的数据管理,对数据发展中遇到的问题颁布不少相应法律条文进行规范,随着实践的发展,法律条文变化也比较快。比如“棱镜”计划曝光及美国脸书公司在欧洲非法追踪用户数据等被起诉后,欧盟法院于2015年判决2000年签署的保障跨大西洋数据流动的欧美“安全港”协议制度无效。美国则强调更加宽松的监管措施,坚持“风险为本”,努力促进技术创新。比如,2012年2月《消费者隐私权法案》中提出了“尊重场景”原则,同年3月美国联邦公平交易委员会提出“简化选择”原则等。

随着数据社会来临,对数据隐私保护和数据监管应更好地做到因地制宜,美国和欧盟的做法可以提供一些有益借鉴。作为数据技术发展的利益相关者,中国的数据技术发展并非“向左”或者“向右”的问题;处于时空压缩和快速现代化进程中的中国,在大数据时代和第四次工业革命中应当坚定不移地“往前走”。作为世界上最大发展中国家,当代中国的现代化实践发展已经超越了传统西方社会发展的模式和经验。基于西方社会发展实践的理论话语不足和难以提供行进的路标和方向,中国在大数据发展的理论和实践的不少方面已经处于引领和示范地位,中国应在新全球化进程中继续大国的责任与担当,为世界提供大数据发展的“中国道路”。