高度可信的技术，才是“我们的”技术 | 社会科学报

▋数字化社会

在一个理想的技术社会，任何技术或者技术物是“我的”或者“我们的”器官，我们不会被技术异化为物，我们是愉悦的。

原文 ：《高度可信的技术才是“我们的”技术》

作者 |南京大学哲学系教授 潘天群

图片 |网络

技术或者技术物被一些哲学家认为是人类延伸的器官，其实只有当技术或者技术物是可信任的时候，它才是我延伸的器官，否则它们便是我避之唯恐不及的异物，甚至是怪物。我信任我的手、我的胳膊，因为它们是我身体的一部分，我也信任我的朋友；但我不信任频繁出故障的汽车或者飞机，我会远离它们，因为它们会伤害到我。一个理想的技术社会是所应用的技术是高度可信任的社会，在该社会中技术物其行为不是不可预知的怪异之物，而是我的或者我们的身体的一个部分，我信任它们如同信任我的手、我的胳膊那样。

只有在“我们”之间才有信任

信任是一种与相信不同但又密切相关的心智态度。相信是一种心智态度——严格地说是一种认知态度，其对象是某个命题，相信的命题便是信念。我相信“人工智能将替代人类”，“人工智能将替代人类”便是我的信念。信任的对象通常是人——也可以延伸到物。A信任B，指的是：（1）A相信，B在能够伤害A的场合下会做对A有利的行为，或者至少不会做能够伤害A的行为；（2）伴随着信任状态，A的心理是平静且愉悦的。比如我信任我的朋友老马，此时，我相信老马不会背地里说我坏话，在我困难的时候至少不会落井下石，等等；并且，当我的心中浮现对老马的信任时，我的心中泛起愉悦的情绪。相应地，“不信任”是指某人对另外一个人是否做出有利于自己的行动没有信心，处于不信任状态下的人往往是焦虑的；这里焦虑是一种担忧会出现某种坏的可能结果的负面情绪。我们看到，在信任中或者不信任中，心灵将外在于心灵的某个人关联了起来。

信任是对另外一方友好行为的预期，而这种预期建立在对另外一方已有的行为的观察之上。信任出现在社会中的如亲人之间、朋友之间、上下级之间的关系之中；信任也可以存在于刚刚认识的人之间。有了信任才形成“我-你”关系或者才能形成“我们”，或者说只有在“我们”之间才有信任——纯粹的陌生人之间是没有信任状态的。信任是默守某种约定，战场上的双方用尽各种手段杀死对方，此时没有信任可言；而一旦签订了停火协议，是否相信对方遵守协议便是一个信任问题。

社会的存在依赖人类的合作，而信任是人类能够合作的前提。霍布斯在利维坦中借“傻瓜”之口论证说：违背契约是合理的，因为遵循契约将有成本。事实上霍布斯所描述的人类原初状态便是一个没有信任也无需信任的社会。我帮邻居收割了麦子，我信任该邻居，相信他也会帮助我收割麦子；然而，正如休谟分析的，邻居从自我利益出发可以违背某种心照不宣的约定，他可以选择不帮我割麦子。如果我不信任邻居，即不相信他会默认这种约定，那么，我不可能预先帮他割麦子。在现实中正是我对邻居的信任和邻居不辜负我对他的这种信任，使得我和邻居间形成了合作关系。

高度可信任的技术会提升社会福利

当前技术深度参与到对社会的构建中，社会的运行与合作从依赖人对人的信任到依赖人对技术的信任。技术信任是指我们在使用某项技术物时，“相信”该技术物或技术系统能够按照“约定”来运行，以帮助我们实现某个目的。当我们安心地使用技术物时，我们便是在信任该技术物及其背后的技术系统；在技术信任中，我们的心理状态是平和的或者是愉悦的。

任何技术都是技术工程师在一定的制度下研发的，而这样的技术经过一系列程序审查被认可后面世。技术被应用于社会之中后，它便在社会中与多方建立了合作关系。因此，人们使用这样的技术意味着信任该技术背后的整个开发和运行体制。我乘坐高铁，因为我信任制造高铁的中国工程师和运营高铁的铁路系统人员；我信任飞机制造商、也信任飞行员，因而我愿意乘坐飞机旅行。当我选择乘坐高铁、飞机时，我便与高铁系统、航空系统形成了合作关系。若我对某项技术物缺乏信任，我便不愿意与这一技术系统合作，因为它可能会伤害到我。当然这是有可能的，我所信任的技术物“辜负了”我的信任，它的性能不令我满意，或者出现了我意料之外的故障且伤害了我，如同我信任的朋友背叛了我那样。

我们不信任性能不可靠或者性能不稳定的技术，因为它会伤害到我们。我们使用这样的技术或者技术物时会产生某种“技术焦虑”——担忧技术会造成伤害。我不信任某种不成熟的医疗技术及使用该技术的医生，因为使用该项技术发生医疗事故的概率很高；若我手机里的软件可能会泄露我的银行信息、手机中的照片等，我便处于焦虑之中；乘坐上不安全的飞机，我也会感觉到焦虑甚至恐惧。而如果社会中的技术大多是这种不可信任的，我便处于高度不安全之中。若我处于这样的社会中，我会极度恐惧。这样的技术社会是一种如同人类“原初状态”那样糟糕的社会，这样的社会是可想象的。当然，没有技术信任的社会，其背后的实质是人与人之间的欺骗和不信任。

我们应当发展高度可信任的技术。高度可信任的技术，其安全性、性能稳定性都是极高的，这样的技术便是“人的”技术，这样的技术物如同我身体上长出的器官那样。高度可信任的技术会提升整个社会的福利。一个理想的技术社会是“所有的”技术都是高度可信任的，在这样的社会中，任何技术或者技术物是“我的”或者“我们的”器官，我们不会被技术异化为物。生活在这样的社会中的人们是愉悦的，是没有技术焦虑的。

文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1871期第6版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

本期责编：王立尧

拓展阅读

数字技术勾勒未来城市新轮廓 | 社会科学报

适应性的数字成瘾技术治理体系亟需构建 | 社会科学报