智慧城市建设中的算法歧视及其消除／周荣超

　　三、智慧城市建设中算法歧视的表征

　　智慧城市建设中的数据源偏见问题。互联网时代，政府智慧化治理的依据是数据，可以这样说，“不见面审批”等智慧政务模式就是政府通过数据来联系市民的情感纽带。算法与算力的发展，使万物互联、人机交互有了实现的可能性。物联网主要是构建人与人、物与物、人与物的信息交互网络，从而在交互过程中实现实时的感知与控制。要实现有效控制，就要对相关数据进行分类分级处理。首先，移动设备数据、支付数据、位置数据这三个关键的社会数据是解决问题的突破口。如果你无法衡量数据，就无法管理它。然而，数据在搜集的过程中，由于搜集主体的偏好，数据也是具有倾向性的。其次，数据在分析过程中，由于技术原因与数据研究者的需要，可能存在修正数据以便得到自己想要的结果，这也造成了数据源头的偏见，给智慧城市的平台运营与随后算法的选取埋下了隐患。当抗拒和拒绝变得明显强于服从和接受时，权力关系就会发生转变。随着网络平台上各种信息登记的要求，我们通过填写和登记的个人信息来换取使用应用软件权利，但同时，我们也在不知不觉中交出了自己的数据自由和数据财产。再次，数据作为资本的附属物造成人发展的新分化。掌握数据的企业或有钱人成为数据资产阶级，交出数据的人成为数据无产阶级或无用阶级。

　　智慧城市建设中算法能力掌控问题。算法作为一种知识的权力，逐渐成为精英阶层的工具，展现为奇特的精英文化类型，显现出民粹主义与精英民主混合交替作用的特性。算法的关键是决策过程的自动化，这大大减少了人们对决策过程的掌控。算法在运算过程中逐渐形成一定的计算方法，形成算法依赖与算法锁定。最好将算法设想为将人类和非人类、文化和计算结合在一起的社会技术组合。在实施过程中，由于算法能力掌控问题，算法偏差还可以存在于一个算法运行过程的多个地方，训练数据中也会存在偏见而产生与实际差别较大的结果。以人类现有的认知水平来看，算法的真实性、可信度和透明度是受质疑的。从经济的社会形态来看，我们就会发现交互主体与社会对象的关系不仅仅是单纯的掌控管理数据，而更多的是一个对他人的统治问题。只是这种统治是凭借对数据的占有而实现的，是较为隐性的统治形式。所以，智慧城市建设过程中，对算法的选取与应用天然地就存在一定的技术缺陷与不足。这既体现在算法自身，也体现在掌握算法的人身上。

　　智慧城市建设算法透明与追溯问题。算法歧视也体现在算法的不透明性与算法结果的不可追溯性。算法不透明导致算法过程不可预测，算法不确定导致算法结果不