智慧城市建设中的算法歧视及其消除／周荣超

来源：领导科学网,领导科学杂志社唯一网站作者：周荣超日期：2021-04-25 10:55:12

能被有效证明。算法的不透明体现有两点：一是不准确，二是不公开。许多算法无法被仔细检查，因为它们所依赖的数据、过程或结果都是保密的。算法偏见是算法开发者或所有者为了满足自己的偏好，或者是要获得一定的结果，从而调整调控程序参数，使本来客观公正的算法偏离了轨道，成为人为操纵的工具。算法偏见是人工智能技术的伦理隐患，它把本来应该由人承担的责任转嫁和推卸到技术身上。算法和人类一样可能具有偏见，因为它们嵌入了主观价值。算法局限了民众的自由选择。年轻人容易受到诱惑，老年人由于科技运用的不娴熟会产生问题，边缘人群由于知识层次和收入水平较低，也并不能较好地共享智慧城市的成果。从目前智慧城市建设实践来看，存在着过分过度依赖技术应用，过度依靠高科技公司的设计与规划，反而忽视了城市居民的真正需求，缺乏对“谁的城市”“谁受益”等一系列问题的深入思考。私营公司积极参与到城市治理，城市发展的重心就会倾向于公司的需求而不是公民的诉求，智慧城市的规划建设项目就可能成为公司宣传的所谓的“成功案例”实践，并不是真正惠及城市居民的优质资源。

　　四、智慧城市建设中算法歧视问题的消除

　　正确处理数据偏见。在智慧社会，数据是资源，也是资产，数据的搜集分析与隐私保护，都需要通过数据治理进行。对数据的治理与分析不能仅仅依靠市场的力量和企业组织实行，因为数据涉及公共安全和公共服务的提供。所以，政府的作用不可或缺。这就要求政府树立数字化管理思维，创新数据资源与数据资产开发利用模式。具体而言，第一，在管理体制上设立相应的机构。大数据管理局等机构的设立，既是政府综合职能拓展的需要，也是新时代深化党和国家机构改革对现实的回应。第二，完善市场机制相关制度。技术的研发是由企业具体实施的，但需要顶层设计与政策保障，需要市场经济与法治环境。在制度设计方面，要抓好共建制度建立、共享内容开发和共享平台建设。第三，规制技术创新行为体的市场行为。克服算法歧视、算法黑箱等问题，需要技术不断的更新与进步。技术的应用要容易推广使用，要能够有效解决问题，要能够在可控的风险内进行操作。所以，在技术标准方面，要做好纵向对接、横向对接、条块对接和市场对接，在操作方式上，可以先试点后示范，通过政策扩散效应逐层逐级推进。同时，技术研发机构、研发主体要有行业标准与道德约束。

　　注重算法伦理。算法设计、使用的伦理规范就是要回归人类价值观的本质。首先，算法设计人员要像医生、律师等一样自律。运算法则的设计和运行与我们对法则所隐含伦理的理解差距，将会对我们个人、团体和整个社会产生重大影响。技术并不仅仅是一种物质手段，而是一种文化现象，是控制事物和人的理性方法。技术的开拓者与价值守望者是统一的，算法技术人员要正确运用技术，确保其在符合价值伦理的轨道运行。其次，提高用户算法素养十分必要。在算法时代，必须养成提问的好习惯。技术本身并不坏，假如你知道自己的需要，技术就能帮助你达成目标，如果你对自己的需要一无所知，那么技术就很容易为你塑造目标，控制你的生活。算法在越来越多的设置中控制着对人和信息的包含与排除，这在客观上赋予了算法延续、强化甚至创造新形式不公的权力。同时，对于算法过程的结果，

[1][2][3][4][5]