报告称,警察使用算法需要更强的保障措施来防止偏见

2022-05-26 13:46:39来源:

根据安全智库皇家联合服务学院(Rusi)的一份报告,根据安全智库的一份报告,使用分析和算法在英格兰和威尔士的使用需要更加紧密审查和监管。

该报告将于数据伦理和创新中心委托(CDEI),将用于向本组织向监管部门的算法偏见提供信息。

审查是预期的帮助,Cdei开发了使用数据分析在警务中使用数据分析的新守则,以减轻偏见的风险,并满足与本技术的使用有关的更广泛的法律和道德问题。

“CDEI的目标是支持对英国的警察部队,以确信他们对这些新兴技术的使用正在改善他们提供的服务,并将获得公共信任,”CDEI发言人表示。

“本报告的调查结果将有助于我们制定国家指导,这将有助于做到这一点。”

专注于使用机器学习在预测犯罪映射和史式风险评估中,该报告发现增加了对预防警务的重视,导致力量越来越关注数据驱动的风险评估,这可能出现偏见问题。

“在警察数据上培训的算法”可以复制(在某些情况下放大)数据集中固有的现有偏差,例如对某些社区的过度或不受监督,或反映缺陷或非法行为的数据“报告。

然后继续说,即使在选择具体犯罪地区是这些数据驱动评估的主题,也可以出现偏差。

报告称,“预测技术解决方案被批评关注低水平的”滋扰“犯罪,或犯罪水平较高的地区,”报告说。

“一个学术专家建议,通过警方对问题的概念可能出现偏见(因此输入数据只会反映这一概念)。”

该报告指出了“团伙”围绕一个人口统计诬陷的概念的例子,因为它在2011年托特纳姆骚乱与团伙矩阵之后的伦敦。

帮派矩阵

虽然在报告中没有明确提及,但大都会警察的团伙矩阵是史的一个例子,旨在突出警察对问题的概念可能具有严重后果的思考。

在矩阵的情况下,史式为基于警方信息有关过去逮捕,定罪和任何其他相关情报的自动化风险分数。

然而,一个被困在矩阵中的大赦国际报告发现,矩阵上有40%的人有零点为零,这意味着警察没有记录他们参与暴力犯罪,而64%的辛勤人则被标记为“绿色”,这意味着它们的风险非常低。

在数据库上列出的那些,78%是黑色的。

“该软件将可能的帮派活动记录为一个具体的数据,因此目前尚不清楚在它进入数据库中的数据库时,协议矩阵实际上可以对此智能进行突出,或确定性的突出,”jaime谢菲尔德霍拉姆大学法律高级讲师恩典,当时每周告诉电脑。

2018年11月,信息专员办公室发现矩阵“严重”违反了数据保护法。

该报告进一步断言,提高数据驱动风险评估的重点是部分地,部分地通过自2010年以来的重大减少资源。

这是与数字转型的特定资金相结合,为警方建立了强烈的激励措施,以框架关于技术的任何新的发展,因此他们可以获得更多的中央政府支持,为数字举措创造偏见。

“考虑到这一点,选择是否实施特定的新技术能力可能本身可能受到偏见,”报告说。

它还指出,在紧缩的背景下,还提出了使用算法警务技术的公正性,如果更有资源可以迫使这种资源可能是不必要的。

Rusi Report是第一个将作为该项目的一部分发布的论文中的第一个,其中预计将于2020年3月发布。

“迄今为止的采访证据了解数据分析领域的更清晰的国家指导和领导,并普遍承认和欣赏合法性,一致性,科学的有效性和监督的需要,”报告说。

“显而易见的是,在继续前进新技术的全面部署之前,需要对所要求保护的福利和缺点进行系统调查。”

报告的作者采访的一名警察将当前的技术景观描述为“拼凑而非,不协调并交付到不同的环境中的不同标准和不同的结果”。

该报告的结论是,警察使用算法工具的新的做法准则必须建立模型设计,开发,试验和部署的标准过程以及正在进行的监测和评估。

它也应该是技术不可知论,提供明确的运营指南,这些指南补充了现有的做法或代码,并为英国的执法人员提供了明确的角色和责任,包括政策,国家警察司长和家庭。办公室。

该报告由Rusi和Harion Oswald的国家安全研究中的研究员亚历山大巴布塔撰写,该等教育厅副校长诺福利大学博览会高级法律法院副主席。


返回科技金融网首页 >>

版权及免责声明:凡本网所属版权作品,转载时须获得授权并注明来源“科技金融网”,违者本网将保留追究其相关法律责任的权力。凡转载文章,不代表本网观点和立场,如有侵权,请联系我们删除。


相关文章