IT酋长认识到人工智能偏见的风险

2022-06-03 17:46:02来源:

副主席和IT经理副总监(CTO)的350名美国和英国CIO调查报告称,IT决策者正在越来越意识到人工智能(AI)偏见。

根据Datarobot的研究,近于美国和英国的近一半(42%)的AI专业人士表示,他们对AI偏见的“非常”关注。

Datarobot的AI BIAS 2019研究发现,大多数组织(71%)目前依靠AI执行最多19个业务功能。

“更多组织正在部署AI,因为他们认为这项技术是在当今商业环境中竞争的关键成功因素,”Datarobot的Trusted AI副总裁Ted Kwartler说。

接受调查的IT决策者的几乎五分之一表示,AI用于完成20至49个业务职能,10%表示他们使用AI完成超过50个业务功能。

DataRobot的研究发现,组织使用AI来执行各部门的功能,包括运营(76%),财务和会计(54%),营销(49%),销售(47%)和人力资源(35%)。

“我们已经观察到,AI成熟度广泛变化,许多组织仍然使用不值得信任的AI系统,”Kwartler补充道。

受调查的IT高管的最大AI偏见涉及包括“损害品牌声誉”和“客户信任损失”。

AI战略副主席科林牧师表示:“虽然许多组织已经开始采取合适的步骤来缓解AI偏见 - 例如远离黑匣子系统并建立内部AI指南 - 赢得企业和消费者的信任。

“每个企业都必须使AI偏见教育成为优先事项,因此他们可以在其AI系统中实施关键策略,这将有助于防止其发生。”

受访者表示,他们面临开发无偏见的AI算法的挑战,确定培训AI模型的数据,并了解输入数据如何涉及AI决策。

调查发现,65%的IT决策者正在使用工具来探索为什么AI造成负面决策。近三分之二表示,他们还使用工具来检查哪些输入数据对AI决策具有最大的影响。刚刚超过一半表示他们使用Word云来查看文本输入与AI决定相关的。

该调查报告称,美国94%的IT领导人和86%的英国IT领导人计划在未来12个月内投入更多地投资AI偏见预防举措。

为提升AI偏见预防努力,调查的59%的IT决策者表示,他们计划投资更复杂的白盒系统,其中AI决定是可解释的。超过一半(54%)表示,他们将聘请内部人员来管理AI信任,48%表示他们打算招募第三方公司来监督AI信任。

该调查还报告说,85%的IT领导人参加了调查,认为AI监管将有助于更好地定义构成AI偏差以及如何防止。


返回科技金融网首页 >>

版权及免责声明:凡本网所属版权作品,转载时须获得授权并注明来源“科技金融网”,违者本网将保留追究其相关法律责任的权力。凡转载文章,不代表本网观点和立场,如有侵权,请联系我们删除。


相关文章