避免错误的技巧这会导致错误的分析和片面的决策。我们在评估简历的机器人身上也看到了这一点。研究发现，根据相同的简历，男性更有可能被录用。因此，算法“了解到”最好雇用一名男性。这些类型的偏见阻碍了工作场所的包容性。在处理数据时，我们应该始终问自己一个问题：如果我在分析中添加或删除一条数据（例如申请人的性别），会发生什么情况？这些数据是否真的为分析和决策过程增加了价值，或者我们实际上是否产生了偏见，从而增加了做出错误决策的风险？拉特瑙研究所 最近建议政府行政机构在整个组织内投资道德专业知识等。第二点建议是对所使用的算法保持透明：算法的目的是什么、它们做什么以及对参与者意味着什么？还应该有一个算法登记册，许多较大的城市已经很好地建立了这个登记册。算法登记册是对算法的概述，例如阿姆斯特丹市政府在市政服务中使用的算法。对于每种算法，您都会找到有关该算法的目的和操作的一般信息。
数据治理的演变
建立适合算法和人工智能的道德使用的数据管理系统有许多不同的方面。过去，数据 新西兰电报数据 治理尚未得到充分考虑。现在是时候把它做好了。能够为您的组织提供帮助的技术是现有且成熟的。同时，您必须努力提高组织内部对使用某些数据的后果的认识。对员工进行培训，使他们只有在理解模型规定内容的原因后才能做出决定。这可以防止出现“计算机说不”的情况，也可以防止算法无意中成为领导者而不是建议者。
最后，值得注意的是，数据治理是从数据创建的时刻到数据删除的时刻的管理。这也意味着必须对特定目的的数据处理采取保障措施。这些是关于质量、及时性、隐私、敏感性和道德的保证。这些保障措施必须在系统中实施，但更重要的是，必须有人（角色、职责）来创建、处理和监控数据。这是从数据中获取最大价值的唯一方法，同时又不忽视风险。
该博客之前于 2022 年 12 月 14 日在 Winmagpro 上发布。