AI を利用した求人ツールは採用の多様性を改善しない可能性があると専門家は主張する

トップライン

人工知能を使用して性別や人種の偏見を回避すると主張する求人ツールは、雇用の多様性を改善しない可能性があり、実際にはそれらの偏見を永続させる可能性があると、ケンブリッジ大学の研究者は日曜日に主張し、過去に批判を集めてきたプログラムをキャストしました。テクノロジーを使用して、より深刻な問題を迅速に解決する方法として。

キーポイント

重要な引用

「人種差別、性差別、およびその他の形態の差別は、人工知能を使用して採用プロセスから取り除くことができると主張することにより、これらの企業は、私たちが世界を移動する方法を形作る権力のシステムではなく、人種と性別を取るに足らないデータポイントにまで減らします. 」 ドレージは声明で述べた。

タンジェント

アマゾンは2018年にそうすると発表した stop AI 採用ツールを使用して求職者の履歴書を確認した後、システムが女性を強く差別していることがわかった. これは、過去 10 年間に同社に提出された履歴書に基づいて開発されたコンピューター モデルが使用されたためです。

重要な背景

組織は、採用プロセスの管理を支援するために、ますます AI に目を向けています。 一つで 2020投票 日曜日の論文の著者が引用した 300 人以上の人事リーダーのうち、コンサルティング会社 Gartner は、雇用主の 86% が雇用慣行で仮想テクノロジーを使用していることを発見しました。この傾向は、Covid-19 のパンデミックにより多くの人がオンラインに移行することを余儀なくされて以来、加速しています。 一部の企業は、AI がよりコスト効率と時間効率の高い採用プロセスを提供できると主張していますが、一部の企業は、 専門家 持ってる 発見 システムは、現実世界からの既存の偏見を複製することにより、人種的および性別に偏った雇用を排除するのではなく、促進する傾向があります. 複数の米国議員が 目的としました 技術は急速に進化し続けており、それを規制する法律はほとんど存在しないため、人工知能システムのバイアスに取り組むために。 今週発表されたホワイトハウス 「AI 権利章典の青写真」では、雇用に使用されるアルゴリズムが「既存の望ましくない不公平を反映して再現する」か、新しい「偏見と差別」を埋め込むことがわかっていると主張しています。 法的拘束力や公式の政府方針ではないこの青写真は、企業に対し、AI がデータのプライバシーを差別したり侵害したりしないようにすること、および AI がいつ使用されているかをユーザーに知らせることを求めています。

何に気をつけるべきか

推奨事項のリストでは、日曜日の著者 理念と技術 論文は、AI 技術を開発する企業は、「個別化された偏見」ではなく、より広範で体系的な不平等に焦点を当てることを示唆しています。 たとえば、彼らは、ソフトウェア開発者が候補者を分類、処理、分類するために使用されるカテゴリを調べ、これらのカテゴリが性別や人種に関する特定の仮定に依存することによってどのように差別を助長するかを調べることを提案しています. 研究者はまた、人事の専門家は、AI 採用ツールがどのように機能し、潜在的な制限が何であるかを理解しようとする必要があると主張しています。

意外な事実

欧州連合は、AI を利用した採用ソフトウェアと業績評価ツールを、新しいガイドラインで「高リスク」に分類しています。 ドラフト つまり、ツールはより精査され、特定のコンプライアンス要件を満たす必要があります。

参考文献

DC は AI バイアスとの戦いをリードしたい （Axios）