AI倫理は、AIバイアスを提供することで、倫理的に邪悪な完全自律システムを捕まえて捕まえるための狩猟の報奨金が賢明であるか無駄であるかを慎重に評価します

AIが賞金稼ぎにバイアスをかけることを奨励しても大丈夫ですか、それともそうすることで事態を悪化させていますか？

ゲッティ

募集： AIバイアスハンター.

これは、ソーシャルメディアチャネルにポップアップ表示され、さまざまなオンライン求人広告に表示されるようになる現代の広告である可能性があります。これは比較的新しい概念または役割です。それは論争を伴います。熱心な信者の中には、それが十分に理にかなっており、ずっと起こっていたはずだと熱心に主張する人もいれば、かなり神経質に頭を悩ませている人もいます。

役割の要点は、AIから隠れた偏見や埋め込まれた差別的慣行を探し出すことです。救助のために、熱心でかつてのAIがハンターにバイアスをかけています。彼らはおそらくコンピューターに精通した賞金稼ぎになるでしょう。もっとそう、うまくいけば、AI機能の深みに浸っています。

銃を持って、移動し、AIに熟練した鋭い射撃手技を介して、これらの不快で厄介なAIバイアスを明らかにすることができます。

これは、AIバイアスを発見することになると、そのような戦術を追求することの感性について多くの厄介な質問を提起します。後で説明しますが、AIの出現により、AIバイアスの出現ももたらされたことをご承知おきください。 AIバイアスの急流。 AI倫理と倫理的AIに関する私の継続的かつ広範な報道については、以下を参照してください。ここのリンク & ここのリンクちょうど少数の名前を挙げる。

特定のAIシステムにバイアスがあることをどのように発見しますか？

AIを考案したAI開発者にそうすることを任せるかもしれません。問題は、彼ら自身が彼らの作成されたAI内のバイアスを認識できないほどバイアスに悩まされているかもしれないということです。それはすべて彼らによく見えます。あるいは、AIに非常に興奮していて、AIに誇りを持っているため、AIを批判的に調べてバイアスがないかどうかを調べる必要がある場合は、困難であり、真のダウナーになる可能性があります。他の多くのそのような理由は、埋め込まれたバイアスを理解するためのスキルの欠如、そうするためのプロジェクトの時間の欠如などを含めて、AI開発者にこのタスクを引き受けさせることを弱めるように見えるかもしれません。

さて、先に進んで、いわばあなたのために汚い仕事をするために外部のコンサルタントを雇ってください。コンサルタントがあなたのAIの偏見を喜んで精査し、そうするためにかなりのペニーを請求することがわかりました（たくさんのペニー）。 AIシステムに慣れるには、彼らにお金を払う必要があることを認識してください。次に、それらをあちこちに移動させる必要があります。これには、莫大な数の費用のかかる面倒な時間がかかる可能性があります。予算があれば、コンサルタントを利用することもできます。

これらの陰湿なAIバイアスを見つける方法の潜在的な「ギャップ」には、英雄的で威勢のいいAIバイアスが賞金稼ぎになります。

通常、前払いはしません。彼らは自分の時間にAIの偏見を見つけようとし、そうするように自分の手形を踏まなければなりません。彼らが偏見をうまく見つけた場合にのみ、彼らは報酬を受け取ります。適切な考え方で、それがバウンティハンターの従来の定義であると簡単に断言できると思います。成功すれば報酬を受け取ります。あなたが成功しなかった場合、支払いを受けないでください。期間、物語の終わり。

報奨金プログラムは、少なくともローマ人の時代から存在しており、したがって、これらの年のすべてにわたって慣習として首尾よく耐えてきたので、それらは機能していると推測することができます。

ここにあなたのための歴史的な雑学の魅力的な部分があります。伝えられるところによると、ポンペイ市のローマ帝国の間に投稿されたメッセージは、小さな店から行方不明になった銅の鍋を見つけるために賞金稼ぎが必要であると宣言しました。銅の壺の回収に対する報酬は、XNUMX枚の青銅貨の印象的な賞でした。バウンティハンターが銅の壺を見つけてブロンズコインを要求したかどうかはわかりませんが、バウンティハンターは古くから確かに続いていることは確かです。

より現代では、1980年代に、市販のソフトウェアパッケージのコンピュータのバグやエラーを見つけるためにいくつかの注目すべき報奨金が提供され、1990年代にNetscapeがWebブラウザでバグを見つけるための報奨金を著しく提供したことをご存知かもしれません。（そうするためにその日の最も著名な会社の2010つになる）。グーグルとフェイスブックはそれぞれ、2013年と2016年からそれぞれバグの報奨金狩りを選択していました。数年後、XNUMX年に米国国防総省（DoD）でさえ、「国防総省をハックする」報奨金の取り組みを開始しました（公に焦点を当てた報奨金は、さまざまなDoD関連のWebサイトで見つかったバグに対するものであり、国防総省のミッションクリティカルなシステム）。

バグバウンティのトピックをさらに深く掘り下げてみましょう。このディスカッションでは、主にバウンティハンティングにおけるAIバイアスについて話すことを目的としていることを認識していますが、バグバウンティの分野と非常に関連性のある類似点がいくつかあります。

一部の企業は、システム内のバグ（またはこの場合はAIバイアス）を見つけるための報奨金を提供したいと考えることに明らかに戸惑っています。

一見すると、これは「あなたがそれを求めている」ような戦略のように思えます。あなたがあなたのソフトウェアに穴を見つけようとするかもしれない人々を歓迎することを世界に知らせるなら、それは泥棒に先に進んであなたの家に侵入しようとするように言うことと同じように思われます。あなたがかなり良い盗難警報システムを持っていて、誰もあなたの安全な家に入ることができないはずだとすでに信じているとしても、あなたの住んでいる場所にすべての泥棒が降りてくるように頼み、実際に懇願することを想像してください。それに割り込む。ああ、私たちが自分たちのために織り成す問題。

バウンティハンターにAIのバイアスを見つけるように依頼することについても同じことが言えます。

まず、AIにバイアスがあることをすでに信じているか、完全に知っていることを意味している可能性があります。これは、驚くほど率直な暗黙の承認であり、ほとんどの人が喜んで行うようには見えず、潜在的に裏目に出る可能性があります。

第二に、あなたはそれらの賞金稼ぎが何をするかもしれないかを確かに知りません。彼らはあなたのAIに偏見を見つけたことを全世界に伝えることを選ぶことができます。これは賞金の獲得を失う可能性があると考えられますが、注目を集めたり、コンサルティングギグやその他の収益を生み出す可能性を獲得するためのステータスを強化することを目的としたりする人もいます。それはおそらく完全に利他的かもしれません。それはAI活動の一形態かもしれません。私は続けることができます。

第三に、事件全体に卑劣なひねりがある可能性があります。 AIバイアスを探していると主張する賞金稼ぎは、AIシステムを攻撃する方法を見つけるために悪魔のように突っついている可能性があります。すべては、最終的に深刻なサイバー攻撃を行うためのシャレードです。あなたは彼らが彼らの心に不正をしている間、彼らが助けようとしていると思ったかもしれません。悲しいですが、可能です。

第四に、私たちはこの問題についてさらにずる賢くゆがめることができます。バウンティハンターは、恥ずかしい、訴訟を引き起こす可能性のあるAIバイアスを見つけます。賞金は、Xと呼ぶ金額です。賞金を請求するのではなく、賞金稼ぎは一種の奇妙なランサムウェアの挑発を行います。バウンティハンターにXのXNUMX倍の金額を支払うか、空の制限を支払うと、AIのバイアスについて教えてくれます。あなたは日曜日の夜深夜まで答える必要があります。その時点以降、AIのバイアスが明らかになり、すべての人が見ることができるようになります。 Yikes、ひどい窮地に陥る。

第XNUMXに、最新のものは、オンライン生地を大量に盗んだ後、悔い改めて、手に入れた戦利品の一部を返却することを決定した、いわゆる「ハック・トゥ・リターン」サイバー詐欺師です。金銭を部分的に返還する会社は、盗まれた残りの金額を、泥棒に報われる事後の報奨金と見なすことをいとわない。資金の大部分が返還され、その間サイバー詐欺師が合法的に追跡されていないという点で、誰もが「勝ち」ているようです。さらに、海賊の賞金を獲得します。これは賢明なのか、それとも知らぬ間に不法な行為を永続させるのか？

偏見のあるAIを誰もリリースしてはいけないと言っている方もいらっしゃるかもしれません。それは、AIバイアスバウンティハンターを使用するかどうかについてのこの全体的なジレンマを解決するように思われます。ただ、恵まれた状況に身を任せないでください。 AI開発者が正しいことを行い、AIシステムへのAIバイアスを許可しないようにしてください。おそらく、コンサルタントを使用して再確認を行います。本質的には、AIバイアスの賞金稼ぎにテーブルに来ることを考えたり、頼んだりすることを避けるために、必要なことは何でもしてください。

はい、それは完全に理にかなっているように思われます。問題は、それも少し夢のようなものだということです。多くのAIシステムは非常に複雑であるため、XNUMXオンスのAIバイアスが発生しないようにするのは困難です。その上、一部のAIシステムは、進行中に調整および「学習」するように意図的に考案されています。これは、将来のある時点で、最初は純粋にクリーンでバイアスのないふりをしたAIが、バイアスを具体化する方向に引き寄せられる可能性があることを意味します（これは、擬人化された方法ではありません。これについては、後で詳しく説明します。このトピックに沿って進んでください）。

ソフトウェアのバグに対する賞金稼ぎを好む人は、そのような賞金を提供することが理にかなっていると主張する傾向があります。それらの理論的根拠を検討し、それがAIバイアスの領域にも当てはまるかどうかを確認できます。

バグバウンティの支持者は、システムに穴がないふりをするのではなく、「制御された」方法で穴を見つけるように促しませんか？対照的に、そのような報奨金の努力がなければ、偶然に誰も穴を見つけられないことを願って祈ることができますが、代わりに報奨金を提供し、穴を見つけた人に報われることを伝えると、その後、自分で穴を埋めて、他の人が後で密かに穴を見つけるのを防ぐチャンスです。

AIバイアスのユースケースでも同じことが言えます。十分な報奨金を提供する場合、うまくいけば、報奨金ハンターはAIバイアスの発見に注意を向けさせるでしょう。その後、比較的静かで測定された方法でAIバイアスに対処できます。これは、後ではるかに大きく、より困難な問題を未然に防ぐ可能性があります。つまり、他の誰かがあなたのAIにAIの偏見を見つけ、それについて天国に向かって叫ぶということです。

一般的に、バグバウンティハンティングの取り組みを可能にしたい企業は、Vulnerability Disclosure Policy（VDP）を導入します。 VDPは、バグを見つけて会社に報告する方法と、ハンターに報酬または報奨金を提供する方法を示します。通常、VDPは、ハンターが見つけたものを他の人に明らかにしないように、秘密保持契約（NDA）に署名することを要求します。

バウンティハンターでNDAを使用するという概念には、いくつかの論争があります。発見されたエクスポージャーをママに保ちたいという報奨金を提供している会社にとってはおそらく理にかなっていますが、そのようなバグについての全体的な認識を抑えるとも言われています。おそらく、ソフトウェアのバグについて話し合うことが許されれば、他の企業の他のシステムの安全性を高める可能性があり、それが彼らのエクスポージャーを強化するでしょう。一部の賞金稼ぎは、一部は国民の欲求のため、一部は自分の身元を隠そうとしているため、NDAに署名しません。 NDAの側面は、ハンターが事前に要求するのではなく、バグを発見したと主張するまでは通常発生しないことにも注意してください。

一部のVDPは、NDAは限られた期間のみであると規定しており、会社は最初に明らかな穴の解決策を見つけ、その後、それについてより広い開示を可能にします。穴が塞がれると、会社はNDAを緩めることを許可し、世界中の人々がバグについて知ることができるようにします。バウンティハントされたバグの一般的な解決までの時間は、企業がすぐにプラグインしたい場合は約15〜20日と報告されていますが、それ以外の場合は60〜80日になる可能性があります。バウンティハンター、いわゆる支払い時間の支払いに関しては、ホールが実際に存在することが確認された後、バウンティの支払いは、小規模なインスタンスでは約15〜20日以内、約50〜60日であると報告されています。より大きなインスタンスの日数（これらは常に業界の兆候を変化させており、例示としてのみ言及されています）。

AIバイアスバウンティハンターもVDPに参加し、NDAに対処するように求められるべきですか？

あなたはその質問に賛成と反対を得ることができます。はい、一部の企業はそのルートに進む必要があります。いいえ、必ずしもそのルートを選択するとは限りません。要因には、AIのサイズと性質、関連するAIバイアスのエクスポージャーの可能性、およびその他の倫理的、法的、およびビジネス上の考慮事項が含まれます。

私は、あなたのAIのAIバイアスに対する賞金稼ぎの努力を確立することは、あなたが最初に想像するよりもはるかに高い順序であると付け加えるかもしれません。

AIバイアスの賞金稼ぎに圧倒されるという恐ろしい可能性から始めましょう。

今のところ、そのようなコーリングカードを持っている人を見つけるのは難しいでしょう。周りにはあまりありません。その点では、西部開拓時代の時代です。しかし、賞金稼ぎでのAIバイアスの概念が定着した場合、特に賞金が豊富でやりがいのある場合は、誰もがバイアスハンティングプールに飛び込むことは間違いありません。

AIシステムでAIバイアスを追求するあらゆる種類のリフラフが必要ですか？あなたは実際にこの種のものの専門家である何人かのテイカーを得るでしょう。あなたはアマチュアであり、混乱したり泣いたりするオオカミを作るかもしれない他のテイカーを得るでしょう。次に知っているのは、「人工知能」を綴ることができる人なら誰でも、貴重なAIバイアスの金塊のためにAIシステムの金塊を掘り下げることになるでしょう。ゴールドラッシュが始まっています。それはあなたにとって良くないかもしれません。

バウンティハンターの提出物を精査する必要があります。バウンティハンターはいくつかを見つけたと主張していますが、主張されたAIバイアスの多くが存在しないという意味で、報告された主張には多くの「ノイズ」があります。バウンティクレームを調べ、それぞれの有効性を調査し、金が発見されたかどうかについてバウンティハンターと行ったり来たりするために、自分のAIチームがどれだけの労力を必要とするか想像してみてください。

それがすべてを自分で行うもうXNUMXつの理由であると主張する人もいます。あなたは必然的に、その恵みが価値があるよりも厄介であることに気付くかもしれません。

ここに熟考する別の質問があります。バウンティハンターは、AIバイアスがどのように見えるかをどのように知るのでしょうか？本質的に、何を探すべきかについての類似性がなければ、どんな光沢のある岩も、発掘されている知覚されたAI金鉱のAIバイアスを示していると主張することができます。

西部開拓時代に、ビリー・ザ・キッド（有名な無法者）の捕獲に対して報酬を提供したとしましょう。あなたがそうし、ビリーがどのように見えるかの写真を含めなかった場合、彼らが希望または思った誰かがビリー・ザ・キッドであると保安官の事務所に引きずり込むかもしれない賞金稼ぎの数を想像してください。偽のビリーが殺到するかもしれません。おそらくそれぞれを見て、詳細な質問をし、その人が本当にビリーであるかどうかを確認する必要があるため、これは悪いことです。

重要なのは、AIバイアスの報奨金の努力を設定するには、AIバイアスが何で構成されていると考えるかを明確にすることをお勧めします。これには、Goldilocksのようなキャリブレーションが必要です。バウンティハンターがAIバイアスをあなたの規定した定義に適合しないという理由だけで見落とすほど閉じ込められたくないし、「ユーレカ！」と叫んでほしくない。彼らが見つけたAIバイアスのあらゆる一口で。

AIバイアスが構成するものの適切なゴルディロックスバランスが必要であり、したがって、その明確な方向性を提供することが望ましいでしょう。

このAIバイアスの多くは、賞金稼ぎがAIベースの機械学習（ML）およびディープラーニング（DL）システムに焦点を当てることになります。 ML / DLの普及が進んでいるため、これは理にかなっています。さらに、過度のAIバイアスを包含するという最も可能性の高い課題がいくつかあるようです。

これらの研究者は、特にML / DLのコンテキストで、AIが賞金稼ぎの取り組みにどれほど顕著であるかを特定しています。（またはハッカー）よりインタラクティブで生産的な目的に向けて。意図的に外部の関係者を招待してシステム内のソフトウェアまたはハードウェアのバグを見つけ、そのための金銭的インセンティブを提供することで、より健康的でより迅速に対応するエコシステムが進化することを期待しています。 MLコミュニティにとって、バイアスやその他の望ましくない動作を伴うモデルやシステムのタイムリーな発見と修復に対して、同様の「バイアスバウンティ」アプローチを検討するのは自然なことです。ソフトウェアのバグを見つけるのではなく、外部の関係者はバイアスを見つけるように求められます。たとえば、トレーニングされたモデルがパフォーマンスを低下させる入力の（人口統計学的またはその他の）サブグループ）。 Ira Globus-Harris、Michael Kearns、Aaron Rothによる「バウンティ」）。

研究論文では、著者は、賞金稼ぎがどのような種類のAIバイアスを求めることができるかについての提案されたアプローチを概説しています。そのように発見されたとされるAIバイアスに関連するバウンティハンターの主張を評価する方法についての指摘もあります。ここでの私の以前の発言によると、あなたは疑わしい主張を受け取り、AIバイアス小麦をもみ殻から分離しなければならない可能性があります。

AIバイアスハンティングの根底にある野生的で羊毛のような考慮事項についてさらに肉やジャガイモに入る前に、深く不可欠なトピックに関するいくつかの追加の基礎を確立しましょう。 AI倫理、特に機械学習（ML）とディープラーニング（DL）の登場について簡単に説明する必要があります。

最近のAIの分野で、そしてAIの分野の外でさえ、最も大きな声のXNUMXつが、倫理的なAIのより優れた類似性を求める声で構成されていることを漠然と知っているかもしれません。 AI倫理と倫理AIを参照することの意味を見てみましょう。その上で、機械学習とディープラーニングについて話すときの意味を探ります。

多くのメディアの注目を集めているAI倫理のXNUMXつの特定のセグメントまたは部分は、不利な偏見や不平等を示すAIで構成されています。 AIの最新の時代が始まったとき、今では何人かが呼んでいるものに対する熱意が爆発的に高まったことをご存知かもしれません。 AI For Good。残念ながら、その噴出する興奮に続いて、私たちは目撃し始めました 悪い人のためのAI。たとえば、さまざまなAIベースの顔認識システムには、人種的バイアスや性別バイアスが含まれていることが明らかになっています。ここのリンク.

反撃するための努力 悪い人のためのAI 活発に進行中です。声高に加えて法的不正行為を抑制することを追求する一方で、AIの卑劣さを正すためにAI倫理を採用することへの実質的な推進力もあります。概念は、AIの開発とフィールド化のために、主要な倫理的AI原則を採用し、承認する必要があるということです。 悪い人のためのAI 同時に、好ましいものを告げると同時に促進する AI For Good.

関連する概念として、私はAIの問題の解決策の一部として、AIをそのような考え方で火と戦うことを試みることを提唱しています。たとえば、倫理的なAIコンポーネントをAIシステムに組み込んで、AIの残りの部分がどのように動作しているかを監視し、差別的な取り組みをリアルタイムでキャッチする可能性があります。ここのリンク。また、一種のAI倫理モニターとして機能する別のAIシステムを用意することもできます。 AIシステムは、別のAIが非倫理的な深淵に入る時期を追跡および検出するための監督者として機能します（このような機能の分析を参照してください。ここのリンク).

すぐに、AI倫理の根底にあるいくつかの包括的な原則をあなたと共有します。あちこちに浮かんでいるこれらの種類のリストがたくさんあります。あなたはまだ普遍的な魅力と同意の唯一のリストがないと言うことができます。それは残念なニュースです。幸いなことに、少なくともすぐに利用できるAI倫理リストがあり、それらは非常に似ている傾向があります。とにかく、これは、ある種の合理的な収束の形によって、AI倫理が構成されているものの一般的な共通性に向けて私たちが道を見つけていることを示唆しています。

最初に、AIを作成、フィールド化、または使用する人にとって重要な考慮事項となるものを説明するために、倫理的なAIの全体的な原則のいくつかを簡単に説明しましょう。

たとえば、バチカンが ローマはAI倫理を求める そして、私が詳細にカバーしたようにここのリンク、これらは、特定されたXNUMXつの主要なAI倫理原則です。

透明性： 原則として、AIシステムは説明可能でなければなりません
インクルージョン： すべての人間のニーズを考慮に入れて、すべての人が利益を得ることができ、すべての個人が自分自身を表現し、成長するための最良の条件を提供できるようにする必要があります
責任： AIの使用を設計および展開する人は、責任と透明性を持って進めなければなりません
公平性： 偏見に従って作成または行動しないでください。これにより、公平性と人間の尊厳が保護されます。
信頼性： AIシステムは確実に機能する必要があります
セキュリティとプライバシー： AIシステムは安全に機能し、ユーザーのプライバシーを尊重する必要があります。

米国国防総省（DoD）が 人工知能の使用に関する倫理原則 そして、私が詳細にカバーしたようにここのリンク、これらはXNUMXつの主要なAI倫理原則です。

責任者： DoDの担当者は、AI機能の開発、展開、使用に責任を持ちながら、適切なレベルの判断と注意を払います。
衡平： 部門は、AI機能の意図しないバイアスを最小限に抑えるために慎重な措置を講じます。
追跡可能： 部門のAI機能は、関連する担当者が、透過的で監査可能な方法論、データソース、設計手順とドキュメントなど、AI機能に適用可能なテクノロジー、開発プロセス、運用方法を適切に理解できるように開発および展開されます。
信頼性のある： 部門のAI機能には明確で明確な用途があり、そのような機能の安全性、セキュリティ、および有効性は、ライフサイクル全体にわたってそれらの定義された用途内でテストおよび保証の対象となります。
統治可能： 部門は、意図しない結果を検出して回避する機能と、意図しない動作を示す展開済みシステムを非アクティブ化または非アクティブ化する機能を備えながら、意図した機能を実行するAI機能を設計および設計します。

また、AI倫理の原則のさまざまな集合的分析についても説明しました。これには、「AI倫理ガイドラインのグローバルランドスケープ」というタイトルの論文（公開の自然）、そして私の報道はで探求していることここのリンク、このキーストーンリストにつながった：

透明性
正義と公正
非有害
責任
個人情報保護
善行
自由と自律
信頼
３つの柱
尊厳
連帯

ご想像のとおり、これらの原則の根底にある詳細を特定しようとすると、非常に困難になる可能性があります。さらに言えば、これらの幅広い原則を完全に具体的で詳細なものに変えて、AIシステムを作成するときに使用できるようにする努力も、難しい問題です。 AI倫理の原則が何であるか、そしてそれらが一般的にどのように守られるべきかについて全体的に手を振るのは簡単ですが、AIコーディングでは、道路に出会う真のゴムでなければならないというより複雑な状況です。

AI倫理の原則は、AI開発者、AI開発の取り組みを管理する開発者、さらにはAIシステムのフィールド化と維持を最終的に実行する開発者によっても利用されます。開発と使用のAIライフサイクル全体にわたるすべての利害関係者は、倫理的AIの確立された規範に従う範囲内であると見なされます。これは重要なハイライトです。通常の想定では、「コーダーのみ」またはAIをプログラムするものは、AI倫理の概念に準拠する必要があるためです。先に述べたように、AIを考案してフィールド化するには村が必要であり、村全体がAI倫理の原則に精通し、それを遵守する必要があります。

また、今日のAIの性質について同じページにいることを確認しましょう。

今日、感性のあるAIはありません。これはありません。感性AIが可能かどうかはわかりません。私たちが感性AIを達成するかどうか、また感性AIが何らかの形で奇跡的に自発的に計算認知超新星（通常は特異点と呼ばれる、で私の報道を参照）で発生するかどうかを適切に予測することはできませんここのリンク).

私が焦点を当てているタイプのAIは、現在私たちが持っている無感覚なAIで構成されています。乱暴に推測したい場合衆生 AI、この議論は根本的に異なる方向に進む可能性があります。感性のAIはおそらく人間の品質のものでしょう。感性AIは人間の認知的同等物であると考える必要があります。さらに言えば、私たちが超知能AIを持っているかもしれないと推測する人もいるので、そのようなAIは人間よりも賢くなる可能性があると考えられます（可能性としての超知能AIの探求については、を参照してください）。ここでの報道).

物事をより現実的に保ち、今日の計算上の非感覚的なAIについて考えてみましょう。

今日のAIは、人間の思考と同等の方法で「考える」ことができないことを認識してください。 AlexaやSiriとやり取りするとき、会話能力は人間の能力に似ているように見えるかもしれませんが、現実にはそれは計算であり、人間の認識が欠けています。 AIの最新の時代では、計算パターンマッチングを活用する機械学習（ML）とディープラーニング（DL）が広く利用されています。これにより、人間のような傾向のように見えるAIシステムが生まれました。一方、今日、常識に似たAIはなく、人間の強い思考の認知的驚異もありません。

ML / DLは、計算パターンマッチングの形式です。通常のアプローチは、意思決定タスクに関するデータを収集することです。データをML/DLコンピューターモデルにフィードします。これらのモデルは、数学的パターンを見つけようとします。そのようなパターンを見つけた後、そのように見つかった場合、AIシステムは新しいデータに遭遇したときにそれらのパターンを使用します。新しいデータが表示されると、「古い」データまたは履歴データに基づくパターンが適用され、現在の決定が行われます。

これがどこに向かっているのか推測できると思います。意思決定に基づいてパターン化された人間が不利なバイアスを取り入れている場合、データはこれを微妙ではあるが重要な方法で反映している可能性があります。機械学習またはディープラーニングの計算パターンマッチングは、それに応じてデータを数学的に模倣しようとします。 AIで作成されたモデリング自体には、常識やその他の感覚的な側面の類似点はありません。

さらに、AI開発者も何が起こっているのか理解していない可能性があります。 ML / DLの難解な数学は、現在隠されているバイアスを見つけるのを困難にする可能性があります。 AI開発者が潜在的に埋もれているバイアスをテストすることを当然期待し、期待するでしょうが、これは見た目よりも難しいです。比較的大規模なテストを行っても、ML/DLのパターンマッチングモデルにバイアスが埋め込まれている可能性は十分にあります。

有名な、または悪名高いガベージインガベージアウトの格言をいくらか使用できます。重要なのは、これはバイアスに似ているということです。つまり、バイアスがAI内に沈むと、知らぬ間に注入されてしまいます。 AIのアルゴリズムの意思決定（ADM）は、公理的に不平等に満ちています。

良くない。

ここで、AIバイアスハンティングのトピックに戻りましょう。

AIバイアスの賞金稼ぎの取り組みを検討している方のために、次のXNUMXつの重要なステップを参考にしてください。

1) 分析。 AIシステムごとに、状況に応じたAIバイアス報奨金ハンティングの取り組みの適合性を評価します

2) 設計。適切なAIバイアスバウンティハンティングアプローチを設計する

3) 実施する。 AIバイアスバウンティハンティングの取り組みを実装して公表する

4) フィールド。 AIが報奨金請求にバイアスをかけ、それに応じて処理するフィールド

5) 修正する。これらの発見されたAIバイアスエクスポージャーに関連するようにAIを修正または調整します

6) Adjust。必要に応じてAIバイアスバウンティハンティングを調整します

7) 中止する。 AIバイアスバウンティハンティングが不要になったら中止します

上記の一連の手順では、主張されているAIバイアスが実際にAIシステム内に存在することを確認することに基づいて、おそらくAIを修正または調整する必要があることに注意してください。これは十分に理にかなっています。ほぼ確実に、見つかったAIバイアスを強化したいと思うでしょう。そうしない場合は、法的（および倫理的）な影響について考えてください。 AIバイアスが存在することを知らなかったため、それが存在することを許可したと断言するのはXNUMXつのことですが、AIバイアスに気づき、それについて何もしなかったことを記録に残すことは非常に困難です。

もちろん、AIの修正または調整の性質と程度は、AIのバイアスがどれほど重要であり、問題がどれほど深く埋め込まれているかに左右されます。運が良ければ、AIに少し変更を加えるだけで、問題が修正される可能性があります。もうXNUMXつの可能性は、AI全体を書き直す必要があるかもしれないということです。 ML / DLタイプのAIの場合、これには、設計図に戻って、まったく新しいデータセットとクリーンアップされたML/DLモデルからやり直す必要があります。不快なAIに対する潜在的な法的救済策として、AIの解体またはAIの破壊の出現について説明しました。を参照してください。ここのリンク.

よく考えておくべきXNUMXつの質問は、賞金稼ぎにAIバイアスの存在を特定する以上のことをしてもらいたいかどうかです。たとえば、提案された修正も歓迎されることを示すことで、賞金を甘くすることができます。 AIバイアス発見賞金稼ぎによって、示された報酬または賞金がXNUMXつ支払われる場合があります。バウンティハンターも実行可能なものを提供できる場合 修正します AIバイアスに対して、追加の報酬が付与される可能性があります。

これはあまりにも遠い橋だと主張する人もいます。彼らは、AIバイアスバウンティハンターがAIバイアスを見つけることに専念し続けるべきだと言っています。修正を提案するように招待することで、望ましくない悪影響を多数作成します。物事をシンプルにしてください。目標は、AIバイアスの発見にさらに多くの目を向けて、次に何をすべきかを決定できるようにすることです。水を濁さないでください。

理解する必要のある厄介な側面は、AIの偏見を真に発見した賞金稼ぎの報酬または賞の大きさを伴います。あなたは見返りが実証的であることを望んでいます。十分に高い報酬がなければ、多くの賞金稼ぎを獲得することはできません。あるいは、彼らはAIシステムのAIバイアスを探すことに特に熱心ではありません。代わりに、他のAIバイアスの報奨金の取り組みに集中する可能性があります。

さらに、前述のように、賞金稼ぎのAIバイアスの発見を他の形の金に変えたいという衝動を抑えようとします。報酬がわずかに見える場合、それは賞金稼ぎを他のより高い見返りを求めるように刺激する可能性があります。彼らはあなたに向かってランサムウェアのアプローチを取ることができます。彼らは、競合他社が知りたがっているジューシーなAIバイアスがあり、AIバイアスがあなたのAIに存在することを宣伝することで、あなたの会社に対して使用できると宣言するかもしれません。したがって、彼らは発見されたAIバイアスを最高入札者に売ります。等々。

報酬を非常に高い範囲に設定すると、潜在的な問題も求めていると考えられます。これは、あらゆる種類のナッツの賞金稼ぎを引き付ける可能性があります。彼らは今度は、AIバイアスを実際に槍で突き刺すことなく、自分たちの自己宣伝のために多数のAIバイアスを見つけたという漠然とした主張でソーシャルメディアを氾濫させる可能性があります。ある意味で、あなたの高められた報酬は、あなたのAIに不注意に光を当て、それに応じて光る光線に有害に引き付けられるように、たくさんの不機嫌な蛾を生み出します。

もうXNUMXつの考慮事項には、AIへのアクセシビリティが含まれます。

AIバウンティハンティングの可能性を有効にするには、バウンティハンターがAIに十分にアクセスできるようにする必要があります。完全にロックアウトされている場合、AIバイアスを見つけるのにそれほど幸運はありません。ただし、サイバーセキュリティ保護を放棄することは、AIシステムを完全に危険にさらす可能性があるため、放棄したくありません。

バウンティハンターにさまざまな法的拘束力のある宣言に署名させてから、必要なアクセス権を提供しようとする場合があります。一部の賞金稼ぎは、そのタイプのアプローチを好まないでしょう。彼らの見解は、公に利用可能で制限のない道が許すものは何でもするだけだということです。彼らは、いわば自由な異端者であり、いわばサドルされるのが好きではありません。威圧的な法的文書に署名を付けるようにすると、多くの人がAIでAIバイアスを検索することを回避できます。あるいは、彼らはあなたの法的な籠手に腹を立てて、公的な手段で何を見つけることができるかを彼らが見ることを決定するかもしれません。

私はあなたの頭を回転させるかもしれないさらに別の角度を持っています。

AIに精通した賞金稼ぎは、AIを精査し、AIのAIバイアスを発見できるAIシステムを考案することを決定するかもしれません。これは、手作業を自分で行うのではなく、仕事をするためのツールを作ることを選択したツールメーカーです。 AIに精通した賞金稼ぎは、AIを苦労して調べる代わりに、同じことを行うAIツールの作成に時間を費やしています。次に、AIでAIツールを使用します。美しさも、おそらく、それぞれのAIで賞金稼ぎの機会を提供している他の人にAIツールを再利用できることです。

私はあなたがおそらく何を考えているか知っています。 AIのバイアスを調べるために、AIツールを考案できる場合、AIバイアスについて精査されているAIのメーカーは、そのようなAIツールを作成するか、自分で使用するために購入する必要があります。理論的には、そもそも賞金稼ぎのカーニバル全体と戦う必要はありません。 AIを使用してAIバイアスを見つけます。

はい、これはあなたが徐々に生じると期待できるものです。一方、これらの取り組みの主力は、賞金稼ぎを行うAI開発者で構成される可能性があります。彼らはさまざまなツールを使用して作業を支援する可能性がありますが、短期的には、AIツールを無意識のうちに自動に設定し、ツールがAIバイアスハンティング全体を実行するように仮眠をとる可能性はほとんどありません。

まだありません。

この重要な議論のこの時点で、あなたはこのトピックを紹介するかもしれないいくつかの実例を望んでいるに違いありません。私の心に近い特別で確実に人気のある例のセットがあります。倫理的および法的な影響を含むAIの専門家としての私の立場では、トピックのやや理論的な性質をより簡単に把握できるように、AI倫理のジレンマを示す現実的な例を特定するように頻繁に求められます。この倫理的なAIの難問を鮮明に表現する最も刺激的な分野のXNUMXつは、AIベースの真の自動運転車の登場です。これは、このトピックに関する十分な議論のための便利なユースケースまたは模範として役立ちます。

次に、検討する価値のある注目すべき質問を示します。 AIベースの真の自動運転車の出現は、AIバイアスの賞金稼ぎの使用について何かを明らかにしていますか？もしそうなら、これは何を示していますか？

質問を解くために少し待ってください。

まず、真の自動運転車には人間のドライバーが関与していないことに注意してください。真の自動運転車はAI駆動システムを介して運転されることに注意してください。人間の運転手が運転する必要はなく、人間が車両を運転するための設備もありません。 Autonomous Vehicles（AV）、特に自動運転車に関する広範囲にわたる継続的な報道については、を参照してください。ここのリンク.

真の自動運転車とはどういう意味かをさらに明確にしたいと思います。

自動運転車のレベルを理解する

明確にするために、真の自動運転車とは、AIが完全に自力で車を運転し、運転タスク中に人間の支援がない車のことです。

これらの自動運転車はレベル4およびレベル5と見なされます（私の説明を参照してください）ここでは、このリンク）、一方、人間のドライバーが運転努力を共有する必要がある車は、通常、レベル2またはレベル3と見なされます。運転タスクを共有する車は、半自律的であると説明され、通常、さまざまなADAと呼ばれる自動化されたアドオンADA
S（先進運転支援システム）。

レベル5にはまだ真の自動運転車はなく、これを達成できるかどうか、またそこに到達するまでにどれくらいの時間がかかるかはまだわかりません。

一方、レベル4の取り組みは、非常に狭く選択的な公道の試験を実施することで徐々に牽引力を獲得しようとしていますが、この試験自体を許可するかどうかについては論争があります（私たちはすべて実験で生死にかかわるモルモットです）私たちの高速道路や小道で行われている、いくつかの主張、で私の報道を参照してくださいここでは、このリンク).

半自律型の車には人間のドライバーが必要であるため、これらのタイプの車の採用は、従来の車の運転とそれほど変わりません。そのため、このトピックについてそれ自体をカバーすること自体はそれほど新しいことではありません（ただし、次に、次のポイントが一般的に適用されます）。

半自律走行車の場合、最近発生している不快な側面について、つまり、レベル2またはレベル3の車のホイールで眠りにつく自分のビデオを投稿し続ける人間のドライバーにもかかわらず、一般の人々に事前に警告する必要があることが重要です。、私たちは、ドライバーが半自律型の車を運転しているときに、運転タスクから注意をそらすことができると信じ込まされないようにする必要があります。

レベル2またはレベル3に自動化がどれだけ投じられるかに関係なく、あなたは車両の運転行動の責任者です。

自動運転車とAIバイアスバウンティハンティング

レベル4とレベル5の真の自動運転車両の場合、運転タスクに人間のドライバーは関与しません。

乗客はすべて乗客となります。

AIが運転を行っています。

すぐに議論するXNUMXつの側面は、今日のAI駆動システムに関与するAIが知覚力がないという事実を伴います。言い換えれば、AIは完全にコンピューターベースのプログラミングとアルゴリズムの集合体であり、人間と同じ方法で推論することは最も確実ではありません。

AIが知覚力を持たないことを強調しているのはなぜですか？

AI駆動システムの役割について議論するとき、私はAIに人間の資質を帰するのではないことを強調したいと思います。最近、AIを擬人化するという危険な傾向が続いていることに注意してください。本質的に、人々は今日のAIに人間のような感覚を割り当てていますが、そのようなAIはまだ存在しないという否定できない議論の余地のない事実にもかかわらずです。

その明確化により、AI運転システムが運転の側面についてネイティブに「認識」しないことを想像できます。運転とそれに伴うすべては、自動運転車のハードウェアとソフトウェアの一部としてプログラムする必要があります。

このトピックで遊びに来る無数の側面に飛び込みましょう。

まず、すべてのAI自動運転車が同じであるとは限らないことを認識することが重要です。各自動車メーカーと自動運転技術会社は、自動運転車を考案するためのアプローチを取っています。そのため、AI駆動システムが何をするか、何をしないかについて、大胆な発言をすることは困難です。

さらに、AI駆動システムが特定のことを行わないと述べるときはいつでも、これは後で、実際にそのことを行うようにコンピューターをプログラムする開発者によって追い抜かれる可能性があります。 AI駆動システムは段階的に改善され、拡張されています。現在の既存の制限は、システムの将来のイテレーションまたはバージョンでは存在しなくなる可能性があります。

それが、私がこれから関わろうとしていることの根底にある十分な警告を提供することを願っています。

私のコラムでは、自動運転車と自動運転車の領域でのバグ指向のバウンティハンターの使用についてすでに詳しく説明しました。このアプローチは確かにこのニッチで行われています。それが健全な考えであるかどうかについては、通常の議論があります。努力は通常限られた性質のものであり、しばしば比較的静かに保たれています。

同様の言説は、システムのバグ自体を探すのではなく、AIバイアスを探すことに焦点が移ったときにも起こり得ます。ある人は、あなたがそうするならそれはとんでもない、あなたが難問をしないならそれはとんでもないと示唆します。

理由は次のとおりです。

まず、明確にするために、自動運転車と自動運転車がAIバイアスを封じ込める可能性がある多くの方法があります。ここのリンク & ここのリンク、ほんの数例を挙げると。自動車メーカーや自動運転車会社は、これらのAIバイアスがAIシステムに現れるのを防ぐのが賢明だと思われます。そのような企業に対する法的および倫理的な火事は間違いなく激しいでしょう。

AIバイアスの使用は、この特定のコンテキストで適切なアプローチを試みますか？

XNUMXつの答えは、はい、これは便利であり、AI自動運転車などの埋め込まれたAIバイアスをキャッチするための新しい目の「無料」セットを豊富に提供するということです。自動運転車を構築するAI開発者のほとんどは、A地点からB地点まで安全に車を運転できるAIの作成に忙しくしています。彼らはそのコア機能に夢中になっており、どこかにある可能性のあるAIバイアスに時間も注意も払っていません。彼らのAI。

もうXNUMXつの答えは、バグであろうとAIバイアスであろうと、自律走行車や自動運転車の賞金稼ぎを許可することは、絶対に避けなければならないということです。議論は、これらの車両とそのAIは生死にかかわる口径であるということです。何らかの方法でAIをいじることは、AIにとって何らかの形で破滅的であり、AI駆動システムの動作に影響を与える可能性があります。

その最後の点に対する反論は、賞金稼ぎは彼らが調べているAIを変更することができないはずであるということです。したがって、彼らがAIをいじり、このコンテキストでAIが突然狂ったAI駆動システムになる危険はありません。バウンティハンターは読み取り専用アクセスのみを持っています。彼らがさらに進むことを許可することは、十分に愚かであり、大きな間違いです。

その反論に対する反論は、賞金稼ぎがあなたのAIを調べることを許可し、奨励することによって、問題全体が危険になるということです。それらの賞金稼ぎは、見つかったバグやバイアスを悪用する方法を見つけるかもしれません。これらのエクスプロイトは、悪意のある目的である可能性があります。いわば「泥棒」を家に招かないほうがいいでしょう。彼らが関節をケースアウトすると、あなたは最終的に問題の山になります。

生死にかかわる規模のAIシステムを持っている人にとって、失敗した賞金稼ぎの影響ははるかにリスクが少ないと信じられています。多分そうです。一方、企業が賞金稼ぎがなんとか奪うAIシステムに金銭を注ぎ込んだ場合、評判の損害やその他の潜在的な損害は依然として傷つくと想定できます。

AIバイアスバウンティハンティングに関しては、フリーランチはありません。

今のところ簡単な締めくくりの言葉。

悪名高い無法者のジェシー・ジェイムズが西部開拓時代に捜索されたとき、彼の捕獲に5,000ドルの報奨金を提供する「指名手配」のポスターが印刷されました（「死んでいるか生きている」と述べています）。当時はかなり多額のお金でした。彼自身のギャングのメンバーのXNUMX人は、ジェシーを撃ち殺して報酬を集めることを選びました。これは、報奨金がどれほど効果的であるかを示していると思います。

AIバイアスバウンティハンターの使用は良いことでしょうか、それとも悪いことでしょうか？

AIバイアスバウンティハンターの取り組みを開始することを選択した場合は、目を大きく開いたまま、常に肩越しに見ていることをお勧めします。これはあなたとあなたのAIにとって賢明です。気の利いた賞金稼ぎがどういうわけかあなたのAIに密かにAIバイアスを挿入し、彼らがあなたのAIに悪意のあるAIバイアスを見つけたと世界に叫ぶことを含めて、あなたは何が起こるかを決して知りません。おそらく、賞金の報酬を求める勇敢で大規模な試みに加えて、本質的に自慢のジェシー・ジェイムズを獲得したヒーローを宣言することでそうします。

考えてみると、知覚力のあるAIは、恐らく、混乱を招くようなデッドオアアライブプロビジョニングのアイデアを好まないでしょう。

ソース：https：//www.forbes.com/sites/lanceeliot/2022/07/16/ai-ethics-cautiously-assessing-whether-offering-ai-biases-hunting-bounties-to-catch-and-nab-倫理的に邪悪で完全に自律的なシステムは賢明であるか無駄である/