例外となる法的権利のために情熱的に戦う AI の倫理

彼らは、すべての規則には例外があると言います。

しかし問題は、多くの場合、常設規則が優勢であり、例外が認められたり受け入れられたりする余地がほとんどまたはまったくないことです。 例外が最前線にあるという耳障りな可能性にもかかわらず、平均的なケースが使用されます。 例外は放送時間を取得しません。 正当に検討される機会がありません。

私が話していることをあなたは知っているに違いないと確信しています。

ある種の個別化された顧客サービスを得ようとして、特定のケースや特定のニーズを区別せずに無頓着に扱われたことがありますか?

これは間違いなくあなたに起こりました。おそらく数え切れないほどの回数です。

私は、人工知能 (AI) があらゆるものを XNUMX つのサイズですべてのパラダイムに適合させるように執拗に考案されているという不穏な傾向について説明します。

例外は、まったく例外ではなかったかのように、検出されないか、形状から外れることが選択されます。 これは、部分的には機械学習 (ML) とディープ ラーニング (DL) の出現によるものです。 後ほど説明するように、ML/DL は計算パターン マッチングの一種であり、例外を無視したり回避したりできる場合は、同様の方法で開発およびデプロイするのが「簡単」です。 これは非常に問題があり、非常に注目すべき AI の倫理的懸念を引き起こします。 AI Ethics と Ethical AI に関する現在進行中の広範な記事については、以下を参照してください。 ここのリンク & ここのリンクちょうど少数の名前を挙げる。

物事はそのようである必要はありません.AIの調合内の例外の処理を無視または軽視することを選択することにより、AIを作成および展開している人々によってこれが刺激されていることを知っておいてください.

例外規則の場合

まず、平均的なケースと例外の実現の性質を明らかにしましょう。

このタイプのドッグパイルまたは近視眼的に平均的なケースの例外なしのアプローチの私のお気に入りの例は、絶賛され、依然として非常に人気のあるテレビシリーズのほぼすべてのエピソードによって鮮やかに照らされています。 ハウス、MD (通常、単に次のように表現されます。 お家の掃除、2004 年から 2012 年まで実行され、現在ソーシャル メディアやその他のメディア アウトレットで見ることができます)。 ショーには、グレゴリー・ハウス博士という名前の架空の人物が登場し、不機嫌で、耐えられず、まったく型破りでしたが、彼は最もあいまいな病気や病気を見つけ出すことができる医学の天才として描かれました。 他の医師や患者でさえ、必ずしも彼を好きではなかったかもしれませんが、彼は仕事をやり遂げました.

典型的なエピソードがどのように展開されたかは次のとおりです（一般的なネタバレ注意！）。

ハウス博士が勤務する病院に患者が現れる。 患者は最初はやや一般的な症状を示しており、他のさまざまな医師が交代で患者の診断と治療を試みています。 奇妙なことに、患者を助けようとしても、有害な状態が改善されないか、さらに悪いことに、逆効果になる傾向があります。 患者はますます悪化します。

患者は現在、一種の医学的好奇心と見なされており、患者が何に苦しんでいるのか他の誰も理解できないため、ハウス博士が事件に持ち込まれます。 これは、彼の医学的能力を利用するために意図的に行われることもあれば、事件について聞いて、彼の生来の本能が彼を異常な状況に引き寄せる場合もあります.

次第に、患者が非常にまれな病気にかかっていることがわかります。 ハウス博士と彼の医療インターンのチームだけがこれを理解することができます.

エピソードの主なプロットラインを共有したので、平均的なケースと例外の性質を示す教訓を学びましょう.

架空の物語は、箱の中で考えることが時にいかに的を射ないかを示すように設計されています。 最初は患者を助けようとしている他のすべての医師は、思考プロセスが曇っています。 彼らは、症状と提示された側面を従来の医学的診断に強制したいと考えています。 患者は、おそらく以前に見たことのある多くの患者の XNUMX 人にすぎません。 患者を診察し、医療キャリアを通じて繰り返し使用してきたものと同じ治療法と医療ソリューションを処方します。

洗って、すすぎ、繰り返します。

ある意味では、このアプローチを正当化できます。 オッズは、ほとんどの患者が最も一般的な病気を持っているということです。 毎日、これらの医師は同じ医学的問題に直面しています。 病院に入る患者は、まさに医療組立ラインに乗っていると示唆することができます。 それぞれが病院の標準化されたプロトコルに沿って流れ、あたかも製造施設または組立工場の一部であるかのようです。

平均的なケースが優先されます。 これは一般的に適切であるだけでなく、病院と医療スタッフがそれに応じて医療サービスを最適化することも可能にします。 平均的なケースに対応するように医療プロセスを工夫すると、コストを下げることができます。 医学生の心によく叩き込まれる非常に有名なアドバイスがあります。つまり、通りからひづめの音が聞こえたら、シマウマではなく馬を考えるべきだということです。

効率的、生産的、効果的。

例外が中に忍び込むまで。

動物園のシマウマが逃げ出し、通りをうろついているかもしれません。

これは、例外がルールであるべきであり、例外のみに専念する代わりに、平均的なケースのルールを脇に置くべきであることを意味しますか?

私たちの日常的な出会いやサービスのすべてが、平均的なケースではなく例外に焦点を当てるべきだと主張するのは難しいでしょう.

私はそのような提案をしていないことに注意してください。 私が主張しているのは、例外の発生を許可し、例外の発生を認識する必要があることを保証する必要があるということです。 私がこれに言及するのは、一部の専門家は、もしあなたが例外を認めることを支持するなら、平均的なケースのために考案することに反対しなければならないと大声で宣言する傾向があるからです.

それは誤った二分法です。

それに騙されないでください。

私たちもケーキを食べて食べることができます。

例外となる権利を主張する

次に、これらすべてを AI の急速な使用に関連付けるちょっとした衝撃を提供します。

AI システムは、平均的なケースに集中するようにますます巧妙に作られていますが、多くの場合、除外されたり、例外を認識できなくなったりしています。

これが起こっていることを知って驚くかもしれません。 私たちのほとんどは、AI はコンピューター自動化の一形態であるため、物事を自動化することの利点は、通常、例外を組み込むことができることだと思います。 これは通常、同様のサービスを実行するために人力を使用する場合よりも少ないコストで実行できます。 人間の労働では、例外に対処できるあらゆる種類の労働力を利用できるようにすることは、コストがかかるか、法外に高くなる可能性があります。 顧客またはクライアントがすべて平均的なケースの能力を備えていると想定できる場合、物事の管理と配置がはるかに簡単になります。 しかし、コンピューター化されたシステムの使用は、例外に対応することになっています。 そのように考えると、コンピュータ化された機能が最前線に現れることを大いに歓迎する必要があります。

これは頭​​を悩ませる難問だと考えて、この厄介な質問について考えてみてください。 皮肉なことに、または予期せずに、まったく逆の方向に進むと私たちが想像していたルーチン化された例外のない道を、どうすれば容赦なく進んでいくことができるのでしょうか?

回答： 機械学習と深層学習は私たちを例外のない存在へと導きますが、 強制的にその道を歩まなければならないからです（もっとうまくやれるはずです）。

これを開梱しましょう。

機械学習を使用して、医療診断の解明に使用される AI を考案するとします。 私たちは、患者とその医療状況に関する一連の履歴データを収集します。 私たちが設定した ML/DL は、患者の症状を調べ、それらの症状に関連する予想される病気をレンダリングする計算パターン マッチングを実行しようとします。

入力されたデータに基づいて、ML/DL は、鼻水、喉の痛み、頭痛、痛みなどの症状がすべて風邪と強く関連していることを数学的に確認します。 ある病院は、この AI を使用して患者の事前スクリーニングを行うことを選択しました。 案の定、最初に病院に来たときにこれらの症状を報告した患者は、おそらく風邪をひいていると「診断」されています。

ギアをシフトして、これらすべてに Dr. House のようなひねりを加えましょう。

患者が病院に来て、AIによって診断されます。 AI は、鼻水、喉の痛み、頭痛の症状に基づいて、患者が風邪をひいているように見えることを示します。 患者には、風邪に対処するための一見適切な処方箋と医学的アドバイスが与えられます。 これはすべて、AI を考案する際に使用される平均的なケースのアプローチの一部です。

患者はこれらの症状を数か月にわたって抱えることになることが判明しました. 希少疾患と栄養の専門家は、これらの同じ症状が脳脊髄液 (CSF) 漏出を反映している可能性があることを認識しています。 専門家は、そのような漏れに関連するさまざまな外科的処置で患者を治療します。 患者は回復します（ちなみに、最初は感冒と診断された髄液漏出患者に関するこの驚くべき話は、大まかに実際の医療事例に基づいています）。

ここで、この医療の物語の歩みをたどります。

摂取前のスクリーニングを行っていた AI が、患者がこのまれな病気にかかっている可能性があると判断できなかったのはなぜですか?

答えの XNUMX つは、ML/DL を作成するために使用されるトレーニング データにそのようなインスタンスが含まれていない場合、計算パターン マッチングが一致するものは何もないということです。 ルールの例外をカバーするデータがない場合、一般的なルールまたは平均的なケース自体は、一見問題がないと見なされ、ためらうことなく適用されます。

もう XNUMX つの可能性は、過去のデータにこのまれな CSF 漏出の事例があったということですが、それは XNUMX つの特定の事例にすぎず、その意味では外れ値です。 残りのデータはすべて、確認された平均ケースに数学的に近かった. 次に、いわゆる外れ値をどうするかという問題が生じます。

これらの外れ値に対処することは、AI 開発者が、決定された平均的なケースの外にある何かの出現にどのように対処するかについて、大きく異なる問題であることに注意してください。 AI 開発者が取らなければならない必須のアプローチはありません。 ML/DL 開発作業の特定の例外発生インスタンスで、特定の AI 開発者が何をするかについては、少しワイルド ウェストです。

これらの例外が頻繁に発生する方法のリストを次に示します。 不適切に 取り扱い：

• エラーとして想定される例外
• 値しないと想定される例外
• 「標準」に調整可能であると想定される例外
• 例外はまったく気付かれませんでした
• 例外が通知されましたが、すぐに無視されました
• 例外に気づき、後で忘れた
• 例外が通知され、ビューから隠されました
• 等

AI 開発者は、希少性はデータのエラーにすぎないと判断する場合があります。 誰もがこのように考えるのは奇妙に思えるかもしれません。特に、たとえば CSF 漏出の患者がその XNUMX つの例であると想像して、それを人間化しようとする場合はなおさらです。 ただし、すべてのコンテキスト外データが基本的に XNUMX つのことを言い、おそらく数千から数千のレコードで構成され、それらがすべて平均的なケースに収束している場合、データの XNUMX つの奇妙な部分の発生は可能性があるという強い誘惑があります。すぐに (怠惰に!) 完全なエラーとして解釈されます。 その後、「エラー」は AI 開発者によって破棄され、ML/DL がトレーニングされている範囲内で考慮されない可能性があります。

例外に対処するもう XNUMX つの手段は、それが価値のない問題であると判断することです。 おそらく ML/DL を稼働させようと急いでいるのに、なぜ XNUMX つのレアリティにこだわる必要があるのでしょうか? 外れ値を捨てて先に進みます。 必ずしも今後の影響について考えることはありません。

さらに別のアプローチでは、例外を残りの平均的なケースの環境に組み込む必要があります。 AI 開発者は、残りの標準に収まるようにデータを変更します。 AI 開発者が例外の存在に気付かない可能性もあります。

ML/DL は、例外が検出されたことを報告する場合があります。その場合、AI 開発者は、外れ値を数学的に処理する方法について ML/DL に指示することになっています。 AI 開発者は、これを To-Do リストに入れても、後でそれに対処することを忘れたり、単に無視することを選択したりする可能性があります。

全体として、AI に関して例外を処理する際の検出と解決には、特に規定された、または説得力のあるバランスの取れた合理的なアプローチ自体はありません。 例外は価値のない追放者のように扱われることが多く、平均的なケースが優勢な勝者です。 例外を処理するのは難しく、時間がかかる可能性があり、巧妙な AI 開発スキルが必要です。

ある程度、それが AI の倫理と倫理的 AI が非常に重要なトピックである理由です。 AI 倫理の教訓により、私たちは警戒を怠らないようになります。 AI 技術者は、テクノロジー、特にハイテクの最適化に夢中になることがあります。 彼らは必ずしもより大きな社会的影響を考慮しているわけではありません。

一般的に AI の倫理規定を採用することに加えて、AI のさまざまな使用を管理する法律を制定する必要があるかどうかという、対応する問題があります。 連邦、州、および地方レベルで、AI の考案方法の範囲と性質に関する新しい法律が騒がれています。 そのような法律を起草し、制定する努力は、段階的なものです。

例外の役割に関するこの特定の議論には、おそらく例外であることに関連する法的権利が存在するべきだという挑発的な視点が生まれます。 例外である可能性のある誰かを正当に認める唯一の実行可能な手段は、法律の長い腕を利用することを伴う可能性があります.

新しい種類の人権を導入します。

例外と見なされる権利。

次の提案を検討してください。 is ただし、決定が決定主体に害を及ぼす可能性がある場合、意思決定者は、主体が被害を受ける可能性を考慮する必要があります。 かもしれません 例外となります。 例外となる権利には、次の XNUMX つの要素が含まれます。 害, 個別化, 不確実性. 意思決定者は、意思決定が適切に個別化されているかどうか、および決定のデータ駆動型コンポーネントに伴う不確実性を考慮した場合にのみ、害を与えることを選択する必要があります。 危害のリスクが大きければ大きいほど、検討はより深刻になります」（Sarah Cen 著、研究論文で データ駆動型の意思決定において例外となる権利、MIT、12 年 2022 月 XNUMX 日)。

私たちはすでにそのような権利を持っていると思いたくなるかもしれません。

必ずしも。 研究論文によると、国際的に認められている人権に最も近い可能性が高いのは、個人の尊厳である可能性があります。 理論的には、個人とその特定の独自性が包含されることになっているような尊厳の認識があるべきであるという考えは、例外の潜在的な人権の範囲内にあなたを導きます. 問題の XNUMX つは、尊厳の領域を管理する既存の法律がやや不明瞭で、過度に柔軟であると言われているため、例外の権利の特定の法的構造にうまく調整されていないことです。

例外としての人権からなる新しい権利を支持する人々は、次のように主張するでしょう:

• そのような権利は、AI開発者に例外に明示的に対処することを法的に強制するでしょう。
• AI を開発している企業は、例外を処理しないことで、より法的に責任を負うことになります。
• AI は全体的によりバランスが取れ、より堅牢になる可能性が高い
• AI を使用している、または AI の対象である方が有利
• AI が例外に対応しない場合、法的手段は容易に実行可能です。
• AI のメーカーも有利になるはずです (彼らの AI はより広い範囲のユーザーをカバーするでしょう)。
• 等

例外であるという人権としてラベル付けされた新しい権利に反対する人々は、次のように言う傾向があります。

• 既存の人権と法的権利はこれを十分にカバーし、問題を複雑にする必要はありません
• AIメーカーの肩に過大な負担がかかる
• AIを作成する努力はコストがかかり、AIの進歩を遅らせる傾向があります
• 誰もが例外であることを要求するという誤った期待が生じる
• 権利自体は間違いなく異なる解釈の対象となるでしょう
• 訴訟件数が急増した場合、最も利益を得るのは法律専門家になるでしょう。
• 等

要するに、このような新しい権利に対する反対派は通常、これはゼロサム ゲームであり、例外となる法的権利は、それが有益に引き出すよりも多くの費用がかかるだろうと主張しています。 このような新しい権利が必要であると考える人は、これはゼロサム ゲームではなく、最終的には AI を作成する人や AI を使用する人を含め、すべての人が利益を得ることを強調する傾向があります。

AIと例外に関連する法的、倫理的、社会的影響を含むこの議論は、大声で永続的になるでしょう.

自動運転車と例外の重要性

自動運転車や自動運転車などの自律システムのコンテキストでこれがどのように適用されるかを検討してください。 自動運転車や自動運転車向けの AI 開発の平均的な考え方については、すでにさまざまな批判が寄せられています。

たとえば、当初、自動運転車の設計は、何らかの形の身体障害や機能障害を持つ人々に対応していませんでした。 ライダーのあらゆるニーズをより広く網羅することについては、あまり考えられていませんでした。 全体として、この認識は高まっていますが、これが十分に進んでおり、必要なだけ広く受け入れられているかどうかについては、依然として懸念が表明されています.

平均的なケースと例外の別の例は、不意を突かれる可能性のある何かに関係しています。

準備は完璧？

今日の多くの AI 運転システムと自動運転車の設計と展開は、大人が自動運転車に乗るという暗黙の、または暗黙の前提を作る傾向があります。 人間のドライバーがハンドルを握っているときは、もちろん大人が車に乗っていることを知っています。これは、通常、運転免許証の取得は大人 (まあ、またはほぼ XNUMX 人) であることに基づいているためです。 AIがすべての運転を行う自動運転車の場合、大人が立ち会う必要はありません。

要点は、大人がいなくても子供だけで車に乗ることができるということです。少なくともこれは、完全自律型の AI 駆動の自動運転車の場合に可能です。 自動運転車を利用して、朝、子供を学校に送ることができます。 子供にリフトを与えたり、ライドシェア サービスの人間の運転手を利用したりする必要はなく、子供を自動運転車に乗せて、学校まで連れて行くだけで済みます。

自動運転車に子供を一人で乗せることに関しては、すべてがバラ色というわけではありません。

車に大人がいる必要がなくなったので、これは、子供も大人の存在によって影響を受けたり、支配されたりすることを意味しなくなります. 子供たちは気が狂って自動運転車のインテリアを引き裂くでしょうか? 子供たちは自動運転車の窓に登ったり、窓の外に手を伸ばそうとしますか? 潜在的な怪我や深刻な危害につながる、他にどのような種類のふざけた行動をする可能性がありますか?

自動運転車に子供が一人で乗るという考えについての白熱した議論を取り上げました。 ここのリンク. これは決して許されるべきではないと言う人もいます。 それは避けられないことであり、最善の方法を見つける必要があると言う人もいます。

まとめ

平均ケースと例外という包括的なテーマに戻りましょう。

規則には常に何らかの例外が存在することに、私たちは皆同意しているようです。 ルールが形成または特定されたら、例外を探す必要があります。 例外が発生した場合、この例外がどのルールに適用される可能性があるかを考える必要があります。

今日考案されている AI の多くは、ルールを策定することを中心に形作られていますが、例外に関連する課題は見捨てられ、肩をすくめる傾向があります。

賢くあり、ルールには常に例外があるというルールに例外はないと言う人にとって、この機知は精神的な困惑のように思われることを認めます. つまり、常に例外が存在するというルールをどのように設定できますが、そのルールには常に例外が存在するというルールには、まさにこのルールが適用されないように思われます。

頭を回転させます。

幸いなことに、これらの冷静な問題を過度に複雑にする必要はありません。 すべてのルールの例外に注意し、対応する必要がある、便利で重要な経験則に従って生活できることを願っています。

これで問題は解決したので、作業に取り掛かりましょう。