AI の倫理と、真の AI を達成するための競争に勝つのは誰かをめぐる地政学的レスリングの試合

世界は必死の競争の中にあります。

地政学的権力は、勝者がすべてのベーコンを持ち帰ると主張しています。

熾烈に戦い、懸命に追及されているのはどの人種ですか?

AIレースです。

これは、達成するための競争と呼ぶ方が適切かもしれません。 true 人工知能 (AI)、現在はより完全に人工汎用知能 (AGI) と呼ばれています。 私たちはどうにかして、人間の知性に匹敵する究極の AI または AGI として知られるものに到達したいと考えています。 私たちはまだそこにいません。 実際、あらゆる種類のワイルドで厚かましく宣言する見出しにもかかわらず、いつ、あるいはその高水準を達成するかどうかはわかりません. 今日の AI は、人間の知性を包括するものよりもはるかに能力が劣っていますが、一流の世界クラスのチェスをプレイしたり、他の比較的制約のあるタスクを実行したりできるなど、AI が目覚ましい進出を果たした狭い範囲の方法は確かにたくさんあります。

ゴールデンリングは、人間のような敬虔な性質と深みのある人間の知性を示すAIの出現です. これは、AI の研究者と実践者の聖杯です。 時折、すでに AI レースのフィニッシュ ラインを越えたという怪しげな主張がありました。 ここのリンク. フィニッシュラインを越える争いをしようとする人々は、一般大衆を混乱させており、時には熱心な無邪気さによってそうしている一方で、他の時には真剣に疑わしい動機を手にしています. 全体として、これは非常に重要かつ重要な AI の倫理的考慮事項を提起します。 AI の倫理と倫理的 AI に関する私の継続的かつ広範な報道については、以下を参照してください。 ここのリンク & ここのリンクちょうど少数の名前を挙げる。

いずれにせよ、世界規模で疾走する AI レースが熱烈に進行していることは間違いありません。 そうでなければ主張するのは難しいでしょう。

このように考えてください。 真の AI または AGI をすでに達成できていれば、AI フットレースが正式かつ世界的に成功裏に終了したと宣言されていた可能性があります。 世界の注目が、このように響き渡る、地球を打ち砕く突破口に釘付けになることを保証します。 あなたはそれを知っているでしょう。 私たちは皆そうするでしょう。 したがって、AI マッドキャップ ダッシュは事実上存在しなくなりますが、真の AI に到達していない人が熱心に追いつくために二次的なバージョンが発生する可能性があります。 また、AGI に到達した場合、または到達したときに、どのように AGI を制御または管理することになるかという不安な問題もあります。

真の AI や AGI を生産する王冠を適切に主張できる個人、団体、国家はまだありません。

その間、どの国が群れの先頭に立ち、誰がさらに遅れをとっているのかについて、とてつもなく容赦ない量の議論が行われています。 あなたが最初ではない場合、あなたは土の中に取り残されるという前提があります。 AIの勝者から残ったスクラップを食べることになります。 あなたは、真の AI または AGI への飛躍を予告した国家に永遠に服従する可能性があります。

余談ですが、この議論の文言を簡単にするために、ここでは真の AI のオーラを呼び起こしたいときはいつでも「AGI」を使用します。 やや新しい「AGI」というフレーズの使用は、それが使用されるのを見るのに慣れていない人にとっては不快な場合があります。 私たちは皆、「AI」に精通していますが、代わりに「AGI」という頭字語が使用されているのを見ると不安になるかもしれません。 なぜこれが言葉遣いの傾向として徐々に現れているのかを説明させてください.

AGI が AI 用語の分野で台頭した理由の XNUMX つは、単に「AI」と述べるだけで、残念ながら骨抜きにされた言い回しになっていることです。 あなたが言及している AI がほとんど AI の亜種なのか、それとも準より優れた進行中の AI の注入なのか、それともいつか未来の完全に人間と同等の AI をほのめかしている可能性があるのか​​ は誰にもわかりません。 キャッチフレーズとしての「AI」の過負荷に対処するために、AGI モニカは、真の AI を具体的かつ特にほのめかしたい AI 分野内のインサイダーによって好まれています。

つまり、AGI について言及することは、人間の知性に似た堅牢な口径の「真の AI」と言うのと同じであると考えてください。

慎重に深呼吸をして、AGI を達成するためのレースのいくつかの側面を注意深く調べてみましょう。 最初に述べる必要があるメタ側面さえあります。 AGIレースの比喩として、想定される徒競走またはその他の種類のレース活動の寓意を使用することには、少し胸焼けがあることに注意してください. なんでそうなの？ 徒競走またはそれに相当するものが完全に誤解を招き、狡猾な単純な視点である理由（一部の人は言う）の複雑さと複雑さについて、少し説明します。

この談話で説明する重要なポイントは次のとおりです。

• これがレースの場合、AGI のフィニッシュ ラインは非常に曖昧に見えます
• AGIレースは、人、エンティティ、または国に行く可能性があります
• AGI レースで国が比較されている指標と方法
• AGIレースのための地政学的操作と調整
• AGIレースのレフェリーとしての国際AI法とAI倫理

緊急に進行中の AGI 徒競走 (はい、あえて徒競走と呼んでいます) を調べているので、シートベルトを締めたいと思うかもしれません。 これは人類の向上のためのレースだと言う人もいれば、レースが私たち全員に完全な破滅をもたらすかもしれないと警告する人もいます.

時間がたてば分かるさ。

これがレースの場合、AGI のフィニッシュ ラインはかなり不明確に思われます

通常、フィニッシュ ラインはかなり明確な境界線です。 ゴールに到達したか、到達していないかのどちらかです。 不足することは、あなたにとってあまり良いことではないようです。 オリンピックの 400 メートル走を想像してみてください。レースをまったく完走できなかった (一度もフィニッシュ ラインを通過したことがない) ランナーを特に覚えているか、称賛するかどうかを考えてみてください。 ありそうもない。

ゴールに到達したことが合理的にすべての合意に達するような AGI に到達したとき、私たちはそれを知ることができるでしょうか?

AGI の境界については激しい意見の相違があります。

たとえば、人間の知性を完全に発揮できるように見える人工知能を考案したとしますが、それ自体には感覚のようなものはありません (AI の感覚に関する議論に関する私の記事を参照してください。 ここのリンク）。 AI は、人間の知性が行うように、コンピュータ上で模倣またはその他の方法で実行できます。 しかしそこには、私たちが人間や他の生き物と関連付ける生命力や感覚の火花はありません。 この AGI は、私たちが思っていた目標を達成したと見なされますか?

感覚自体がこの AGI に組み込まれているように見えるかどうかは問題ではないと反論する人もいます。 それが人間の知性を示すことができる限り、感覚の組み込みは、私たちが望むかもしれないし、望まないかもしれないさまざまな種類のものです. その意味での感覚はアドオンです。

他の人は、AGI で人間の知性を達成する唯一の手段は、感覚を統合的に具体化することであると強く主張しています。 AGI と感覚は、同じものと見なされるか、または還元不可能で分離不可能な二重の実施形態の混合物であると見なされます。 AGI を取得するには、知性が必要であると彼らは主張します。

その議論の角度はさておき、有名なチューリング テストを使用して、AGI が達成されているかどうかを評価することもできます。 チューリング テストについて詳しく説明しました。 ここのリンク. 簡単に言うと、この概念は、人間が AGI に質問することで構成されており、人間が AGI によって生成された応答と人類の応答を区別できない場合、AGI は人間の知性を示すことができると宣言します。

チューリング テストには、多くの問題や欠点が伴うことがよくあります。

問い合わせを行っている人間がお粗末な仕事をし、詳細な質問をすることに失敗したとします。 懸念の XNUMX つは、今日の強力に見える大規模言語モデル (LLM) の多くが、LLM がトレーニングされたコンテンツ (つまり、インターネットの大規模なスクレイピングによってソースされることが多いテキストやデジタル メディア) を人間にオウム返しできることです。 そのため、すでに回答があり、オンラインに存在する通常の種類の質問をする特別に選択された人間は、LLM によってすべて容易に「回答」される可能性があります。

他にもたくさんの不満が出てきます。 人間が答えを理解できないとします。 あるいは、答えはすべて人間の知性の表れであると人間が思い込んでいるとします。 私は、それが AGI なのか感覚があるのか​​を AI に尋ねるだけでよい、というありきたりのアイデアについても説明しましたが、これは AGI の証明としてあまり説得力のある形式ではないことを明確にしています。 ここのリンク.

最後に、追加の考えとして、AGI に到達したと見なすには、フィニッシュ ラインに完全に到達する必要がありますか?

先ほど、ゴールにたどり着けなかった人のことは忘れがちだと言いました。 これは、AGI レースとあまり似ていないかもしれません。 もし私たちがAGIへの実質的な道を達成することができれば、私たちはすでに驚きの状態にあり、大きな利益または大きな問題を抱えているという説得力のある主張をすることができると信じています. おわかりのように、AGI がほぼ存在することによって、多くの重要で非常に有用な結果が生じる可能性があります。 不足しても、400 メートルの徒競走を完走できないほど問題にはなりません。これは、より完全なバージョンの AGI (比較するとマラソンかもしれません) に進むための重要な基盤となる可能性があるためです。

AGIの達成が徒競走の一種またはそれに相当するものであるという比喩は、時には不十分で不適切なものです.

AGIレースは、人、エンティティ、または国家に行く可能性があります

AGI は、ガレージでパジャマを着たまま作業をする人によって達成され、何年にもわたって苦労してきたクレイジーで独創的なコンピューター化実験の成果であるという夢のような考えを抱いている人もいます。 それは、一匹狼の古典的なハイテク表現です。

これは非常に低いオッズ提案であることを報告して申し訳ありません.

企業や研究チームなどのエンティティが AGI のゴーゲッターになる可能性が高くなります。 AGI にたどり着くには村が必要だというのが、強く一般的な信念です。 一匹狼は、AGI に到達するためのリソースも洞察力も持っていません。 彼らはクエストに貢献するかもしれません。 彼らはパズルに必要なピースを提供するかもしれません。 キット全体とカブードルを獲得することはできません。

村といえば、AGIしかできない国という見方も強い。 AGI は、国民国家内の人々、企業、学者、およびその他のすべてのエンティティの組み合わせを介して、国家全体の共同作業の結果として到着します。 このレースの勝者に対する単位レベルの注意は、より散在した、自由な形の、または個人主義的なものではなく、国家ベースにあります.

つまり、村を例にとると、その村は国家規模になるので、国民国家はAGIレースでフィニッシュラインを通過する指定ランナーになります。

指標と、AGI レースで各国を比較する方法

AGI の成果が国家レベルに基づいていることを前提として考えてください。

繰り返しますが、確かなことはわかりませんが、合理的な仮定のようです。

国民国家基盤の影響を考えてみましょう。 一匹狼が最初に AGI にたどり着き、自分の仕事は自​​分が属する国民国家の仕事を超えていると信じているとします。 この人物は、巧妙に細工された AGI に関して、どの国家にも所属していないと宣言しています。 私たちはまだその国民国家に信用を与え、AGIはその国の管理と範囲内にあるでしょうか?

大規模な多国籍コングロマリットが最初に AGI に到着するという別の代替案を想像してください。 AGI を使用して展開するための「もの」であると言える国はどこですか? おそらく、会社が存在するすべての国が同等の信用を得ることになるでしょう。 あるいは、正式な本社が地理的に配置されている場所だけかもしれません。 それは、真の金の鍋の複雑な分割である可能性があります。

いずれにせよ、国民国家がAGIを達成するための重要な決定要因になるだろうというのが一般的な世論です。 自国の取り組みの中で AI の研究開発を奨励している国は、そうでない他の国よりも早く AGI に到達するでしょう。

AI レースは全国的なレースであるという見方が支配的です。

頭を悩ませる問題は、ある国が AGI レースで他の国より進んでいるか遅れているかをどのように確認するかということです。

従来の徒競走では、どのランナーがうまくやっているか、どのランナーがそうでないかを判断するために使用できるメトリクスを簡単に特定できました。 ランナーの速度は簡単に計算できます。 これは、彼らが最初に終了することを保証するものではありませんが、少なくとも約束を示しています. ランナー間の物理的な距離とフィニッシュ ラインまでの残りの距離は、簡単に測定できる重要な基準であることは明らかです。

AGI レースには、この種の確実な形式のメトリックまたは測定値はありません。

エンドラインがどこにあり、それからどれだけ離れているかを計算する決定的な方法がないため、あらゆる種類の代理測定を使用しています.

従来から考えられている指標の種類を見てみましょう。 AI 関連のグローバルな測定値の特に便利な情報源は、スタンフォード大学のスタンフォード人間中心 AI (HAI) 研究所によって毎年収集され、公開されています。 このレポートはオンラインで無料で入手でき、最新のリリースのタイトルは AI インデックス 2022 年次報告書 (2020 年から 2021 年に収集されたデータに基づく)。 最新の編集で言及されている全国的な比較のいくつかのハイライトをすぐに共有します.

AI に関する国内的および国際的な進歩を評価するために使用されている指標には、あらゆるものが少しずつ含まれる傾向があり、時には真のキッチン シンクも含めることに近い場合があります。

一般的に検討される対策の種類は次のとおりです。

• 特定の国に起因する AI 研究論文の数
• 特定の国の AI 記事への引用文献の数
• 特定の国に拠点を置く AI ジャーナルの数
• 特定の国で開催される AI カンファレンスの数
• 特定の国が主催する AI カンファレンスの数
• 特定の国で付与された AI 関連の特許の数
• 特定の国における AI 企業のスタートアップ数
• 特定の国における AI の仕事の数
• 特定の国における新しい AI の仕事または雇用の数
• 特定の国で導入された AI に関する法律または法案の数
• 特定の国で可決または制定された AI 法の数
• その他

HAI AI インデックス 2022 からのこれらの現代的な兆候を考慮してください。

• AI 出版物の引用: “AI リポジトリの出版物の引用では、米国が 38.6 年の引用全体の 2021% でリストのトップに立ち、欧州連合に加えて英国 (20.1%) と中国 (16.4%) を圧倒する優位性を確立しています。」
• AI ジャーナル/カンファレンス: 「2021 年、中国は引き続き AI ジャーナル、会議、リポジトリの出版数で世界をリードしており、63.2 つの出版タイプすべてを合わせた米国よりも XNUMX% 多い。 その間、米国は、会議とリポジトリの引用数において、主要な AI パワーの中で圧倒的なリードを維持していました。」
• AI特許: 「中国は現在、世界の AI 特許の半分以上を出願しており、付与されているのは約 6% であり、これは EU に英国を加えたものとほぼ同じです。 北米でほぼすべての特許を出願している米国は、中国の 87,343 分の 2021 の割合で出願しています。 申請および付与された AI 特許の数の増加と比較すると、中国は付与された数 (1,407 年に 2021 件) よりもはるかに多くの特許申請 (XNUMX 年に XNUMX 件) を行っています。」
• 新たに資金提供された AI 企業: 「各地域で新たに資金を調達した AI 企業の数による投資データ。 2021 年には、米国が 299 社で首位に立ち、続いて中国が 119 社、英国が 49 社、イスラエルが 28 社でした。それぞれの差は大きいです。」
• AI採用ペース：「ニュージーランド、香港、アイルランド、ルクセンブルグ、スウェーデンは、2016 年から 2021 年にかけて AI の雇用が最も増加した国または地域です。」
• AI の求人情報: 「2021 年には、カリフォルニア州、テキサス州、ニューヨーク州、バージニア州が米国で AI の求人数が最も多い州であり、カリフォルニア州は 2.35 番目に多いテキサス州の XNUMX 倍を超えています。 ワシントン DC は、全体の求人数と比較して、AI の求人掲載率が最も高かった
• AI 立法措置: 「25 か国の AI に関する立法記録の AI インデックス分析は、法律に可決された「人工知能」を含む法案の数が、1 年のわずか 2016 件から 18 年には 2021 件に増加したことを示しています。スペイン、英国、および米国2021 年に最も多くの AI 関連の法案を可決し、それぞれ XNUMX つを採用しました。」

私たちは、AGI レースのために国家のランナー統計を編集することにかかわった多大な努力を大いに賞賛し、感謝することができます.

しかし懐疑論者は、AGI レース エンゲージメントであらゆる種類のメトリクスを使用することについてかなり疑問を呈しています。

厄介な問題は、特定の国での AI に関する記事や AI 会議の数から、AGI の最終的な達成まで、何らかの直線を引くことができるかどうかです。 AI ジョブの数、AI 企業の数、およびその他の指標の数についても同じことが言えます。 これらの数値は、AGI の達成とはほとんど関係がない可能性があります。 議論は、これらの対策は光よりも熱であるということです.

反論は、私たちがどこにいて、どこに向かっているのかを測定しなければならないということです. 私たちがAGIに向かっているのか、それともAGIから遠く離れているのかを評価するのに、頭を砂の中に置くことはあまり実行可能な方法のようには思えません. AI の進歩に向けてより多くのエネルギーと注意を払うほど、AGI に近づくことが期待され、一般的に想定されています。 これらのメトリクスは、AGI レースでどれだけのエネルギーと注意が割り当てられ、消費されているかを収集するために私たちができる最善の方法です。

ぐるぐる回る。

各指標は、それ自体で頭角を現すこともできます。

たとえば、AI に関する法律や法案の数を考えてみましょう。

国会議員が AI 関連の法律に注目している場合、これは、AI の重要性と、AI がどこに向かっているのかという社会的影響について、国が非常に冷静に受け止めていることを示す良い兆候だと言えます。 これは、その特定の国で多くの AI の進歩に向けた取り組みが行われていることを示していると言えます。 AI があなたの国の実証的要素として著しく急成長し、泡立っていない限り、なぜわざわざ AI 法を制定するのでしょうか?

このように、新しい AI 法を公布する国は、その国で AGI の進歩が進行中であることを示す兆候または合図として解釈されます。

一部の批評家は、AI に関する新しい法律の提案が、そのような特定の国での AI の取り組みを抑圧するだろうと主張しています。 国会議員と政治指導者は、自分の足を撃ちます。 法律は、その特定の国で進行中の AI の取り組みに時期尚早に暗い影を落とすことになるでしょう。 AI の進歩の蛇口は法的な髪の毛の詰まりで詰まり、AGI の進歩のペースは、AI 法を宣言する国では少しずつ遅くなるでしょう。 その間、この種の AI に関する法律を通過させていない他の国は衰えることなく続くでしょう。 すでに 400 メートル トラックにいるランナーに鉛の重りを付けることに決めたかのようです。 彼らを助けて速度を上げることを目的とした場合、あなたは正反対のことをしたことになります.

おっと、AI 法の制定は、ランナーの前に不必要な障害物がないことを確認することに似ています。 競馬場のラインがランナーをスムーズに正しい方向に走らせるためにあるのと同じように、法律はガイダンスを提供します。 あの塗装された線がなければ、ランナーは大暴れするかもしれません。 新しい AI 法は、望ましい結果に向けて一丸となって前進し続けるでしょう。 新しい AI 法に関して同様のことを行わない国では、ランナーがあらゆる方向に暴走していることがわかります。たとえば、トラックから完全に外れたり、AGI レース自体を超えて罪のない人々に危害を加えたりする可能性があります。

また、「隠された」AI 関連の法律もあり、これらの指標の一部としてカウントされているものもあれば、カウントされていないものもあります (カウントを比較しようとすると、ごちゃまぜになります)。

例えば、国が自動運転車などの自律走行車に関する法律を制定した場合、これは AI 法としてカウントされますか? 完全自律型の自動運転車などの自動運転車には、無人運転機能の中核となる AI 運転システムが搭載されることを明確にするために ( ここのリンク）。 AI が関与しているため、自律走行車に関する法律は、本質的に AI に関する法律であると合理的に主張できます。 一方、法律は自動運転車に関するものであり、AI 自体に関するものではないと説得力を持って主張するかもしれません。したがって、これは AI 固有の法律のカウントには含まれません。

ぐちゃぐちゃです。

メトリクスに関するこのような驚愕のすべては、これらの重要な考慮事項に対する正反対の見解の中で肩をすくめる原因となるかもしれません. 明らかなように、測定基準は、ほとんどの場合、それらが何を意味するか、および AGI に関する国家の状況がどのように適切に分析されるかについて、異なる解釈の対象となります。

AGIレースの地政学的操作と調整

AGIレースで先行している国は?

後れを取っている国は？

前述のメトリクスは、各ランナーの現在の位置を示します。 基本的な仮定は、メトリクスがAGIがポジショニングを求めていることを適切に示している場合、これらのさまざまなポールポジションは時間の経過とともに同じままである可​​能性があるということです. もちろん、現実には、AGI への険しい道のりの中で、国民の関心と関心が高まることもあれば、衰退することもあります。 ポジショニングの変更を期待するのが最も賢明かもしれません。

考慮すべき重要な点の XNUMX つは、国家が単独でこの競争に参加しているわけではないということです。

国家間でバトンの受け渡しが行われる可能性が高い。 AGI レースでは、XNUMX つまたは複数の国が協力して喜んで作業することがあります。 これは、友好的な笑い声ではなく、用心深く行われることがあります。 他の例では、国家は互いに控えるかもしれません。 いつでも、レースの姿勢は、数歩前のときとはまったく異なる可能性があり、さらに数歩先の未来とはまったく異なる可能性があります.

国境を越えたコラボレーションに関する HAI AI インデックス 2022 レポートで指摘されている次の点を考慮してください。 . 両国間の協力により、英国と中国の間の 2010 倍の出版物が作成されました。これは、リストで 2021 番目に高い数字です。」

皮肉屋は、おそらく相互協力の使用は時折策略として行われると言うでしょう. 国家は、相互協力していると公然と主張し、表面的にはそうしているように見えるかもしれませんが、その一方で、彼らは最高の AGI の進歩を隠された国家の秘密にしています。 多分これは、相互協力国家の進歩を鈍らせるために行われます. うっかり秘伝のタレを渡さないようにするためなのかもしれません。 あらゆる種類の理由が考えられます。

今日の現代のデジタル インターネット オンラインの世界では、AGI の洞察をしっかりと秘密にしようとすることは、困難な作業になる可能性があります。 AGI を発見または発明したいという強い欲求は、個々の AGI 開発者や研究者が最新の成果をオープンに共有するように駆り立てる魅力的な魅力です。 各国は、そのような共有に上限を設けようとすることは、思っているよりもはるかに困難であり、すべてが紙ベースであり、世界中で物理的に移動する文書が必要だった時代よりもはるかに困難であることに気付くことができます.

HAI AI Index 2022 レポートで言及されているように、オープン ソースへの動きは、最新の AI および AGI 研究の多くにとって確かに現代的な重点でした。会議またはファイル共有 Web サイトで。 研究者は会議で彼らの調査結果を公然と共有します。 政府機関は、最終的にオープンソースになる AI 研究に資金を提供します。 また、開発者は、一般に無料で利用できるオープン ソフトウェア ライブラリを使用して、最先端の AI アプリケーションを作成します。 このオープン性は、現代の AI 研究開発のグローバルな相互依存と相互接続の性質にも貢献しています。」

全体として、国は一般的に分かち合っていますが、ハンドの一部しか見せていない可能性があります。 他の国は分かち合っていないか、そうしているふりをしているだけかもしれません. 一部の国は、国内の人々が何を与えているか、何に固執しているかを判断するのに非常に苦労しています。 等々。

私は、これらの国内の動きの性質を次のように特徴付けました。

• AI独り占め国家 (自分で進めようとする)
• AI一方通行国家 (取り入れて、出さない)
• AI レフトオーバー ネイション (他の人から得られるものを得る)
• AI公開国家 （共有することに誇りを持っています）
• AI中空共有国家 （共有の虚偽）
• AI アライアンス ネイション (できるだけ多くの同盟を作ろうとしている)
• AI 非ゲーム国家 （AGIを求めることは国家の優先事項ではありません）
• AI浮気国家 (リバースエンジニアリングまたは他国からの盗み)
• その他

国家は、一度に複数のバケットに入ることができます。

国家は、しばらくの間、これらのバケツの XNUMX つに留まり、バケツから出て、後で戻ってくる可能性があります。

AGI を求めることに関する国民国家の欲求と注意は、確実に継続する動的な潮汐であり、どの国がレースのどこにいるのかについての移動するターゲットであり、把握するには絶え間ない目が必要です。すべてのプレイヤーが特定の瞬間に配置されている場所。

AGIレースのレフェリーとしての国際AI法とAI倫理

これまでのコラムでは、AI を規制する法律を作成して制定するためのさまざまな国内および国際的な取り組みについて取り上げてきました。 ここのリンク & ここのリンク、 例えば。 また、さまざまな国が特定して採用したさまざまな AI 倫理の原則とガイドラインについても説明しました。たとえば、200 近くの国が採用したユネスコ AI 倫理のセットなどの国連の取り組みが含まれます。 ここのリンク.

以下は、私が以前に詳しく調べた AI システムに関する倫理的な AI 基準または特性のキーストーン リストです。

• 透明性
• 正義と公正
• 非有害
• 責任
• 個人情報保護
• 善行
• 自由と自律
• 信頼
• ３つの柱
• 尊厳
• 連帯

これらの AI 倫理原則は、AI 開発者だけでなく、AI 開発の取り組みを管理する人々、さらには最終的に AI システムを整備して維持する人々によっても利用されることを真剣に想定されています。

開発と使用の AI ライフサイクル全体にわたるすべての利害関係者は、倫理的 AI の確立された規範を遵守する範囲内にあると見なされます。 これは重要なハイライトです。なぜなら、「コーダーのみ」または AI をプログラムする人だけが AI 倫理の概念を遵守する必要があると通常想定されているからです。 ここで強調したように、AI を考案して運用するには村が必要であり、村全体が AI の倫理規定に精通し、それを遵守する必要があります。

国際的な AI 法と AI 倫理指針の国際宣言が AGI レースに与える影響と重要性について考えてみましょう。

AGI に向けて努力している国は、放棄してそうし、AGI の一般化された実存的リスクのいくつかに向きを変えていることに気付くかもしれません。 国際的な AI 法と国際的な AI 倫理指針を導入することで、各国が次の方向に導かれることが期待されています。 AI For Good そして避けてください 悪い人のためのAI.

競馬場で例えると、これらの AI に関する法律と AI の倫理に関する考慮事項は、ランナーがトラックの外に出るのを防ごうとするようなものです。 AGI レースでは近道をしたいという大きな誘惑があります。 これらの近道は、一見したところより早くフィニッシュ ライン パスに国を導く可能性がありますが、同時にその国と他の国を過度のリスクにさらすことにもなります。 微妙だがわかりやすい例は、私が調べたデュアルユース AI で構成されています。 ここのリンク、それにより、AIの進歩は、善を目的としたものから、激変的な悪を生み出すことを目的としたものへと、ほとんど努力することなく容易に切り替えられます.

AI に関する国際法と AI の国際倫理は、審判や審判のようなものだと断言できます。

これらの国際的に考案された法的および倫理的メカニズムにより、AGI の競争はより均衡した状態に保たれると想定されています。 問題は、特定の国が審判や審判に注意を払うことを選択するかどうかは別の問題です. 同様に、これらの当局がランナーを正しい軌道に乗せるための罰則やインセンティブをどのように提供できるかという厄介な問題があります。 各国がやりたいように行動する可能性は高いが、そのためには、一部の国が実行することになっている道を外れたルール違反への支持を強化するために、他の国が重みを変える必要があるかもしれない.

まとめ

伝説的な化学者であり微生物学者であるルイ パスツールの有名な言葉は次のとおりです。 科学は国家の最高の擬人化であり、なぜならその国家は思想と知性の成果を最も先に運ぶ最初の国家であり続けるからです。」

AGI の達成に国はなく、AGI は全人類に属すると言えますか?

それとも、最初に AGI に到着した国はそれを所有し、卑劣な力に酔いしれ、力を狂わせますか?

この特定の難問に少しひねりを加えるのが好きな人は、AGI 自体が草の中のことわざである蛇のような達成のタイプである可能性があると考えてください。 ヘビの発見者は、最初にヘビにかまれた可能性があります。 一番になることにはリスクがあります。

AGI でフィニッシュ ラインを通過することは、一部の人が考えるほど、必ずしも祝賀的でのんきなものになるとは限りません。 また、AGI の利用は必ずしも容易ではありません。 AGI は人類と同等の巧妙さと創意工夫を持っているように見えるため、AGI に対処することはほとんど不可能であると主張する人もいるかもしれません。 各国は、何を達成しようとしているのか、そしてその結果がどうなるかについて注意を払う必要があります。 国宝の宝箱にスズメバチの巣があるかもしれません。

パスツールが提唱したように、「幸運は準備された心に好都合です。」