AIアルゴリズムを規制する理由はあなたが思っているよりも単純です

人工知能が世界を征服するのではないかと心配ですか? 多くの人がそうします。 心配するイーロン・マスクより DeepMind が高度な囲碁ゲームで人間を破る 2017 年、議会議員、ヨーロッパの政策立案者に宛てて（以下を参照） ヨーロッパの人工知能へのアプローチ）、学者の間では、今年は AI を真剣に受け止めるべき XNUMX 年であるという感覚があり、それが定着しつつあります。 ただし、それはあなたが考えているような理由ではなく、現在の脅威によるものでもありません。

ここでアルゴリズムが登場します。アルゴリズムとは何でしょうか?と思われるかもしれません。 最も単純に考えると、機械が理解して学習できる一連の命令と考えることができます。 私たちはすでに、構造化された自動化された方法でデータを計算、処理し、推論するように機械に指示することができます。 しかし、問題は、いったん指示が与えられると、機械はその指示に従ってしまうことです。 今のところ、それがポイントです。 人間とは異なり、機械は指示に従います。 彼らはそれほどよく学びません。 しかし、一度実行すると、問題が発生する可能性があります。

私は、シンギュラリティ議論としてよく知られている、コンピューターがいつか人間の知能を超えるという考えについて、センセーショナルな議論をしたいわけではありません (ニューヨーク大学の哲学者デイビッド チャーマーズの論文を参照) その話題についての思索.) むしろ、AI アルゴリズムが一般の人々にとってより重要になり始めている理由を示す最良の例は製造業かもしれません。 私たちの犠牲のもとに、機械がその能力を大幅に加速させるのではないかと懸念する人もいる。 必ずしも高度な推論によるものではなく、アルゴリズムの範囲内での最適化によるものです。

ものづくりとは物を作ることです。 しかし、機械が物を作るときには注意が必要です。 たとえ機械が作るものは単純なものであっても。 その理由を説明します。

レインブーツから携帯電話、そしてそのバックまで

たとえば、工場でレインブーツを製造しているとします。 私はノルウェーの雨の多い地域で育ったので、レインブーツが大好きです。 私は外に出て、自然のさまざまな要素に触れるのが大好きです。 ノキアは私が育ったレインブーツを作ってくれました。 そうです、今日私たちがエレクトロニクス会社として知っているノキアは、かつてはゴム長靴を製造していました。 なぜこれが鍵なのでしょうか？ なぜなら、一度何かを作ってしまうと、改善したくなるのが宿命だからです。 それは理にかなっている。 それが人間の本性だと言えるでしょう。

Nokia に起こったことはよく知られており、次のようになります。当初は製紙工場でしたが、私が子供のころには、ゴム長靴 (およびタイヤ) の製造が会社にとって特に成功していました。 しかし、彼らはさらなるチャンスを見出しました。 したがって、1980年代のある時点で、彼らはエレクトロニクス分野に移行し、携帯電話の製造を開始したときに地元のサプライヤーの大規模な構造を構築して工場を急速に変更しました。 これはモバイル通信革命の先駆けとなり、スカンジナビアで始まり、世界中に広がりました。 当然のことながら、多くの人が 1990 年代の Nokia の物語を書いています (「 フィンランドの奇跡の背後にある秘密: Nokia の台頭).

私の例は簡単です。 おそらく、単純すぎるでしょう。 しかし、こう考えてみてください。 大企業が、書くための紙の製造から、雨の中での外出を楽にするブーツの製造、そして最後に、人間のコミュニケーション方法を変える携帯電話の製造へと急速に移行できれば、次のステップはどれだけ簡単になるでしょうか? 携帯電話を製造する会社がナノボットの製造を決定し、おそらくXNUMX年以内にナノボットが普及し、あらゆる場所で自律的に走り回り、再構築して人間の経験を変えることができる極小の機械で人類を変えると仮定します。 それがどのように起こりたいのか、誰に責任を負わせたいのか、そして最終的な目的を考慮せずにそれが起こったらどうなるでしょうか?

ロボットが意識的にノキアの携帯電話製造決定に貢献したと考えるのは無理があるだろう。 しかし、北海岸のフィンランドの農村地域が新しい産業で世界制覇を獲得できると考えるのにテクノロジーが役割を果たしたことを認識することは重要な役割を果たします。

ソフトウェアベースの iOS および Android オペレーティング システムの出現を考慮に入れていなかったことを考慮すると、ここ XNUMX 年間の Nokia の物語はそれほどバラ色ではありませんでした。 その結果、Nokia はもう携帯電話を製造しません。 ちょっとした復活の話ですが、彼らは現在、ネットワーキングと通信インフラストラクチャ、ネットワーク セキュリティ ソリューション、Wi-Fi ルーター、スマート照明、スマート TV を製造しています (「 ノキアの復活物語）。 Nokia は今でも何かを作っています、それは本当です。 唯一の観察は、Nokia が常に自分たちの作ったものを組み合わせるのを楽しんでいるように見えるということです。 人間による製造上の決定でさえ、時には理解するのが難しい場合があります。

ものづくりとは物を作ることであり、物は進化していきます。 概して、私たちが今日作っているものは、ほんの 3 年前とは変わりました。 3D プリンターは、産業と家庭の両方で多くの先進的な製品を分散生産してきました。 XNUMXD プリントによる生活を変えるような影響はまだ起こっていません。 これが続くかどうかはわかりませんが、FDA が製品の製造の規制に焦点を当てていることはわかっています ( こちら）印刷された錠剤や医療機器、明らかな知的財産と責任の問題、または銃器の印刷に関する問題などです。 結局のところ、3D プリンティングがこれを超えてどのような悪影響をもたらす可能性があるかについての政策議論は存在せず、それについてわざわざ考えようとした人はほとんどいません。

私は 3D プリントそれ自体が危険だと言っているのではありません。 おそらく、これは悪い例です。 それにもかかわらず、最初は平凡に見える物事が世界を変える可能性があります。 例はたくさんあります。戦争を引き起こす金属製の狩猟採集者の矢じり、新型コロナウイルス感染症から私たちを守る儀式用のマスク、高層ビルを建てる釘、（今も）私たちの工場を印刷用紙で満たし、電力を供給している可動活字印刷機などです。出版事業や、夜に屋内を見て作業できるようにする電球など、私は続けることができます。 私の知り合いで、19 年代後半に座って、ノキアが生産拠点を紙からゴム、電子機器、そして携帯電話から遠ざけるだろうと予測した人は誰もいません。 おそらくそうすべきだろう。

人間は、段階的な変化、つまり XNUMX つの変化がさらなる変化につながり、突然物事が根本的に変化するプロセスを予測するのが苦手です。 私たちは指数関数的な変化についての実際的な知識がほとんどないため、このプロセスをまだ理解していません。 私たちはそれを想像することも、計算することも、理解することもできません。 しかし、何度も何度も私たちを襲います。 パンデミック、人口増加、書籍印刷からロボット工学に至るまでの技術革新は、通常、警告なしに私たちに襲いかかります。

未来主義で重要なのは、「もし」ではなく、「いつ」なのかです。 実際、新しい生産方法をいくつか挙げて、それが将来さらに普及するだろうと述べるだけで、変化を予測できるかもしれません。 それは十分に簡単です。 難しいのは、いつ、特にどのようにして行うかを正確に把握することです。

ペーパークリップは問題ではありません

もう一度工場の例を考えてみましょう。今回は、機械が多数の決定 (すべての決定ではなく、最適化などの生産上の決定) を担当していると想像してください。 彼の本の中で スーパーインテリジェンス, オックスフォード大学のディストピア人文学者ニック・ボストロムが、ペーパークリップ工場を運営するAI最適化アルゴリズムを想像したことは有名です。 ある時点で、増え続けるリソースをそのタスクに振り向けることを学習することが合理的であると機械が判断し、最終的に私たちの世界を徐々にペーパークリップに変え、それをオフにしようとする私たちの試みに抵抗することを想像してみてください。

ボストロムの例は賢い人であるにもかかわらず、非常に愚かで誤解を招くものです（それでも記憶に残ります）。 まず、彼は人間とロボットがもはや別個の存在ではないという事実を説明できていない。 私たちは交流します。 賢いロボットのほとんどは協働ロボットや協働ロボットに進化しています。 人間が機械を修正する機会は数多くあります。 それでも、彼の基本的なポイントは変わりません。 ある時点で段階的な変化が発生する可能性があり、その変化が十分な監視なしに十分に速く起こると、制御が失われる可能性があります。 しかし、その極端な結果は少し現実離れしているように思えます。 いずれにせよ、私はこれらの機械を操作する人間を規制し、労働者を適切に訓練することで常に最新情報を把握するよう義務付ける必要があることに私は同意します。 そういうトレーニングはうまくいきません。 現状では時間がかかりすぎており、訓練するにも訓練されるにも専門的なスキルが必要です。 一つわかっていることがある。 将来的にはあらゆる人がロボットを操作するようになるでしょう。 そうしない人はかなり無力になるでしょう。

機械と完全に融合しない場合でも、人間を拡張することは、何も考えずに自動化するよりも優れています。 XNUMX つの概念は論理的に異なります。 人間もロボットも、自動化のための自動化に行き詰まる可能性があります。 そうなれば今後の製造業に大きなダメージを与えることになるだろう。 たとえ殺人ロボットを生み出さなかったとしても。 合併は何百年も先のことだと思いますが、それが問題ではありません。 たとえそれがわずか XNUMX 年先であっても、単純なアルゴリズムで動作する自走式機械が制御を失うというシナリオは、すでに製造現場で起こっています。 それらのマシンの中には XNUMX 年前のものもあり、古い独自の制御システムで動作しています。 彼らの主な課題は、彼らが進んでいることではなく、その逆です。 彼らは単純すぎてコミュニケーションが取れません。 これは明日の問題ではありません。 それは既存の問題です。 私たちはそれに目を開かなければなりません。 次回ゴム長靴を履くときは、このことを考えてください。

私は 1980 年代の Nokia ブーツを今でも持っています。 穴は開いていますが、自分がどこから来たのか、どれだけ歩いてきたのかを思い出させるために保管しています。 雨も降り続きますが、十分にきれいであれば、ブーツよりも良い修理は必要ありません。 もう一度言いますが、私は人間です。 おそらくロボットはすでに先に進んでいるでしょう。 レインブーツのAI版って何だろう。 携帯電話ではありません。 雨センサーではありません。 それは心を混乱させます。

今日のデジタル ブーツは、3D プリントされたデザインが施されているため、カスタマイズできることを意味します。 販売および取引できるNFT（代替不可能なトークン）としてのみ存在する仮想シューズがあります。 最近では、最高級の仮想スニーカーには 10,000 ドルの価値があります (「 NFTスニーカーとは何ですか、そしてなぜ10,000ドルの価値があるのですか？）。 私はそれらを恐れていませんが、そうすべきでしょうか？ 仮想世界が物理世界よりも価値が高く評価されるようになれば、おそらく私もそうするでしょう。 それとも、AI 自身のアバターが「雨」に対処するために独自の NFT ブーツを購入するまで心配するのを待つべきでしょうか? 私たちが独自のイメージでアルゴリズムを構築すると、株式を購入したり、(おそらく機械と人間の両方と) 忠実な友情を築いたり、記憶したりするなど、私たちが得意だと思っていても通常は苦手なことを AI が得意にする可能性が高くなります。もの。 産業メタバースは、私たちの世界を模倣し、実りある方法でそれを超えるデジタルツインで満ちているなど、驚くほど洗練されている場合もあれば、驚くほどシンプルである場合もあります。 多分両方。 まだわかりません。

何が起こるかわからないので、AI アルゴリズムを規制する必要があります。 これだけでも十分な理由ですが、それをどのように行うかについては、さらに長い話になります。 もう XNUMX つ簡単に観察させてください。おそらく、基本的なアルゴリズムはすべて公開されるべきです。 その理由は、そうでない場合、それらがどのような結果をもたらすかを知る方法がないからです。 上位のものは非常によく知られています (参照) 機械学習アルゴリズムのトップ 10）、しかし、それらがどこでどのように使用されるかについての世界的な概要はありません。 特に注意深く監視する必要があるのは教師なしアルゴリズムです (「 製造における機械学習の XNUMX つの強力な使用例)、メンテナンスや品質を予測するため、生産環境 (デジタル ツインなど) をシミュレートするため、または人間では決して思いつかないような新しい設計を生成するために使用されるかどうか。 今日の状況では、これらの教師なしアルゴリズムは通常、人間の脳を模倣しようとする、いわゆる人工ニューラル ネットワークです。

私がニューラル ネットワークについて心配し始めたのは、そのロジックを理解するのが難しいと感じたからです。 問題は、ほとんどの専門家（それを導入している専門家も含めて）が、これらのアルゴリズムがどのようにステップからステップ、あるいはレイヤーからレイヤーへと移行するのかを理解していないことです。 よく使われる「隠れ層」という比喩は、あまり適切ではないし、あまり面白いとも思えません。 まず、製造業、自動徴税、採用決定、大学入学などに隠れた層があってはなりません。 あなたも心配することを考えたほうがいいでしょうか？ 一つ確かなことは、人間と機械が一緒にものを作ることで世界が変わるということです。 それはすでに何度も行われています。 紙からレインブーツ、そして今日の人工頭脳の層に至るまで、未踏の部分は何もありません。 多くの小さな変化から、より大きな変化が突然現れる可能性があるという単純な事実から目を背けるべきではありません。