汎用人工知能 (AGI) を作成して人類の特異点への突入を早める作業を行っていないとき、Ben Goertzel は、Desdemona という名前のロボットがフロントを務める Jam Galaxy というジャズ ロック バンドで演奏しています。
これは彼の多くのサイド プロジェクトの XNUMX つであり、彼は当然のことながら、Pearl Jam と Heart のメンバーに手を差し伸べることで音楽ビジネスをトークン化しようとしました。 Goertzel は、Rejuve.ai というアプリを介してトークン報酬を使用して人間の健康データをクラウドソーシングすることで、長寿研究にも取り組んでいます。 その情報は、動物や昆虫の研究データと一緒にプールされ、AI で分析されて、ゲノムのどの部分が私たちの寿命を延ばすことができるかを判断し、遺伝子治療を使用して刺激します。 「非常に驚くべきブレークスルーレベルの発見がいくつかありました」と彼は言います。 ああ、私たちの XNUMX 時間にわたるインタビューが終了する直前に、彼はさりげなく、彼の分散型 AI マーケットプレイス SingularityNET のためにステーブルコインを作成していることにも言及しました。 "ラメ。"
「環境の進歩は非常に安定しています。 どこにも行かない」と彼は指摘する。
「これを操作するには、実際に地球温暖化を解決する必要があります。」
それは、1971 年にタイムマシンに遭遇し、2023 年に完全に形成されたヒッピー科学者のように見え、聞こえるように、Goertzel に期待されるような政治的コメントとハイテクのノウハウが出会います。しかし、だまされてはいけません。アニマル プリントの帽子、長い髪、エレクトリック クールエイドのアシッド トリップ ドロール: 彼は優秀な科学者であり、何光年も先の未来を把握しており、人類がこれまでに考えた中で最も大きな概念のいくつかに取り組んでいます. 意識とは？ どうやって人工生命を作るのか、それが私たちを気に入らず、ならず者になり、みんなを銃で撃ち殺したらどうなるか ターミネーター2?
人工知能とは何ですか？
Goertzel は、「汎用人工知能」という用語を、ほとんど何でも学習できる本物の思考機械と、チェスの世界チャンピオン Garry Kasparov を打ち負かしたことで有名な Deep Blue コンピューターのような特定のタスクに最適化された AI とを区別する方法として広めました。 彼は、あらゆることを学習できるマシンを構築することにはリスクがあることを率直に認めています。
「AGI には多くのリスクと危険性があります」と、シンガポールのにぎやかなショッピング センターにあるインド料理レストランでの騒ぎについて、Goertzel 氏は言います。 「多くのメディアの注目を集めているものの XNUMX つは、AGI が大暴れして人類を全滅させ、宇宙を乗っ取るというものです。 それは完全に可能です。 それを除外することはできません」と彼は言います。
「もうXNUMXつの可能性の高いリスクは、厄介な利己的な人々がAIを使用して、自分の貪欲さを発揮し、他の人々を支配することです。」
彼の見解では、政府は「あまりにも保守的で愚か」であるため、AGI でブレークスルーを起こす可能性は低いと考えていますが、中国は AGI の仕事を Tencent や Baidu などの企業に委託していると指摘しています。 より身近なところでは、Google と Facebook の AI 部門も一線を越えることはできないだろうと彼は考えています。なぜなら、彼らは AI を特定の指標に到達させることに集中しすぎて、創造的な思考を助長しないからです。
「最も優秀な人が単に他人の指標を提供したくないのと同じように、汎用人工知能は必ずしも誰かのウェブページでのクリックスルーを最大化したいわけではないと思いますよね? 創造的に遊ぶことを許可する必要があります。」
1970年頃のシンギュラリティ
Goertzel は 15 歳で大学に入学し、18 歳で卒業し、22 歳で博士号を取得し、23 歳で若い家族を持っていました。おそらくこの時代では珍しいことですが、彼は 70 年代にキット コンピューターをはんだ付けした単なる数学の達人や技術の天才ではありませんでした。しかし、哲学、創作、音楽にも同様に興味を持っていました。
彼はキャリアの多くを世界中のさまざまな大学でコンピューター サイエンス、数学、認知科学の教育と研究に費やし、できる限り AI 技術に取り組みました。 連続創業者であり、他の誰よりも約 XNUMX 年先を行くアイデアを持っています。 間違っていることと同義であることはよく知られている — 彼は、AI を使用して金融市場と寿命を予測することに取り組んできました。また、ハンソン ロボティクスの主任科学者としての任務もあり、ロボットのソフィアに人工頭脳を与えました。
Goertzel は、Gerald Feinberg の著書を初めて読んだ 1970 年代から、指数関数的な技術の成長について考えてきました。 プロメテウス計画、それは「人よりもよく考えることができる機械…微視的に小さいナノテクノロジー機械、そして私たちは老化を解決しようとしている」ということです. これは、技術の進歩が制御不能で元に戻せなくなり、人間の文明に大規模な変化をもたらす仮想的な未来の時点であるシンギュラリティの新たな概念とうまく一致しました。
「それで、人々は永遠に生きます。問題は、 私たちはこれらのテクノロジーを何に使うのか、急速な無知な消費主義に使うのでしょうか、それとも意識を拡大するために使うのでしょうか? そして彼[ファインバーグ]が提案したのは、それを民主的な投票にかけることです。」
数年後、彼が AGI が私たちの手の届くところにあることに気づき始めたとき、この「民主的な投票」は、最初にオープンソース テクノロジーを使用するきっかけとなり、その後、テクノロジーを担当する共同コミュニティを配置する方法としてブロックチェーンを使用するようになりました。
「ある時点で気付いたのですが、AI では、コードを開いたままにしておくだけでは十分ではないということです」と彼は言います。 「膨大な量のデータで AI をトレーニングする必要があります。」
「ブロックチェーンは、AI の基盤となる処理とデータを本質的に分散化およびクラウドソーシングし、制御をオープンにする方法として登場します。 そしてそれは、コードをオープンソース化するよりも難しいことが判明しました。」
Goertzel は 2008 年に OpenCog を設立し、オープンソースのクラウドソースの人工知能フレームワークを構築しました。 これは Huawei や Cisco を含む 50 の企業で使用されており、200 倍の高速化を目指す Hyperon と呼ばれるメジャー アップグレードがまもなく予定されています。 アルファ版は今四半期、ベータ版は来年の予定です。
ブロックチェーンは基本的だがクール
Goertzel にとって、ブロックチェーン技術は少し基本的なものです。 彼はそれを、いくつかの原始的な分散アルゴリズムが暗号化に追加されたものだと説明していますが、「クールな組み合わせ」により、集中管理なしでシステムを実行できるため、彼のニーズに最適です。
「もしあなたが思考機械を作り、それを分散型ナノスケール コンピューティング ファブリックにしようとしているなら、これがトップダウンで制御されるのではなく、誰もが所有し、誰にも所有されないのであれば、非常に素晴らしいことです。」
ブロックチェーンは、処理要件と関連する大量のデータを処理するには遅すぎるため、画期的な AGI が開発される前に、ブロックチェーンを適切にスケーリングする競争が発生します。 Goertzel 氏は、ゼロ知識ロールアップなどのスケーリング ソリューションは優れているものの、トランザクションを報告するブロックチェーンの制限により、まだ十分な帯域幅を持っていないと述べています。
彼は 2017 年に SingularityNET を共同設立しました。SingularityNET は、AI サービスとテクノロジの分散型市場であり、研究者 (または AI) が連携するためのブロックチェーン ベースの調整方法でもあります。
現在、イーサリアムに基づいて、彼は現在の形でブロックチェーンに移行できる限り、物事を推し進めていると考えています。 そのため、AGI (またはバンド、ロボット、長寿) のブレークスルーに取り組んでいないときは、必要なスループットを実現するためにブロックチェーンを大規模にスケーリングすることに取り組んでいます。
「ブロックチェーンのスケーラビリティを根本的に高めることができない限り、AI の内部の仕組みをオンチェーンにすることはできません。」
AI はあなたが思っているよりも身近にある
2022 年は、言語アプリケーション (GPT-3、ChatGPT)、コーディング (GitHub Copilot)、画像生成 (DALL-E および Stable Diffusion) など、AI テクノロジに基づく実用的な製品にとって画期的な年でした。 Bing は、ChatGPT 技術を自社の検索エンジンに組み込むことで、今年は Google の検索優位性を奪うことさえ計画しています。
Goertzel は、AGI はわずか XNUMX 年先に実現する可能性があると考えており、この分野の開発は、一連のブレークスルーの中で XNUMX 年または XNUMX 年の短期間で一気に進むように見えると述べています。
「Computer Vision は 2014 年に始まり、突然、バン、バン、バン、謎が解けました。 自然言語処理…Google が (2018 年に) Bert モデルを思いついた後、GPT-3 がありました。 おそらく、AGI でも同様の進行状況が見られるでしょう。 XNUMX つのブレークスルーがあれば、その後 XNUMX 年間で大きな進歩を遂げることができます」と彼は言いました。
「違いは画期的な進歩であり、その場合、マシンは独自のコードを書き換えることで進歩を続けることができます。」
Goertzel は、彼が始めたプロジェクトとコラボレーションが、それを実現する方法になることを望んでいます。
「運が良ければ、Hypercycle 上で動作する SingularityNET 上で OpenCog Hyperon を実行することで、今後 XNUMX 年から XNUMX 年以内にそのブレークスルーを達成できるでしょう」と彼は言います。 「でも、私たちが秘密のソースを持っていなければ、他の誰かが手に入れるでしょう。」
Pity Vitalik はコンピューター科学者ではありませんでした
ブロックチェーンをスケーリングするための Goertzel のソリューションはかなり急進的であり、「HyperCyle」と呼ばれる Cardano のサイドチェーンまたはレイヤー 2 をターボチャージする必要があります。
「それは本当にサイドチェーン以上のものです。 HyperCycle はイーサリアムやその他のブロックチェーンとも連携しますが、そこでは Plutus インタープリターを使用しますが、台帳は削除します。」
彼は、HyperCycle オンラインについて、「元帳を取り除き、より近代的/完全に分散化されたアルゴリズムとデータ構造に加えて、AI と評判システムを少し使用することで、分散化 vs. セキュリティ vs. パフォーマンス」の「ブロックチェーンのトリレンマ」を解決すると説明しています。
台帳はブロックチェーン技術の心臓部ですが、ネットワーク内のすべてのノードに各トランザクションを複製させ、すべてのスマート コントラクトを処理させるのはばかばかしいほど非効率的だと彼は言います。
「帳簿が悪い。 考えてみれば、あなたの電話帳の連絡先に例えると、台帳は […] イエロー ページの 10,000 のコピーを保持していて、新しい人が来るたびに更新しているようなものです。電話番号を変更します。 イエロー ページを 10,000 部も更新するなんて、本当にばかげています。」
また、読み込み
HyperCycle バージョンの類推では、全員がイエロー ページを保存および更新する代わりに、連絡帳にいる人がアドレス帳のコピーを保存し、その逆も同様で、秘密鍵で暗号化されます。
「元帳を複製せずにブロックチェーンを機能させる方法を見つけたので、完全にシャーディングします。 ブロックチェーンに携わるすべての個人は、自分の取引履歴を保持し、友人や友人の友人の取引履歴を保持しています」と彼は言います。
「徹底的にシャーディングすれば、台帳は必要ありません。データベース テーブルも必要ありません。 これらのものはあまりにも中央集権的です。」
彼は、いくつかの概念実証の HyperCycle ノードはすでに運用されていますが、本格的な打ち上げは 2024 年の後半まで行われないと述べています。
インターネット コンピュータから Elastos や Celestia に至るまで、ブロックチェーンへのさまざまなアプローチのさまざまな利点について長い時間をかけて議論しましたが、その多くは私の給与水準を超えており、騒がしいレストランで正確にキャプチャするための録音デバイスの能力を超えています。
彼は次のように締めくくっています。 それらはすべてビットコインに近づきすぎています。」
「すべてのノードですべてのスマート コントラクトを実行している限り、非常に遅くなります。 現在、HyperCycle では、10,000 つのノードでスマート コントラクトを実行すると、少なくとも XNUMX 台のマシンの XNUMX 倍遅くなります — XNUMX 倍遅くはなりません。」
では、なぜカルダノなのか?
Goertzel は Cardano の創設者である Charles Hoskinson と親しくなり、アフリカでのプロジェクトを通じて絆を深めています。 彼はホスキンソンが「本当に世界を救うためにそこにいる. つまり、政治的には、彼は私よりも筋金入りのリバタリアンであり、私はより無政府社会主義者であるが、彼は単にお金を稼いだり、他の人からお金を奪ったりするためだけに参加しているわけではない.」
しかし、Cardano の本当の魅力は、Goertzel が 1993 年から愛用している Haskell プログラミング言語を使用していることです。イーサリアムの共同創設者である Vitalik Buterin が Gavin Wood のスマート コントラクト プログラミング言語 Solidity を採用したことは、Goertzel を大いに悩ませています。
「Vitalik がコンピューター サイエンスをもっと知っていれば、Haskell や F Sharp などを使わせて、ブロックチェーンのハッキングははるかに少なくなったでしょう」と彼は言います。
「世界経済の大部分を運営し、ソフトウェア システムで何兆ドルもの取引を行う場合、バグが発生しにくく、アルゴリズムを正式に使用できる言語でそのソフトウェア システムを構築することをお勧めします。数学的理論を使用して検証されました。 それは物事を行うための正しい方法です。」
応急処置
ブロックチェーンがどれほど速くなっても、AGI が人間よりも桁違いにスマートで能力が高いとすぐに、Goertzel 氏は、誰もそれを制御できないようにするつもりはないと述べています。
「AGI が人間の 100 倍賢い場合、チンパンジーやロバに制御されないのと同じように、AGI は人間に制御されたくありませんよね?」
「では、問題は私たちの誰かがそれをコントロールしているということではなく、問題は、それが私たちに好意的かどうかということです。 人々が自分のビジネスを規制し、必要なものをすべて 3D プリントして病気を治すためのクールなツールやナノ アセンブラーを提供してくれるでしょうか?」
「しかし、AGI が人間と同じ程度の知性を持つ移行期は、物事がより繊細で興味深いものになる時期です。 そして問題は、AGI は人々と協力したいのかということです。 それとも偏執的で、人々がそれを破壊する前にコントロールしたいのですか?」
あなたの子供をよく教える
Goertzel の意見では、解決策は AGI に他者への思いやりと創造性と芸術について教えることです。 そこに彼のバンドのデズデモナ・ザ・ロボットと、高齢者のケアを提供するように設計された彼女の妹のグレースが登場します.
AGI がターミネーターのスカイネットに変わるのを避ける方法は、そもそも AGI をそのように構築しないことです。
「もちろん、映画のスカイネットは暴走するコンピュータ セキュリティ ネットワークでした。 人々から身を守るために作られました」と彼は言います。
「しかし、よりスマートになるにつれて、高齢者ケアと創造的な芸術と教育に関係する最初の AGI を構築すると、それは人々を助け、クールなものを作成することに向けられるようになります。 悪者を殺すための最初の AGI を構築した場合、おそらくそのようなことを続けます。」
「つまり、有益かどうかは、実際にどのアプリケーションを開発し、何に対してインセンティブを与えたかにかかっています。」
彼は、AI をロボットの身体に組み込むことは、抽象的な数学的宇宙ではなく、現実の世界に AI を配置するのに役立つため、役立つと考えています。
「AI は、人間の世界と物理的な世界について学習する必要があります。 世界に具現化されることは、それを行うための正しい方法です」と彼は言います。
しかし、彼がロボットのソフィアを大勢の聴衆に紹介すると、視覚と聴覚のセンサーが簡単に圧倒され、騒々しく明るい環境で AI を混乱させる可能性があります。 そのため、Sophia は、Sophiaverse と呼ばれるメタバースで間もなく開始されます。 ChatGPT の退屈なテキストベースの回答は忘れてください。ソフィアは 3D 仮想世界に体現され、そこで人々と交流することから学びます。 しかし、彼は彼女がおそらくばかげたことを言うだろうと警告している.
「GPT-3 などに似たニューラル ネットワークを備えており、質問に答えるのに十分な機能を備えていますが、いくつかの点で非常に愚かでもあります。」
ニュースレター登録
ブロックチェーンで最も魅力的な読み取り。 XNUMX回にXNUMX回配信
週。
ソース: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/