ジェネレーティブ AI ChatGPT が無限のコンテンツでインターネットを氾濫させるというのは本当ですか、AI の倫理と AI の法律を問う

心に強く訴える児童書を知っていますか 水から出た魚?

魅惑的な本は、ヘレン・パーマー (本名ヘレン・パーマー・ガイゼル) によって書かれ、ドクター・スース (本名テオドール・ガイゼル) の短編小説に基づいていました。 夫と妻のチームは、今や伝説的な児童文学への貢献を生み出し、世界中の若者を喜ばせました。

プロットに慣れていない場合、またはプロットのリフレッシュが必要な場合は、簡単に要約させてください. 近所のペットショップで金魚を買う少年。 彼は、小さな海の生き物に餌を与えすぎないように厳しく指示されています. そうすれば何が起こるかわかりません。

少年はうっかり金魚に餌をやりすぎてしまいましたが、これはたった XNUMX 回だけです。

物事はかなりうまくいかなくなり始めます。

かつては小さな魚でしたが、すぐに金魚鉢から大きくなり、少年は愛するペットを家の浴槽に入れました。 魚はどんどん増えていきます。 これは止められないようです。

すぐに、警察と消防署が少年を助けに来て、象の大きさになった金魚を地元の公共プールに運びます。 最終的に、ペットショップのオーナーが到着し、金魚を通常のサイズに縮小することに成功しました. この魔法の偉業がどのように達成されたのかはわかりません。 少年は、食べ過ぎを避けるように再び警告されます。

教訓、難しい方法。

インターネットの未来に関しては、これと同じ悲惨な教訓に注意を払う必要があるかもしれません。

私はどのように知っていますか？

今日の現実は、私たちが人工知能 (AI) の一種を考案した可能性があるということです。AI は拡大し、膨大で終わりのないデータの急流でインターネットを満たします。 手巻きが多いです 生成AI、最近ニュースで最もホットな AI は、まさにそれを行います。

ジェネレーティブ AI は、人間のユーザーが入力する単純なプロンプトだけで、テキストなどの出力を生成または生成できます。 完全で広範なエッセイは、適切に選択されたいくつかの単語によって生成できます。 OpenAI によって XNUMX 月にリリースされた、ChatGPT として知られる広く普及している AI アプリにより、ジェネレーティブ AI に気付いているかもしれません。 これについては、もう少し詳しく説明します。

ジェネレーティブ AI を使用して一見無限の量のコンテンツを作成できると熱心に警告する人もいます。

ジェネレーティブ AI を簡単に活用して、たった XNUMX 回のオンライン セッションで何千ものエッセイを生成できます。 その人は、生成されたエッセイをインターネットに投稿することを選択できます。 これが大規模に行われると想像してください。 本質的には、これに何百万ものインターネット ユーザーを掛け合わせてください。 生成されたコンテンツの真の津波は、簡単に作成して投稿できます。

すすぎ、繰り返し、絶え間なく、毎日、毎分。

これは空が落ちているぎくしゃくした主張ですか、それとも有効なメリットがありますか?

今日のコラムでは、ジェネレーティブ AI コンテンツによって完全に閉塞され、圧倒されるインターネットの未来に私たちが直面しているこれらの表明された懸念に対処します。 これらの不安の根拠を見て、通常は述べられていないいくつかの潜在的な利点を検討します. ChatGPT は 600 ポンドのジェネレーティブ AI ゴリラであるため、このディスカッションでは時々 ChatGPT について言及しますが、ジェネレーティブ AI アプリは他にもたくさんあり、それらは一般的に同じ全体的な原則に基づいていることに注意してください。

一方、ジェネレーティブ AI とは実際には何なのか疑問に思われるかもしれません。

最初にジェネレーティブ AI の基礎を説明してから、差し迫った問題を詳しく見ていきましょう。

これらすべてに、多数の AI 倫理と AI 法の考慮事項が含まれます。

AI アプリの開発と運用に倫理的な AI の原則を浸透させるための継続的な取り組みがあることに注意してください。 関心を持っていたかつての AI 倫理学者の増加する部隊は、AI を考案して採用する取り組みが、実行の観点を考慮に入れることを確実にしようとしています。 AI For Good と回避 悪い人のためのAI. 同様に、AI の取り組みが人権などで暴走するのを防ぐための潜在的な解決策として、新しい AI 法が提案されています。 AI 倫理と AI 法に関する私の継続的かつ広範な報道については、以下を参照してください。 ここのリンク & ここのリンクちょうど少数の名前を挙げる。

AI を誘発する無数の罠に社会が陥るのを防ぐために、AI の倫理的教訓の開発と普及が進められています。 ユネスコの取り組みを通じて約 200 か国で考案され、支持されている国連 AI 倫理原則の私の報道については、以下を参照してください。 ここのリンク. 同様に、新しい AI 法が検討され、AI を安定した状態に保つことが試みられています。 最新のテイクの XNUMX つは、提案された一連の AI権利章典 米国のホワイト ハウスが AI 時代の人権を特定するために最近発表したことを参照してください。 ここのリンク. AI と AI 開発者を正当な道に保ち、社会を弱体化させる可能性のある意図的または偶発的な不当な努力を思いとどまらせるには、村が必要です。

AI の倫理と AI の法律に関連する考慮事項をこの議論に織り込みます。

ジェネレーティブ AI の基礎

ジェネレーティブ AI の最も広く知られているインスタンスは、ChatGPT という名前の AI アプリによって表されます。 ChatGPT は、XNUMX 月に AI 調査会社 OpenAI によってリリースされたときに世間の注目を集めました。 それ以来、ChatGPT は特大の見出しを獲得し、割り当てられた XNUMX 分間の名声を驚くほど超えました。

おそらくChatGPTについて聞いたことがあるか、それを使用したことのある人を知っていると思います.

ChatGPT は生成 AI アプリケーションと見なされます。これは、ユーザーからのテキストを入力として受け取ってから 生成 またはエッセイで構成される出力を生成します。 AI はテキストからテキストへのジェネレーターですが、私は AI をテキストからエッセイへのジェネレーターであると説明しています。 ジェネレーティブ AI を使用して長い文章を作成したり、かなり短い簡潔なコメントを提供したりできます。 それはあなたの入札ですべてです。

プロンプトを入力するだけで、AI アプリがプロンプトに応答しようとするエッセイを生成します。 構成されたテキストは、エッセイが人間の手と心によって書かれたかのように見えます。 「エイブラハム リンカーンについて教えてください」というプロンプトを入力すると、生成 AI がリンカーンに関するエッセイを提供します。 text-to-art や text-to-video など、ジェネレーティブ AI には他にもモード​​があります。 ここでは、テキストからテキストへのバリエーションに焦点を当てます。

あなたの最初の考えは、この生成能力は、エッセイを作成するという点ではそれほど大したことではないように思えるかもしれません. インターネットで簡単にオンライン検索を行い、リンカーン大統領に関する膨大な量のエッセイを簡単に見つけることができます。 ジェネレーティブ AI の場合のキッカーは、生成されたエッセイが比較的ユニークであり、模倣ではなく独自の構成を提供することです。 AI が作成したエッセイをオンラインでどこかで見つけようとしても、それを見つけることはまずありません。

ジェネレーティブ AI は事前にトレーニングされており、ウェブ全体で書かれた言葉や物語のパターンを調べることによって設定された複雑な数学的および計算式を利用します。 何千、何百万もの文章を調べた結果、AI は見つかったものの寄せ集めである新しいエッセイやストーリーを吐き出すことができます。 さまざまな確率的機能を追加することにより、結果として得られるテキストは、トレーニング セットで使用されたものと比較して非常にユニークです。

ジェネレーティブ AI には多くの懸念があります。

重大な欠点の XNUMX つは、ジェネレーティブ ベースの AI アプリによって作成されたエッセイには、明らかに真実ではない事実、誤解を招くように描かれている事実、完全に捏造されているように見える事実など、さまざまな虚偽が埋め込まれている可能性があることです。 これらの捏造された側面は、しばしば AIの幻覚、私が嫌いなキャッチフレーズですが、残念なことに、とにかく人気が高まっているようです（なぜこれがお粗末で不適切な用語であるかについての私の詳細な説明については、次の記事を参照してください ここのリンク).

別の懸念は、エッセイを自分で作成していなくても、生成 AI によって作成されたエッセイの功績を人間が簡単に認めることができることです。 教師や学校が生成 AI アプリの出現を非常に懸念していると聞いたことがあるかもしれません。 学生は、ジェネレーティブ AI を使用して、割り当てられたエッセイを書くことができる可能性があります。 エッセイが自分の手で書かれたものであると生徒が主張した場合、それがジェネレーティブ AI によって偽造されたものであるかどうかを教師が識別できる可能性はほとんどありません。 この生徒と教師の交絡面に関する私の分析については、次の記事を参照してください。 ここのリンク & ここのリンク.

ソーシャル メディアでは、 生成AI この最新バージョンの AI が実際にあると主張する 知覚力のある AI （いいえ、彼らは間違っています！）。 AI 倫理と AI 法に携わる人々は、主張の幅が広がる傾向が急速に高まっていることを特に懸念しています。 今日の AI が実際にできることを誇張している人がいると、丁寧に言うかもしれません。 彼らは、AI には私たちがまだ達成できていない機能があると想定しています。 それは残念です。 さらに悪いことに、AI は感覚を持っている、または人間のように行動できると思い込んでいるため、自分自身や他の人が悲惨な状況に陥る可能性があります。

AI を擬人化しないでください。

そうすることで、AI が実行できないことを AI が実行することを期待するという、厄介で不機嫌な依存の罠にはまります。 そうは言っても、最新のジェネレーティブ AI は、それができることに関して比較的印象的です。 ただし、ジェネレーティブ AI アプリを使用する際には、常に留意しなければならない重大な制限があることに注意してください。

とりあえず最後の予告。

ジェネレーティブ AI の応答で見たり読んだりしたものは何でも、 と思われる 純粋に事実 (日付、場所、人物など) として伝えられるようにするには、懐疑的な姿勢を保ち、目にしたものを再確認してください。

はい、日付をでっち上げたり、場所をでっち上げたりすることができます。 を 疑惑の対象。 生成 AI のエッセイや出力を調べるときは、読んだ内容を信じず、懐疑的な目を向けてください。 ジェネレーティブ AI アプリが、エイブラハム リンカーンがプライベート ジェットで国中を飛び回ったことを教えてくれたら、間違いなく、これは悪意があることを知っているでしょう。 残念なことに、彼の時代にジェット機が存在しなかったことを認識していない人もいれば、エッセイがこの厚かましくとんでもない虚偽の主張をしていることを知っていても気付かない人もいるかもしれません。

ジェネレーティブ AI を使用する際には、健全な懐疑心と不信感を持ち続ける姿勢が最大の武器となります。

この解明の次の段階に進む準備ができています。

ジェネレーティブ AI がインターネットにもたらす可能性を検討する

ジェネレーティブ AI の概要がわかったので、このタイプの AI がインターネットの肥大化によって混乱と混乱を引き起こすかどうかという厄介な問題を探ることができます。

この問題に関連する XNUMX つの重要なトピックを以下に示します。

• 1) インターネットの規模
• 2) インターネットの索引付け
• 3) ジェネレーティブ AI によって生成されたコンテンツとは何かを評価する
• 4) ジェネレーティブ AI コンテンツの何が問題なのか
• 5) 人々はジェネレーティブ AI コンテンツをインターネットに投稿しますか?
• 6) ペイウォールのアプローチは敬遠されるかもしれない
• 7) マルチモーダル Morass 生成 AI が待っている
• 8) ジェネレーティブ AI の悪循環または好循環

これらの重要なトピックのそれぞれについて説明し、私たち全員が慎重に検討する必要がある重要な考慮事項を提示します. これらの各トピックは、より大きなパズルの不可欠な部分です。 一枚だけを見てはいけません。 また、どの部分も他の部分から切り離して見ることはできません。

これは複雑なモザイクであり、パズル全体を適切に調和させる必要があります。

インターネットのサイズ

考慮すべき最初の側面の XNUMX つは、インターネットのサイズです。

これは特に重要です。 ジェネレーティブ AI についてなされている主張は、明らかにインターネットを非常に肥大化させるというものです。 ジェネレーティブ AI を使用して大量のデジタル素材を簡単に作成できるため、あらゆる種類の追加コンテンツが用意されています。 もしそうなら、論理的に賢明な質問は、今日のインターネットがどれほど大きいかということと、それがなければインターネット上になかったであろう追加のコンテンツをジェネレーティブ AI がどれだけ吐き出す可能性があるかということです。

残念ながら、インターネットのサイズを把握しようとすることは非常に難しく、非常に不正確です。

に掲載された一件の見積もり ファイナンスオンライン 現在、インターネットのサイズは少なくとも 74 ゼタバイト (ZB) であり、463 年までに 2025 ZB に達する可能性があることを示唆しています (予測された成長は、ジェネレーティブ AI 自体を要因として明示的に考慮していないようであり、単にすべてを仮定しているだけであることに注意してください)。そうでない場合は、この射影を導出する際に等しくなります)。

インターネットの既存のサイズについては、他にも多くの推定値があります。 同様に、予想されるサイズの成長については、他にも多くの見積もりがあります。 私は、このような数字に関する議論に行き詰まりたくはありません。インターネットは間違いなく巨大な規模であることを強調したいだけです。 さらに、すべての合理的な期待は、通常のイベントの過程で、インターネットが急上昇する成長経路を恥ずかしがらずに継続することであることに注意する価値があります.

また、Statista がさまざまな統計を掲載しており、現在約 5.16 億 64.4 万人のインターネット ユーザーが存在することを示唆していることにも興味があるかもしれません。 これは、世界人口の XNUMX% を表すと計算されます。 びっくりした？ 一方では、当然のことながら、ほとんどの人が実際にインターネットを利用していると想定できます。 ただし、これはインサイダーの観点から見ると多少歪んでいます。多くの人がインターネットへのアクセスを準備できていないか、そうでなければアクセスを獲得できないからです。 いずれにせよ、最終的にはインターネット アクセスがより安価になり、さらに普及することが予想されるため、インターネット ユーザーの数は間違いなく増加します。

非常に重要な質問をするために、これらの統計を引きずっています。

ジェネレーティブ AI は、現在および進行中のインターネットの成長にどの程度の影響を与えるでしょうか?

それが私たちが知りたいことです。 ご覧のとおり、ジェネレーティブ AI の影響に関する主張は、もちろん、ジェネレーティブ AI がインターネットに氾濫することを額面通りに受け取っているようです。 都合よく、またはうっかりして、実際の数や実際の数について話し合うことを避けているのであれば、これらはすべてちょっとした手抜きです。

たとえば、インターネットのサイズが約 100 ZB であり、成長しているという一般的な仮定を考えてみましょう。 ジェネレーティブ AI がおそらく 1 年に XNUMX ZB 増加すると考えるなら、これはインターネットの全体的な大きさのバケツの低下です。

ジェネレーティブ AI は、広大な海に小石を飛ばすようなものです。

それは、この重要なトピックに関する一般的な物語には合わないようです。 一部の人々は、インターネットの 10% が「通常の」ユーザー生成ベースになり、残りの 90% はジェネレーティブ AI によって生成されたコンテンツによるものになる可能性があると熱心に推測しています。

この論争には確固たる根拠があるようには見えません。 とにかく、これが発生したと仮定します。 既存の 100 ZB をベースとして、それが基本的にすべてユーザー生成コンテンツであると仮定すると (これには議論の余地があります)、1,000 ZB サイズのインターネットを見なければならないことになります。 これは、900 ZB のジェネレーティブ AI 生成コンテンツと 100 ZB のユーザー生成コンテンツです。

私たちは、今日の推定された手作業によるコンテンツの海を取り、ジェネレーティブ AI によって生成されたインターネットの海の全体と比較して、それをいくらか矮小化したでしょう。

推測の上に推測。

では、どれでしょう？

ジェネレーティブ AI に小石を生成させるのでしょうか、それともインターネットのサイズを何倍にも拡大するのでしょうか?

いずれにしても確実なことは誰にも言えません。 このトピックに関する議論が具体的なものに根ざすように、これらの重要な数字を真剣に調査する必要があります。 そうしないと、おしゃべりが少し空虚になり、オオカミを叫んだ少年のようになります。

次の要因について考えてみましょう。これらの要因はすべて相互に関連しており、単に個別にではなく、全体として考えなければならないことを心に留めておいてください。

インターネットの索引付け

インターネット検索を行うとき、インターネットのコンテンツを定期的にインデックス化しようとしている誰かの検索エンジンを使用していることに気付くでしょう。 人気のある検索エンジンを使用すると、インターネットの優位性にアクセスできるようになったという印象を受けることでしょう。

それは非常にありそうもありません。

一部の推定では、インターネットのごく一部のみがインデックス化されており、おそらく 1% 未満であるとされています (最大で 5% またはわずかに高いと言う人もいます。ほとんどの人が一般的に想定しているレベルではありません)。 50% または 90%)。 繰り返しますが、これらの数はさまざまですが、それでも比較的かなり小さいです。 要点は、ほとんどの場合、インターネットの大部分に気付いていないということです。

この文脈でなぜそれが重要なのですか？

ジェネレーティブ AI がおそらく生成する追加コンテンツは、同様のインデックス作成の対象となる可能性があるためです。 追加されたコンテンツのほとんどがインデックスに登録されない可能性があります。 その場合、あなたはおそらくそれを見ることはありません。

コインの反対側は、そのような「人工的な」コンテンツが索引付けされ、「従来の」コンテンツへの残念な注意の欠如に対して行われると想定しています。 インデックスはジェネレーティブ AI コンテンツに専念し、従来のコンテンツを無視するという議論があります。 したがって、ジェネレーティブ AI コンテンツがインターネットを圧倒していなくても、そのようなコンテンツの不均衡なインデックス作成が原因であるように思われます。

結局、従来のコンテンツを見つけようとすることは、干し草の山から針を見つけようとするようなものになるかもしれません。 ジェネレーティブ AI によって生成されたコンテンツの膨大な混乱は、圧倒されるほど大きく伸びた干し草の俵に似ています。 それらを見つけることができれば、従来のコンテンツの貴重な小さな宝石がどこかにあるでしょう.

指数メーカーはこのジレンマに対処する方法を考え出す必要があるとすぐに思うかもしれません。 彼らが「正しい方法」でインデックス作成を行うことができれば、ジェネレーティブ AI コンテンツがどれだけ生成されるかはほとんど問題になりません。 それは、インターネットの脇道や路地にとどまり、特に日の目を見ることはありません。

このインデックス作成の問題がさらにどのように発生するかを確認するために、調査を続けましょう。

ジェネレーティブ AI によって生成されたコンテンツとは何かを評価する

ジェネレーティブ AI が暴走し、膨大な数のインターネット コンテンツを生成する場合、そのようなコンテンツを「従来の」コンテンツと区別できる限り、論理的に対処できます。

解決策としては簡単そうです。

インデックス作成を行う検索エンジンは、コンテンツがジェネレーティブ AI で作成されたものか、従来の方法で作成されたものかを検出するだけです。 インデックスはジェネレーティブ AI 素材を含めないことを選択するか、コンテンツがジェネレーティブ AI からのものであることをインデックスにマークすることができます。 このような検索エンジンのユーザーは、検索中にジェネレーティブ AI コンテンツを含めるかスキップするかを指定できます。

ケースが閉まった。

これは特に実行可能ではないと言って申し訳ありません。

理由は次のとおりです。

ジェネレーティブ AI の出力と従来のコンテンツを区別しようとすることは容易ではなく、最終的には非現実的です。 私は私のコラムで、これらの申し立てられた検出アプリは虚偽の約束であり、本質的に誤解を招くシャレードであることを取り上げました。 ここのリンク.

簡単に言えば、ジェネレーティブ AI の AI メーカーは、AI を強化し続けて、従来の人間が生成したコンテンツと見分けがつかないようなコンテンツを作成しています。 それは意図的な目標です。 検出アプリは、絶え間ないいたちごっこに直面しています。 さらに、これらの検出アプリは、ジェネレーティブ AI の出力を区別するものに関するあらゆる種類の仮定に基づいていますが、これらの仮定は多くの場合、正しくないか、確率のみに基づいています。 最終的な結果は、検出アプリは可能性を推測するだけであり、鉄壁の兆候を確実に示すことができないということです.

要するに、ジェネレーティブ AI プロバイダーによって提供される明確な指示がない限り、何がジェネレーティブ AI コンテンツであるかを判断できる可能性は低いということです。ただし、それも鉄壁ではありません。 繰り返しになりますが、この複雑なトピックに関する私の記事を参照してください。 ここのリンク. 追求されているアイデアは、透かしが生成されたコンテンツに密かに含まれるというものです。 理論的には、透かしを使用して、コンテンツがジェネレーティブ AI 経由であるかどうかを判断できます。 欠点は、出力にさまざまな変更を加えると、透かしを台無しにするのが比較的簡単になることです。 その場合、コンテンツは透かしに従わなくなり、私たちをひっくり返すはずだった道しるべは今や打ち負かされます.

これに対処するには新しい AI 法が必要だと考える人もいます。 ジェネレーティブ AI アプリに透かしを含めることを義務付ける法律を制定します。 さらに、これらの透かしを破ろうとすることを違法にします。 これは、いたちごっこの技術者ゲームを削減する唯一の手段かもしれません。 私はコラムでこれらの提案を検討し、教訓は合理的に聞こえますが、悪魔はこれらのスキームの実装とこれらのポリシーの実施の詳細にあることを指摘しました.

全体として、ジェネレーティブ AI コンテンツを介したインターネットの肥大化に関する懸念に戻ると、残念ながら、ジェネレーティブ AI コンテンツとそうでないものを区別するだけでは、問題を解決することはできません。 問題はそれよりも難しいです。

ジェネレーティブ AI コンテンツの何が問題なのか

ジェネレーティブ AI によって生成されたコンテンツの津波に関するこの懸念はすべて、通常、XNUMX つのかなり重要な前提に基づいています。つまり、コンテンツに欠陥があるということです。

コンテンツが良ければ、インターネットへの投稿が追加されたことにおそらく満足するはずです。 確かに、量は多いかもしれませんが、投稿されている情報が価値がある場合は、より良いものをふるいにかけるだけの問題です. 彼らが言うように、より楽しいです。

重要な考慮事項は、ジェネレーティブ AI によって生成されたコンテンツが、エラー、虚偽、誤った情報、虚偽情報などで埋め尽くされている場合と比べて、有益なものであるかどうかです。 これはいくつかの側面をもたらします。

まず、ジェネレーティブ AI がさらに進化し、不適切な出力のエッセイが作成される可能性が非常に低くなる可能性があります。 全体として、ジェネレーティブ AI が出力したエッセイが最も適切であるか、当時の優勢であると仮定して、すべてのジェネレーティブ AI がインターネットに投稿されるのを何らかの方法で禁止したい場合、私たちは見落としているように思われます。 出力されたすべてのエッセイを拒否したいというのは、赤ちゃんを風呂の水で放り投げる古典的なことわざに似ています (古いことわざ、おそらく引退間近です)。

第二に、私のコラムで説明したように ここのリンク、ジェネレーティブ AI が出力したエッセイをダブルチェックできる AI アドオン アプリへの関心が高まっています。 AI ダブルチェッカーは、人々が生成 AI コンテンツをインターネットに投稿する前に使用できます。 投稿したいコンテンツを事前に選別しなくても、既に投稿されたコンテンツに対して同じツールを使用できます。 要するに、コンテンツのソースが何であるかに関係なくダブルチェックを行うことができるため、人間が生成したコンテンツも当然疑うべきです.

第 XNUMX に、前述の点でほのめかしたように、人間が生成したコンテンツは常に良いものであり、生成 AI コンテンツは常に悪いものであるという信念がしばしばあるようです。 くだらない誤った仮定。 あらゆる種類のエラー、虚偽、でっち上げのがらくたを含む、人間が生成したコンテンツがたくさんあります。 人間がたまたま手作業でコンテンツを作成したという理由だけで、私たちは安全ではありません。

すべてのコンテンツは、人間が考案したものであろうと生成 AI が考案したものであろうと、精査する必要があります。

人々はジェネレーティブ AI コンテンツをインターネットに投稿しますか

考慮すべきもう XNUMX つの要因は、人々が実際にジェネレーティブ AI コンテンツをインターネットに投稿するかどうか、また投稿する場合はその規模です。

ここに私が意味するものがあります。

人々は、ChatGPT などのジェネレーティブ AI をさまざまな目的で使用しています。 ジェネレーティブ AI を使用して、直面している問題についてのアイデアを刺激する場合があります。 彼らはそれを使って研究を行うかもしれません。 彼らはそれを使用して、編集する予定の資料の下書きを提供し、それを電子メールで誰かに送信する場合があります。 等々。

重要なのは、多くのジェネレーティブ AI の使用は、結果として出力されたエッセイをインターネットに投稿しようとする誰かとは何の関係もない可能性があるということです。 私たちはしばしば、誰かがジェネレーティブ AI を使用しているという理由だけで、生成されたアウトプットでインターネットをあふれさせたいと思っているという罠に陥っているようです。

人々がジェネレーティブ AI を自分の用途にどのくらいの時間使用し、そのため選択するかはまだわかりません。 出力をインターネットに投稿します。

明確にするために言っておきますが、私は人々がジェネレーティブ AI の出力をインターネットに投稿しないことを示唆しているわけではありません。 彼らは間違いなくそうするでしょう。 オンライン ブログをやっている人は、間違いなくジェネレーティブ AI を利用するでしょう。 ジェネレーティブ AI を使用してインターネット向けのコンテンツを作成することが確実に行われるでしょう。 等。

したがって、考慮すべきことの XNUMX つは、インターネットに投稿されるジェネレーティブ AI コンテンツが、そうでない場合に想定されるほど多くない可能性があるということです。 ノンストップで制限のない全社的な投稿データの黙示録を見ていると想定している専門家にとって、それが起こるかどうかはわかりません. もちろん、そのような投稿をすることを選択する人がほんのわずかだとしても、これはインターネット上に膨大な量の追加コンテンツが山積みされている可能性があります.

ひねりを加えているのは、ジェネレーティブ AI の出力が自動的にインターネットに投稿される可能性があるかどうかです。

これは、やってのける簡単なトリックです。 ジェネレーティブ AI アプリからの出力がすぐにインターネットに投稿されるようにするだけです。 これをループに入れることもできます。 あらかじめ用意された一連のプロンプトを用意します。 それらをジェネレーティブ AI アプリにフィードします。 ジェネレーティブ AI アプリは、出力されたエッセイをすぐにインターネットに投稿するようにプログラムされています。

ほら、インターネット用のデータ コンテンツを生成するための永久機関ができました。

投稿はどこに行くのですか？

この種の機関銃を吐き出すコンテンツの投稿を許可する Web サイトやその他のオンライン ロケールは、発生を許可したことについて責任を問われる可能性があります。 おそらく、人々はそれらのサイトを避けるでしょう。 または、これらのサイトは、検索エンジンとインデックス アルゴリズムによって指定されます。 ジェネレーティブ AI コンテンツが投稿される側面は XNUMX つの側面ですが、同様に重要なもう XNUMX つの側面は、投稿がどこに到達するかです。

たぶん、ペイウォールのアプローチは尊重されるでしょう

よく言われる主張は、いずれはインターネットの開拓時代の西部にうんざりするだろうというものです。 人々は、信頼できるオンライン ソースに引き寄せられます。 彼らは意図的に、インターネットの他の大ざっぱな、または未知の領域を避けます。

このように、人々は信頼できる情報源にアクセスするために喜んでお金を払うだろうと考えられています。 ペイウォール コンテンツの収益性については、今日でも大きな議論がありますが、ジェネレーティブ AI コンテンツの氾濫は、ペイウォールの哲学にとって恩恵であると考えられています。 インターネット上で信頼できるコンテンツを見つけるという点で事態が悪化すればするほど、ペイウォール化されたコンテンツの価値は高くなります (もちろん、ペイウォール化されたコンテンツがより慎重に精査されていると仮定すると)。

部分的に皮肉なことに、ペイウォールの背後にあるコンテンツは、ジェネレーティブ AI によって生成されたコンテンツで構成されている可能性があります。 付加価値がペイウォール プロバイダーがコンテンツをスクリーニングすることであると仮定すると、彼らは本質的に、前述のダブルチェックを行っています。 必ずしもコンテンツを生成する必要はありません。 コンテンツが信頼に値するものであることを確認する必要があるだけです。

この予測された未来については意見の相違があります。 おそらく、ペイウォールの代わりに、広告やスポンサーの通知に遭遇する必要があり、そうすることで信頼できるコンテンツにアクセスできます. 他にも多くの可能性があります。

ジェネレーティブ AI のマルチモーダルな泥沼が待っています

ここでは、テキスト関連のジェネレーティブ AI に焦点を当ててきました。 それは、ChatGPT などの生成 AI のテキストからテキストまたはテキストからエッセイへのバリエーションです。

私の予測の XNUMX つは、私たちはすぐにマルチモーダル生成 AI に夢中になるということでした。 ここのリンク. テキストから画像へ、テキストからオーディオへ、テキストからビデオへ、そしてジェネレーティブ AI から出力される結果のタイプやモードのその他のバリエーションがすでに見られます。 次のステップは、マルチモーダル出力を取得できるようになることです。

たとえば、ジェネレーティブ AI にプロンプ​​トを入力して、エイブラハム リンカーンについて尋ねたとします。 ジェネレーティブ AI がエッセイを生成します。 さらに、リンカーンのいくつかの画像が生成され、これまで投稿または公開されていなかったポーズで彼を示しています. リンカーンのような声と思われる音声トランスクリプトが生成されます。 出力されたテキストに付随する写真と画像のモンタージュを含む、エッセイを紹介するビデオが生成されます。

マルチモーダル生成 AI の世界へようこそ。

確かにエキサイティングです。

しかし、これがインターネットに投稿できるコンテンツとしてのさらなる餌食であると信じるなら、それほどエキサイティングではないかもしれません.

本質的に、エラーの可能性があるテキストについてだけ心配することはありません。他のすべての出力モードについても同じことを行う必要があります。 音声ファイルには虚偽が含まれていると疑われるべきであり、画像は問題を誤って描写している可能性があり、ビデオも気になる.

インターネットの肥大化に関する計算にマルチモーダルな大火をまだ含めていなかった場合は、数字と手間を増やしたいと思うかもしれません。

ジェネレーティブ AI の悪循環または好循環

私はあなたのために少し心を曲げるかもしれない要因を持っています. ちょっとまって。

この氾濫したインターネットの物語では、ジェネレーティブ AI が悪役であると想定しています。 ジェネレーティブ AI は、エラーが発生しやすい、でっち上げのコンテンツがどのように生成されるかを示しています。 ジェネレーティブ AI は骨の髄まで悪いです。

しかし、これを別の観点から見てみましょう。

ジェネレーティブ AI は、最も耳障りで強力な有効なコンテンツを生成できる可能性があります。 一方、人間の手によって生成されたコンテンツは、信頼性が低いと解釈されます。 悪役としてのジェネレーティブ AI は、ヒーローとしてのジェネレーティブ AI に移行します。

それについて考えてください。

私はあなたのために別の楽しいひねりを持っています.

ジェネレーティブ AI が、インターネット上のコンテンツを介してトレーニングされたデータであると仮定しましょう。 ジェネレーティブ AI コンテンツが人間の選択によって直接または自動メカニズムを介してインターネットに投稿されるという仮定を立てると、興味をそそるサイクルに巻き込まれることになります。

ジェネレーティブ AI によって生成されたコンテンツは、ジェネレーティブ AI でのさらなるデータ トレーニングのソース マテリアルになります。 スパイラルが発生します。 ジェネレーティブ AI によって作成されたコンテンツがインターネットに投稿されることがますます増えています。これは、ジェネレーティブ AI によって既に作成されたコンテンツのデータ トレーニングに基づいていました。

この「ジェネレーティブ AI がジェネレーティブ AI にフィードする」エコー チェンバーは、最終的にインターネットと人類に何をもたらすのでしょうか?

ひとつの視点は、これは底辺への恐ろしいレースだということです。 ジェネレーティブ AI 出力のエラーは拡大されます。 ジェネレーティブ AI の新しいイテレーションごとに、以前のエラーが消費され、何度も繰り返されます。 ある時点で、エラーがどこにあるかを突き止める可能性は非常に高くなります。 陰鬱。 がっかり。

もう XNUMX つの見方は、ジェネレーティブ AI が有効な出力を生成するように考案できれば、インターネットをきれいにするのに役立つインターネット クリーニング メカニズムができる可能性があるということです。 ジェネレーティブ AI がエラーに遭遇すると、それが AI によって生成されたものであろうと人間の手によって生成されたものであろうと、ジェネレーティブ AI はこの誤りを検出して克服するように見えます。 ジェネレーティブ AI がこれを何度も繰り返すことで、あたかも常に芝生を刈り取り、雑草の性質と目立ちを効果的に減らしているかのようになります。

間違いや虚偽を正確に構成するものは何かという大きな迫り来る問題を除けば、それは安心できるように聞こえるかもしれません. このスクラビング マシンは、有効なコンテンツを誤って軽視したり、エラーが発生しやすいと誤って非難したりする可能性があります。 これらのタイプのメカニズムを検討するときは、これらの偽陽性と偽陰性に注意する必要があります。

ジェネレーティブ AI は悪循環になるのか、それとも好循環になるのか?

時間がたてば分かるさ。

まとめ

ジェネレーティブ AI がインターネットを席巻しているという、多くの、そして時にはパニックに陥るような勧告は、慎重に検討する必要があります。 多くのシナリオが容易に想像できます。 運命と暗がりだけが道ではありません。 何が起こるかを予測すると公言する人は誰でも、彼らが行っている仮定について率直であるべきです.

ジェネレーティブ AI の将来がどこに向かうのかを決定する緩和要因があります。 AI倫理とAI法は、社会全体の全体的な認識とともに、これに決定的な役割を果たします。

とりあえず最後に一言。

マーカス・アウレリウスは次のように述べています。 必要に応じて、今日、現在に対して武装しているのと同じ理由の武器を使用して、それに対処します。」

今日の推論が、AI を搭載した未来の課題に対応できるようにしましょう。