ジェネレーティブ AI の ChatGPT が学生にエッセイを書く際の大幅なカンニングを促し、AI の倫理と AI の法律に対する魔法のような注意を喚起するという激怒した懸念

現代の学生によるエッセイはもはや存在しないのだろうか？

不安に満ちた学生タームペーパーは熱狂的に窓の外に出ていますか?

それが、最近大騒ぎになった大騒ぎです。 ご覧のとおり、ChatGPT として知られる AI アプリの登場は多くの注目を集め、同様に多くの怒りを集めました。 ChatGPT に関する私の包括的な記事については、以下を参照してください。 ここのリンク. AI 倫理と AI 法に関する私の継続的かつ広範な報道については、以下を参照してください。 ここのリンク & ここのリンクちょうど少数の名前を挙げる。

大声で怒鳴る要点は、この種の AI は、通常、 generative AI、学生にエッセイスタイルの課題をするように頼むための死の鐘になります。

なぜそうなのか？

最新のジェネレーティブ AI は、単純なプロンプトを入力するだけで、一見流暢に見えるエッセイを作成できるためです。 「エイブラハム リンカーンについて教えてください」などの行を入力すると、AI はリンカーンの生涯と時代についてのエッセイを生成します。これは、完全かつもっぱら人間の手によって書かれたものであると誤解されることがよくあります。 さらに、これが本当のキッカーです。エッセイは、同じトピックについて既に書かれた何かの重複または目立つコピーにはなりません. エッセイの作成は、カジュアルな検査で確認できる限り、本質的に「オリジナル」です。

ライティングの課題に直面した学生は、これらのジェネレーティブ AI アプリの XNUMX つを呼び出し、プロンプトを入力するだけで、ほら、エッセイ全体が彼らのために書かれています。 自動生成されたテキストを空のドキュメントにカット アンド ペーストし、名前とクラス情報をひそかに平手打ちし、少し勇気を振り絞って自分の作品として提出するだけです。

エッセイが生徒ではなく AI によって書かれたものであると教師が判断できる可能性は、ほとんどゼロに近いです。

スキャンダラス！

ニュースの見出しは、学生にエッセイを書いたり、本質的にあらゆる種類の授業外の執筆課題をさせたりするという苦い終わりに達したことを急いで宣言しています. この状況に対処する唯一の手段は、クラス内でのエッセイ作成を利用することであると思われます。 学生が教室などの管理された環境にいて、ラップトップやスマートフォンにアクセスできないと仮定すると、昔ながらの方法でエッセイを書くことに制限されていることに気付くでしょう.

明確にするために、昔ながらの方法は、彼らが自分のノギンを使用してのみ書く必要があることを意味します.

教室の外で行われたあらゆる種類のエッセイは、すぐに疑われます。 生徒がエッセイを書いたのか、それとも AI アプリが書いたのか? 前述のように、エッセイは非常によく書かれているため、機械によって書かれたものであることがすぐにはわかりません。 スペルは申し分のないものになります。 構文は途方もないでしょう。 言説のラインと潜在的なコーチングされた議論は説得力があります。

ある意味で言えば、この悪質な道を選ぶ学生の能力を超えたエッセイを作成することで、生成 AI がそのことわざの手を傾けることを示唆することができます。 エッセイが少し上手すぎるという理由だけで、教師は疑わしいかもしれません。 知識の豊富な教師は、学生がそのようなエレガントで密閉された散文を書くことができなかったと推測したくなるでしょう. 内部の警報ベルが鳴り始めます。

もちろん、エッセイについて学生に異議を唱えることは見苦しいものであり、悪影響を与える可能性があります。

生徒がエッセイをすべて自分で注意深く書いたとします。 彼らはそれを二重および三重にチェックした可能性があります。 友人や知人に見てもらい、さらに磨きが必要なものを見つけてもらった可能性もあります。 全体として、それはまだ彼らによって書かれた彼らのエッセイです。 教師がこの真面目で勤勉な学生にエッセイについて鋭い質問をすることを想像してみてください。 教師が大声でそのような主張をしなくても、本質的に不正行為で告発されたことに対する恥ずかしさと悔しさは明白です. 単なる対立自体が、生徒の尊敬を傷つけ、誤って中傷されたと感じさせるのに十分です。

エッセイの著者に疑いを持っている教師は、学生に何を書いたかを説明するように頼むべきだと主張する人もいます. おそらく、エッセイが学生によって書かれたものであれば、特定の学生はそれを適切に説明することができます。 教師たちは、この種の探求を長い間行ってきました。 学生は、別の学生を囲い込んでエッセイを書いてもらったかもしれません。 学生は親にエッセイを書いてもらったかもしれません。 今日の世界では、学生はインターネットを介して誰かにお金を払って、代わりにエッセイをこっそり書いてもらうことがあります。

したがって、教室内での質問を通じて学生に著者を確認するよう求めることは慣例であり、大したことではありません.

あなたがそれを取り上げてくれてうれしいです。

学生を穏やかに、または明白に批判しようとすることは、あなたが考えるほど簡単なリトマス試験紙ではありません。 生徒は、AI が作成したエッセイを詳しく調べて、潜在的な尋問に備えることができたはずです。

このように考えてください。 生徒はまず、ボタンを押すだけでエッセイを作成します。 その後、学生は、エッセイを注意深く調べて研究する代わりに、エッセイを書くことに専念するはずの時間の塊を費やします。 しばらくすると、単語はほぼ完全に記憶されます。 学生は、自分が本当にエッセイを書いたと思い込んでいる。 この自信と認識の類似性により、教師主導の精査を容易に通過できます。

ああ、ジェネレーティブ AI アプリの恐怖に少し反論する人もいますが、学生はエッセイを作成することで実際に何かを「学んだ」ことに注意してください。 確かに、学生はトピックを調査するための足取りをしたり、エッセイを作成したりしませんでしたが、それでも、エッセイを注意深く研究した場合、割り当てられたトピックについて学習したことを示しているようです. リンカーンについてのエッセイを暗記することに専念する学生は、おそらくリンカーンについて何か実質的なことを学んでいる.

学習が発生しました。

おっと、レトルトは行きます、割り当てはおそらく二重のプロセスでした. リンカーンについて学ぶことは、比較的二次的なものだったかもしれません。 本当の目的は、生徒に書くことを学ばせることでした。 課題のこの重要な部分は完全にアンダーカットされています。 多くの場合、教師は自由形式のトピックを割り当てますが、実際には生徒にライティングを体験してもらうことを目的としています。 書きたいことをレイアウトしなければならず、使用する言葉を考え出さなければならず、その言葉を理にかなった一連の文や段落に入れなければなりません。 AI が作成したエッセイを読むだけでは、エッセイ課題の基本的な側面とはまったく一致しません。

これに対する反論は、AI によって生成された文章を綿密に調べることで、生徒が文章について学習している可能性があるという主張です。 私たちは皆、筆記の巨匠たちを研究して、彼らがどのように書いているかを知りませんか? 私たちの執筆は、シェイクスピアやその他の偉大な作家の同類に到達するための試みです. 書かれた単語を研究することは、書き方を習得するための有効な手段です。

激しいテニスの試合のように、ボールはネットの向こう側に移動します。 良い文章を勉強するのは良いことですが、書くことができるようになりたければ、最終的には書く必要があります。 無限に読んだだけで、生徒が書き方を習得したとぼんやりと仮定することはできません。 彼らは、書く能力を具体的に示して改善できるようになるまで、書いて、書いて、書き続けなければなりません。

これがいかに難問であるかがわかりますか?

これらすべてには、無数以上のひねりがあることに注意してください。

より独創的で興味深い紆余曲折をいくつか取り上げます。

AIプロンプトを介してエッセイを調整する

Shakespeare について触れたところで、ここに生成 AI の驚くべき側面があります。 多くのジェネレーティブ AI アプリでは、「シェークスピアがエッセイを書いたかのように、リンカーンについてのエッセイを書いてください。」 AI は、シェイクスピアが著作で通常使用する言語で書かれているように見えるエッセイを生成しようとします。 見るのは非常に楽しく魅力的な偉業であり、多くの人がこれにかなりの興奮を覚えます.

これは、ジェネレーティブ AI を使用してエッセイを書くことで「カンニング」をしている学生とどのように関連していますか?

多くのジェネレーティブ AI アプリでは、AI にあまり目立たない方法で書くように指示できます。 AI は、端がやや粗いエッセイを作成しようとします。 あちこちに構文の問題があります。 エッセイの論理が不安定だったり、少し支離滅裂だったりするかもしれません。

これは巧妙な策略でしょう。 学生は結果のエッセイを受け取り、それを提出します。エッセイは最高の成績を得るのに十分ですが、教師の怒りを引き起こすほど完璧ではありません. 繰り返しますが、AI は、エッセイをやや不完全にするなど、学生のためにすべての足取りを行いました。

これに加えて、ほとんどのジェネレーティブ AI アプリでは、アプリを好きなだけ利用できます。 これがどのように機能するかです。 学生は、AI アプリがリンカーンについてやや不完全なエッセイを作成することになっていると入力します。 エッセイが制作されます。 生徒はエッセイを見て、まだ完璧すぎることに気づきます。 学生は、欠陥をより顕著にするように AI に指示する別のプロンプトを入力します。

泡立てて、すすぎ、繰り返します。

学生はプロンプトを入力し続け、作成されたエッセイを調べます。 何度もこれが発生します。 最終的に、生徒はエッセイの不完全さを適切なレベルまで AI に到達させます。 ゴルディロックスのバージョンが達成されました。 高い評価を得られるほど完璧であり、疑いを起こさないようにするのに十分なほど不完全です。

学生が最初に忌まわしいエッセイを書くことを選択した場合、エッセイ自体を書くのに費やす時間は少なくなるか、少なくとも同じくらいの時間を費やしていただろうと、あなたの何人かはひそかに言っていると思います. このようにエネルギーを浪費する AI アプリの使用はすべて、単にエッセイを書き進めることに向けられていた可能性があります。

覚えておいてください、学生はそれを念頭に置いていません。 プロンプトを入力し、目的のエッセイを繰り返し確認して選択することの容易さは、学生にとってはるかに簡単になるはずです. これを XNUMX 時間行うのは、エッセイを直接書くよりもずっと簡単です。 この場合のスマーミネスは、現実と比較検討する必要があります。

他の学生が同じことをしたらどうなるか

エッセイとジェネレーティブ AI アプリに関する前述の分析を読んでいるときに、この賢明な考えを念頭に置いていたと思います。つまり、他の多くの学生が同じことをしている場合、学生は間違いなく捕まります。

説明させてください。

ある教師がクラス全体にリンカーンについてのエッセイを書くように割り当てます。 学生の 90% が、この課題にジェネレーティブ AI アプリを使用することを決定したとします。 90% が過度に気のめいるように思われる場合は、代わりに 10% を使用してください。 学生がジェネレーティブ AI アプリの有用性に慣れてくると、それらを使用したいという誘惑が強まることを覚えておいてください。

クラスのかなりの割合がジェネレーティブ AI アプリを使用しています。 したがって、学生は全員ほぼ同じリンカーンのエッセイを提出することになると思います。 教師は、XNUMX 番目または XNUMX 番目のエッセイを採点するまでに、すべてのエッセイがほぼ同じであることに気付くでしょう。 これは、何かがおかしいという大きな手がかりになります。

申し訳ありませんが、あなたがそれほど幸運である可能性は低いです。

ほとんどのジェネレーティブ AI アプリは、プロンプトがどのように構成されているかに非常に敏感です。 「リンカーンについて教えて」と書いた場合と「リンカーンの生涯について教えて」と書いた場合では、エッセイが実質的に異なる可能性があります。 まず、AI が作成したエッセイは、ホワイトハウス在職中のリンカーン大統領に焦点を当てており、彼の子供時代については何も省略されている可能性があります。 もう XNUMX つのプロンプトは、彼の誕生から死までをカバーするエッセイを作成する可能性があります。

学生は、エッセイのプロンプトとして教師が与えたものを正確に入力することはおそらくないでしょう。 詐欺師として、バリエーションを試すことは賢明に思えます。 しかし、すべての生徒がまったく同じプロンプトを入力したとしても、各エッセイが他のエッセイと多少異なる可能性はかなり高いです。

これらの AI アプリは、内部で作成された膨大な数学的および計算ネットワークを利用しており、基本的に、インターネット上で見つかったテキストに対して広範なパターン マッチングを行っています。 エッセイを生成するプロセスには、確率的要因が含まれます。 選択された単語が同じ順序で、まったく同じ言い回しである可能性は低いです。 生成される各エッセイは通常異なります。

ただし、これには XNUMX つの問題があります。 選択したトピックが非常にあいまいな場合、作成されるエッセイの一部が互いに似ている可能性があります。 それは部分的には、テキストの根元のパターンがもともと薄いためです。 そうは言っても、エッセイの構成方法は依然としてまったく異なる可能性があります. 私が言っているのは、コンテンツ自体の本質はほぼ同じである可能性があるということだけです.

不機嫌に思われたくないのですが、リンカーンの生涯のような共通のトピックについて同じ主張をする可能性があります. 彼の人生の全体的な側面について、何通りの方法で詳しく説明できますか? 鍵のかかった教室に学生を確保してリンカーンについて書くようにし、オンラインで彼の人生を研究できるようにした場合、エッセイが似たようなものになる可能性はあると思います.

無料で簡単な要素は実質的です

最近の学生が、エッセイを書くためにインターネットで誰かにお金を払ってカンニングをしたい場合、それは非常に簡単です (ショックを受けていないことを願っています。事前にトリガー警告を提示する必要があったかもしれません)。

ただし、問題は、エッセイの費用を支払う必要があることです。 また、後で捕まる可能性が少しあります。 エッセイの支払いにクレジット カードを使用しましたか? おそらく、追跡を明確に保つために、何らかの形式のアンダーグラウンド決済処理を使用する方がよいでしょう.

ジェネレーティブ AI の美しさ、またはおそらく腹立たしい要因は、現在それらのほとんどが無料で利用できることです。 お支払いは必要ありません。 使用状況の特定の追跡記録はありません (明確にするために言うと、AI アプリは使用状況を追跡している可能性があります。特に、多くの AI アプリでは電子メール アドレスでのサインアップが必要ですが、もちろん、それを偽造することもできます) ）。

自然に、生成 AI アプリを使用するには AI ウィザードになる必要があると考える人もいます。

そうではない。

全体として、ジェネレーティブ AI アプリは驚くほど簡単に使用できます。 AI アプリを呼び出します。 プロンプトを入力するための開いたテキストボックスが表示されます。 プロンプトを入力して送信を押します。 AI アプリがテキストを生成します。

それはそれです。

特別なコンピューター言語は必要ありません。 データベースやデータ サイエンスの知識はありません。 学校のほぼすべての子供が生成型 AI アプリを簡単に使用できることを保証します。 子供が文字を入力できる場合は、これらのアプリを使用できます。

ジェネレーティブ AI アプリを提供する企業は、おそらく非成人がエッセイを書く際に不正行為のために AI を使用するのを防ぐために、最初にユーザーの年齢を確認する必要があると主張する人もいます。 ユーザーが大人ではないことを示している場合は、AI アプリを使用させないでください。 率直に言って、この種の制限を確立しようとする AI 関連の法律が何らかの形で制定されない限り、これはありそうにない防止シナリオです。 そのような法律が可決されたとしても、他国でホストされているジェネレーティブ AI アプリなどを使用することで、これを回避できる可能性があります。

ジェネレーティブ AI アプリの使用に費用がかかる場合は、もう XNUMX つの法外な角度になります。 取引ごとの手数料または購読料があったとします。 これにより、ジェネレーティブ AI アプリは、エッセイを書いてくれるインターネット上の人間と肩を並べることになります。 労働力は AI と真っ向から対立するでしょう (余談ですが、これは生計を立てるために学生のためにエッセイを書く人間が、同じことをする AI に取って代わられることを示唆しています。問題は、私たちが悲しむべきか、喜ぶべきかということです。そのような生計を立てている人間は、もはやそのような方法で生計を立てることができなくなります)。

ジェネレーティブ AI アプリを作成している企業は、確かにこれらのアプリから収益を得たいと考えていますが、その方法はまだ不明です。 取引手数料、購読料、または生成された単語ごとに課金することはすべて検討中です。 人々に請求するのではなく、広告を使用して収益化を行うことができます。 おそらく、特定のジェネレーティブ AI アプリを使用するたびに、最初に広告を表示する必要があります。 それは金儲けかもしれません。

私はこれに牛乳をこぼすのは嫌いですが、学生の不正行為を克服する手段としては、特効薬にはなりません. 程遠い。

ジェネレーティブ AI のオープンソース バージョンがあります。 人々はそれらを公開し、他の人々はアプリを無料で利用できるようにする傾向があります. 何らかの方法で、一部の会社が有料であっても、無料で使用できるバリアントを見つけることができますが、広告を表示したり、サインアップしてマーケティング目的で自分自身に関する情報を提供したりする必要がある場合があります.

マルチステップはこれを助けますか

ある学生は、ジェネレーティブ AI アプリを使用してエッセイを作成することを選択しました。

学生はエッセイをすぐに提出するのではなく、エッセイを編集することにします。 彼らはここでいくつかの単語を慎重に取り出します。 そこに一言添えて。 文を上に移動します。 文をさらに下に移動します。 少し編集と改良を加えた後、提出する準備ができたエッセイが完成しました。

このエッセイは学生の作品ですか、それともそうではありませんか?

私はあなたに、百万ドルの大きな時間の未解決の未解決の質問をもたらしました.

法的権利と侵害について簡単に説明しましょう。 これは、私がかなり取り上げてきたトピックです。 ここのリンク & ここのリンク例えば。

著作権や知的財産 (IP) と呼ばれるものについては、すでにご存知のことと思います。 著作権で保護されたストーリーを持っている人は、そのストーリーに関連するさまざまな法的権利を保持することになっています。 彼らは、法的権利の完全に鉄壁のすべてを網羅するようなものを持っていません。 除外と例外があります。

誰かの著作物を侵害する際の最も困難な問題の XNUMX つは、元のソースと比較してあなたが持っている可能性のあるものとの類似性です。 有名な歌手とその歌詞に関するニュース記事を読んだり見たりしたことがあるかもしれません。他の誰かが似たような歌詞の曲を書いており、それが法的に適切かどうかについてです。

通常、ジェネレーティブ AI アプリは、インターネット上のコンテンツを調べることによって以前にトレーニングされた他の資料のカーボン コピーであるエッセイを生成しないことを以前に述べました。 可能性としては、素材が一般化され、すべてがぼやけているため、ソース コンテンツが構成されていたものとはまったく似ていない可能性があります。

法的手続きがこれにどのように対処するかを待つ必要があります. ジェネレーティブ AI アプリが、ソースから提供されたアートワークに視覚的に明らかに似ているアートワークを生成する場合、おそらく、元の作品に関連する著作権を侵害したとして、AI と AI の作成者を非難する傾向があります。 私たちは自分の目でそれを見ることができます。

エッセイになると、これはよりトリッキーになる可能性があります。 明らかな例は、文全体と段落が単語ごとに同一である場合です。 私たちは皆それを見ることができます。 しかし、わずかな違いで言葉遣いが異なる場合、私たちは灰色の領域に入ります。

新たに作成された素材は、元の素材からどのくらい離れている必要がありますか?

それは重い質問です。

これを、作文にジェネレーティブ AI アプリを使用している学生に結び付けてみましょう。

AI アプリによって生成された特定のエッセイが「オリジナル」のエッセイとして解釈されることを考えてみてください。 私は、それが地球上の他の既存のエッセイまたはテキストの物語に明らかな方法で違反していないと仮定していると言っています.

生徒は、オリジナルの教材から始めます。 すでに述べたように、学生はこの資料を編集および改良します。 AI アプリによって生成されたオリジナルと、生徒が考案した洗練されたバージョンとが異なる点に到達します。

これは不正行為ですか？

たぶんそうだけどたぶん違う。

であると主張できます。 学生は、AI がエッセイを書くところから始めました。 学生が行ったすべてのことは、エッセイで機械的にいじられます。 私たちは、学生が空中からエッセイを書き、それを行うために自分のノギングを使用することを期待しています. AI アプリを使用してベースラインを生成することは、明らかに不正行為です。 学生に「F」グレードを割り当てます。

そんなに早くない。 詐欺ではないと断言できます。 学生はソース資料を作り直しました。 AI アプリで作成されたエッセイと学生が作成したバージョンとの比較が十分に大きい場合、学生がエッセイを書いたと言えます。 確かに、彼らはそうするために他の資料を使用しましたが、百科事典や他の情報源を使用した場合、同じことが言えませんか? この学生は、自分の知恵でエッセイを作成したため、「A」評価に値します (そうするために他の資料を参照したにもかかわらず)。

教師たちは、このすでに悩ましい問題に巻き込まれることになるでしょう。

XNUMX つのアプローチは、生成 AI アプリが使用されたかどうかを含め、参照されたすべての資料を生徒がリストする必要があることを教師が明確に述べる場合です。 生徒がジェネレーティブ AI を参照として率直にリストアップできず、教師がそれをリストアップしなかったことに気付いた場合、その生徒は即座に課題で「F」の成績を取得します。 または、おそらく一部の学校では、これを不正行為と見なし、生徒が自動的に不合格になる可能性があります. あるいは追放されるかもしれません。 私たちは、学校がこれらの問題にどこまで取り組むかを見なければならない.

一般に、私たちは知的財産と、エッセイ (テキスト)、アート (画像)、ビデオなどの作品の法的所有権の混乱した世界に向かっています。

• 生成された出力を生成するために AI によって使用されたコンテンツのソースに関して、ジェネレーティブ AI メーカーに法的救済を求める人もいます。
• ジェネレーティブ AI の出力を受け取り、その結果を自分の所有する作品と見なし、「元の」作品に違反した人に法的救済を求めようとする人もいます。
• これは循環する可能性があり、誰かがジェネレーティブ AI から出力を生成し、それがインターネットに投稿され、その後、他のジェネレーティブ AI がやって来て、類似の作品を作成するためのトレーニングでこれを使用します。

ネガティブをポジティブに変える

学生の不正行為に関して、ジェネレーティブ AI の悪さについてのこのすべての話は、おそらく私たちの心を曇らせています。

これを別の方向に持っていきます。

座っていますか？

おそらく教師は、エッセイの書き方に関する学習プロセスの一環として、意図的に生成型 AI を生徒に使用させることを検討する必要があります。

私は以前、いわゆる デュアルユース AIの、参照 ここのリンク. AIシステムは悪用されることもあれば、切り替えて善用に使用されることもあります。 懸念されるのは、誰かが AI を善のために書き、自分の AI がいかに簡単に悪の亡霊に変えられるかを幸いなことに気づいていない場合です。 一部の 倫理的AI 一夜にして呪いに変えられないように AI を工夫する必要があるという認識です。 これは継続的な懸念事項です。

エッセイを作成するためのジェネレーティブ AI に話を戻します。

私は以前、学生がすでに存在する書かれた作品を見ることで書くことを学ぶことができるかもしれないという概念を提起しました. これは非常に理にかなっています。 基本的に、読めば読むほど、書くことができるようになる可能性があります。 先に述べたように、書くという行為を実践しなければ、世界中のすべての読書が必ずしも優れた作家になるとは限らないため、依然として書く必要があります.

ジェネレーティブ AI を使用して、この読み取りと書き込みの結合を促進することができます。 学生にジェネレーティブ AI を意図的に使用させます。 AI がエッセイを作成します。 生徒には、AI が作成したエッセイを批評するという課題が与えられます。 次に、学生は新しいエッセイを書くように割り当てられますが、おそらく別のトピックについてですが、以前の AI 生成エッセイの構造やその他の一般的な要素を使用することができます。

これは、生徒が「交流」することのできない作家による本やその他のテキストを単に読むよりも、生徒にとってさらに生産的である可能性があると示唆する人もいます。 AI アプリを使用すると、学生は多数のプロンプトを次々に使用して、最初のエッセイを再実行して作成することができます。 生徒は AI に、リンカーンに関する最低限のエッセイを書くように指示するかもしれません。 次に、学生はリンカーンについての長いエッセイを非公式の口調で書いてほしいと求めます。 生徒はそれを確認した後、リンカーンのエッセイの高度に形式化されたバージョンを作成するよう AI アプリに指示します。 等。

なされた主張は、これは学生が書くことと書くことがどのように行われるかについて学ぶのに実質的に役立つ可能性があるということです.

最近の研究論文はまさにこの点を提案しています。「この論文の著者は、AI を使用して、教室での学習に対する XNUMX つの障壁を克服できると考えています。転移の改善、説明の深さの錯覚の打破、説明を批判的に評価する学生のトレーニングです。」( 「AI チャットボットによって可能になる新しい学習モード: XNUMX つの方法と課題」というタイトルの論文で、Ethan Mollick 博士と Lilach Mollick 博士は、 ペンシルバニア大学ウォートン スクール & ウォートン インタラクティブ、12 年 2022 月 XNUMX 日)

たとえば、彼らは学習転移の改善が次のように起こる可能性があると指摘しています。 トピックの基本的な知識を持つ学生の場合、AI を使用して理解度をテストし、トピックの不正確さ、ギャップ、不足している側面に名前を付けて説明するよう明示的に促すことができます。 AI は、終わりのない一連の概念の例とそれらの概念の適用を提供できます。また、生徒に次のように促すことができます: さまざまなコンテキストで例を比較し、概念の核心を説明し、AI が概念を適用する方法で矛盾や欠落している情報を指摘します。新しい状況へ」（同上）。

それは古いリフレインに似ています。彼らを打ち負かすことができない場合は、参加してください。

ジェネレーティブ AI を教育ツールに変えます。

ええ、迅速な対応が得られます。

あなたはキツネを鶏小屋に入れています。 ジェネレーティブ AI とは何かを知らなかった生徒たちは、教師と学校のあからさまな行動によって、それを公然と見せられるようになりました。 学生がカンニングの機会について無知だった場合、あなたはそれを彼らの顔と手に直接入れています.

権力者が生徒に不正行為の手段を教えようとするのは、まったく不快なことのように思えます。 したがって、あなたは永遠に最も正直な学生を不正行為の誘惑の領域に置くでしょう. 誰もがチートマシンにアクセスできます。 彼らはそうするように言われています。 隠す必要はありません。 ジェネレーティブ AI を使用していないふりをする必要はありません。 学校と先生があなたにそれを使わせました。

これに対する反論は、学生がジェネレーティブ AI に慣れないだろうと考えるには、やみくもに無知に頭を砂の中に入れなければならないということです。 あなたがばかげて知らないふりをしている間、彼らは学校の外でそれを使うために急いでいます。 あなたのより良い選択は、彼らに物を紹介し、それが何に使用でき、何が使用できないかを話し合い、難問全体に明るい光を当てることです.

それはかなりすごいです。

テクノロジーによる教育の革新について研究している方は、ジェネレーティブ AI と、それが教育アプローチの性質をどのように変え、学生の学習に影響を与えるかを調べてみてください。 もうすぐです。

検出を使用して私たちを破滅から救い出す

立場を変えて、デジタル アートについて少し考えてみましょう。

デジタル アートを作成した場合は、後で誰かがあなたのアートを使用または再利用することを選択したかどうかを識別できるように、何らかの方法でマークを付けることができます。 これを行う簡単な方法は、デジタル アートワークのピクセルまたはドットの一部を変更することです。 あちこちでいくつかのことを行うと、アートワークの外観は人間の目には同じように見えます. 彼らは、デジタルツールを使って綿密に検査した場合にのみ見ることができる特別な色に設定された小さなピクセルに気付かない.

これらの手法は、透かしの一種として知られているかもしれません。 昔、紙ベースの資料やその他のデジタル化されていないコンテンツに透かしを入れる試みがあったように、電子透かしの台頭が徐々に見られます。

デジタル透かしは、デジタル アートワークの画像に隠されている場合があります。 透かしが画像の邪魔になる場合は、デジタル アートワーク (デジタル作品のいわゆる「メタデータ」) を含むファイルに透かしを埋め込んでみてください。

発生する可能性のあるいたちごっこがあります。

悪人がやって来て、あなたの電子透かしを発見します。 彼らはそれを取り除きます。 これで、彼らはあなたのデジタル アートワークを自由に使用できるようになったように見えますが、後であなたがデジタル アートワークを調べて、それがあなたの努力のぼったくりであることを明らかに示すことができるのではないかと心配する必要はありません。 それらの悪党！

電子透かしを徐々に増やす必要があります。これは、暗号技術と技術を使用して行うことができます。 秘密のメッセージとエンコーディングについて考えてみてください。

アイデアは、電子透かしを見つけにくいようにエンコードすることです。 また、除去が困難な可能性もあります。 デジタル アートワークを表示または使用できるようにするソフトウェアが、有効なエンコードされた電子透かしが作品に存在することを最初に確認する必要があることを確認することさえできます。そうでない場合、それは不適切なコピーと見なされます。 あなたを現行犯で捕まえました。

テキストを生成するジェネレーティブ AI でも同じことができるでしょうか?

ガントレットが配置されました。 ただし、この問題は、アートワークの電子透かしを検討する場合よりも、ある程度難しい場合があります。

理由は次のとおりです。

透かしを配置できる唯一の場所は、テキスト自体に直接あると仮定します。 これは、生成されたテキストが必ずしもファイルに保存されるとは限らないためです。 文章はただの文章です。 ジェネレーティブ AI ツールからカット アンド ペーストできます。 この意味で、通常、透かしを埋め込むことができるメタデータやファイルはありません。

テキストだけに集中する必要があります。 純粋なテキスト。

XNUMX つの方法は、生成 AI に追跡可能な方法でテキストを作成させることです。 大雑把ではあるが非現実的な例として、XNUMX 文ごとに文頭に「And」という単語を付けて始めることにしたと想像してください。 それでも、一見完全に流暢に見えるエッセイを生成します。 唯一のトリックは、XNUMX 文ごとに選択した魔法の言葉で始まることです。 私たちが何をしようとしているのか、他の誰も知りません。

ある学生は、ジェネレーティブ AI を使用して、リンカーンに関する割り当てられたエッセイを作成します。 生徒はそれを AI アプリから直接受け取り、教師にメールで送信します。 学生は最後の瞬間まで待って、公開された締め切りに間に合わなかったことが判明しました. エッセイをレビューする時間はありません。 送信して、最善を尽くしてください。

先生はエッセイを見ます。 透かしが XNUMX 文ごとの冒頭で使用される魔法の言葉で構成されていることを彼女に伝えたとします。 教師は、この提出されたエッセイでこれが事実であることを検出します。 生徒がエッセイを書き、XNUMX 文ごとにこの特定の単語を使用する可能性が非常に低い可能性はおそらくありますが、これは非常にありそうもなく、代わりに生徒がおそらく生成 AI を使用したことに合理的に同意できると思います。エッセイを制作する。

それがどのように機能するか分かりますか？

私はあなたがそうすると信じています。

ここでの問題は、それほど明白ではない透かしをどのように考え出すかです。 学生は、文が奇妙なことに特定の単語を使用しているように見えることに気付くかもしれません。 彼らは何が起こっているのか推測するかもしれません。 次に、生徒は文を移動して、言い直しを行うことがあります。 エッセイがジェネレーティブ AI によって書かれたものであることが容易に認識されなくなるため、これにより、この特定の透かしがほぼ沈みます。

いたちごっこが再び進行中です。

簡単に識別できない方法で何らかの方法で「透かし」を含む流暢なテキストを作成する必要があります。 さらに、可能であれば、エッセイが少し修正されたとしても、透かしは持続し続ける必要があります。 完全なリビジョンでは、おそらく透かしが生き残ることはできません。 ただし、テキスト領域にある程度の変更が加えられた場合でも、透かしが検出可能になるように、ある程度の冗長性と回復力が必要です。

ChatGPT (OpenAI による AI アプリ) を作成している会社のために何らかの仕事をしている研究者は、これらの透かしの考慮事項に沿っていくつかの興味深い暗号化の取り組みを調査しています。 Scott Aaronson は、テキサス大学オースティン校のコンピューター サイエンスの教授であり、最近、進行中の作業の一部について講演しました (トランスクリプトは彼のブログに掲載されています)。

彼が既存のアプローチを簡単に説明している次の抜粋を考えてみましょう。 GPT の場合、すべての入力と出力はトークンの文字列であり、単語だけでなく、句読点や単語の一部なども含まれます。合計で約 100,000 のトークンがあります。 基本的に、GPT は、前のトークンの文字列を条件として、次に生成するトークンの確率分布を常に生成しています。 ニューラル ネットワークが分布を生成した後、OpenAI サーバーは実際にその分布に従ってトークンをサンプリングします。または、「温度」と呼ばれるパラメーターに応じて、分布の修正バージョンをサンプリングします。 ただし、温度がゼロでない限り、通常、次のトークンの選択にはある程度のランダム性があります。同じプロンプトで何度も実行し、毎回異なる完了 (つまり、出力トークンの文字列) を取得する可能性があります。 」

前述のように、ChatGPT アプリによって生成されるエッセイの次にどの単語が配置されるかについては、指定された量のランダム性があります。 それはまた、同じトピックであっても、各エッセイは多少異なる可能性が高いという前述の指摘を説明しています. 特定の範囲内にある無作為選択アプローチの意図的な使用は、エッセイの生成中に内部で実行されています。

ここで、興味深い部分である暗号化の混合に進みます。 . エンド ユーザーが疑似乱数と真の乱数を区別できないと仮定すると、エンド ユーザーに検出可能な違いは生じません。 しかし、特定のスコア (各 n グラム (n 個の連続するトークンのシーケンス) で評価された特定の関数 g の合計) を密かにバイアスする疑似乱数関数を選択できるようになりました。この疑似乱数関数の鍵です。」

技術的に詰め込まれているように見えるかもしれません。

本質的には、作成されたエッセイは流暢に見え、エッセイを読んでも電子透かしが含まれていることをすぐに識別できないということです。 特定のエッセイに透かしが含まれているかどうかを判断するには、特別に考案された検出器にエッセイを入力する必要があります。 検出を行うプログラムは、テキストに基づいて値を計算し、それを保存されているキーと比較できます。 説明されているアプローチでは、キーはベンダーによって保持され、それ以外の場合は利用できません。したがって、キーが秘密に保たれていると仮定すると、指定された検出プログラムのみが、この場合、エッセイが ChatGPT から派生した可能性が高いかどうかを計算できます。

彼は続けて、これが絶対確実ではないことを認めています。 たとえば、別の AI を使用して GPT の出力を言い換えた場合、それを検出することはできません。 一方、あちこちにいくつかの単語を挿入または削除したり、いくつかの文の順序を並べ替えたりするだけでも、透かし信号はそのまま残ります. n グラムの合計のみに依存するため、この種の介入に対して堅牢です。」

教師は、生徒のエッセイをチェックする検出プログラムへのアクセスを許可される場合があります。 教師が学生にエッセイを教師と自動検出器に電子メールで送信させるという点で、問題が比較的簡単であるとします。 次に、検出アプリは、この場合、エッセイが ChatGPT によって作成された可能性について教師に通知します。

さて、検出器が誰にでも公然と利用可能である場合、学生の不正行為者は単に自分のエッセイを検出器に実行し、検出器がエッセイがジェネレーティブによって派生した可能性が低いことを示すまで一連の変更を加えます。 AI。 いたちごっこの詳細。 おそらく、検出器はパスワードを使用して厳重に保護する必要があるか、暗号化アプローチを処理する他の手段または方法が必要です (利用できるキーベースおよびキーレスに焦点を当てたさまざまな方法があります)。

教師は、インターネット上で使用できる数十または数百のジェネレーティブ AI アプリに直面する可能性があります。 その場合、それらすべてに電子透かしを使用させようとして、それらすべてにエッセイを入力する必要があります。

教室の外でエッセイを書く必要はもうありません

運命と悲観的な見方は、おそらく教師は外部のエッセイライティングの使用を放棄しなければならないということです. すべてのエッセイは、教室の管理された環境内でのみ書かれなければなりません。

これには多くの問題があります。

学生が、クラスのプロジェクトである特定の本格的なエッセイを書くのに、通常 XNUMX 時間かかるとします。 これは教室内でどのように行われますか？ あなたはそれを小分けにして、学生にエッセイの小さな部分を数日かけて書いてもらうつもりですか? これがもたらす困難について考えてみてください。

おそらく問題は誇張されていると主張する人もいます。

教師は、生徒による剽窃についてこれまでと同様に対処する必要があります。 前もって教師は、剽窃は重大な不正行為の懸念事項であると宣言します。 ジェネレーティブ AI の使用は、どのような方法であれ、不正行為と見なされることを強調します。

低学年、落ちこぼれ、退学など、重大な罰則を課す。 生徒は、外部のエッセイ課題ごとに、提出したものが自分の作品であることを書面で証明する必要があります (生成 AI、インターネットからコピーする、仲間の生徒を使用する、親を使用する、お金を払って完成させる、およびすぐ）。 また、特にジェネレーティブ AI の使用法に特に注意する必要があることを含め、課題の準備に使用したオンライン ツールを生徒にリストするように要求します。

教師は、提出されたエッセイが生成 AI アプリによるものであるかどうかを判断するために、検出アプリを使用する場合と使用しない場合があります。 これは、検出器の使用とアクセスのしやすさによっては、面倒なステップになる可能性があります。

教師はおそらく、外部で書かれたエッセイが正当であるかどうかを判断することについて、すでに行動を起こしているはずです。 教室でエッセイを書くことで、比較対照する機会がありますが、教室での執筆時間は短く、オンラインの参考資料へのアクセスを許可しないという制限によって妨げられる可能性があることに気付きます.

要点は、外部のエッセイ作成の使用を突然捨てるというルートをとるべきではないということです。 一部の人は、これを無謀な行為であり、赤ちゃんを風呂の水で捨てることを連想させるようなものとして嘆くでしょう（古いことわざ、おそらく引退する価値があります）.

外部の執筆が学習活動として完全に中止された場合、この一見日常的な教育活動をカリキュラムから削除することには、おそらく深刻で長期にわたるマイナス面があります. 関連するトレードオフがあります。 上記のすべての抑制と均衡にもかかわらず、何人の学生がカンニングをするでしょうか? カンニングをしないで、有益な教育的アプローチを使用してライティング能力を向上させ続ける生徒はどれくらいいるでしょうか?

理論的には、うまくいけば、不正行為者の割合が十分に小さくなり、外部の書き込みが学生の優勢にとって依然として価値があるようになる.

まとめ

AI は非常に頭の痛い問題です。

教師にとって、AI は祝福にも呪いにもなり得ます。 いずれにせよ、教師は AI について知る必要があることと、教育活動に関連する AI の紆余曲折に対処する方法を知る必要があることを意味します。これは、すでに過度に伸びている背中と肩にさらに負担をかけることになります。 各地の先生方にお願いです。

たぶん、私たちは AI がなくなることを願うことができます。

いや。

おわかりのように、時計を戻して生成 AI を抹消するつもりはありません。 これを求める人は誰でも夢想家です。 余談ですが、この段落の XNUMX 番目の文の最初の単語として「そして」という単語を使用しています (おっと、鍵を渡してしまいます!)、ジェネレーティブ AI は定着します。

以下は、白熱した議論を進めるためのプロンプターです。 ジェネレーティブ AI はより普及し、さらに驚くべき機能を備えたものになるでしょう。

マイクドロップ。

今のところ最終的な考え。

シェイクスピアは、「存在するかしないか、それが問題だ」と書いたことで有名です。

ジェネレーティブ AI が実現することは間違いありません。 すでにそうです。

私たちは、ジェネレーティブ AI を私たちの生活にどのように取り入れたいのか、そして社会がそのような使用法をどのように形作り、導くことを選択するのかを理解する必要があります。 AI の倫理と AI の法則について考える理由が必要な場合は、おそらく生成 AI によって、たとえ自分が何者であるかを知らなくても、自分が何であるかを知ろうとするよう促されるでしょう (シェークスピアの隠れた言及)。