LLaMA AIモデル「漏洩」について上院議員がMeta CEOのザッカーバーグ氏に質問

クロス上院議員XNUMX名がLLaMA AIモデルの漏洩についてザッカーバーグ氏に質問し、メタ社がセキュリティ対策に従わないと非難した。 Meta はセキュリティ ポリシーと予防策について質問されました。

「リーク」の責任はメタにある

最近、Meta の画期的な大規模言語モデルである LLaMA が漏洩し、同様の懸念が生じました。 上院プライバシー・テクノロジー・法律小委員会委員長のリチャード・ブルーメンソール上院議員（民主党、コネチカット州）と幹部メンバーのジョシュ・ホーリー上院議員（共和党、ミズーリ州）は、AIモデルの漏洩について疑問を投げかける書簡を書いた。 

上院議員らは、この漏洩がスパム、詐欺、マルウェア、プライバシー侵害、嫌がらせ、その他の不正行為や危害などのさまざまなサイバー犯罪につながる可能性を懸念している。 多くの疑問が提起されており、XNUMX 人の政治家がメタのセキュリティ システムに深い関心を持っています。 彼らは、LLaMA を立ち上げる前にリスクを評価するためにどのような手順に従ったのかを尋ねました。 彼らは、モデルの可用性の悪用を防ぐために導入されているポリシーと慣行を理解することに非常に熱心であると述べました。

上院議員らは、質問に対するメタの回答に基づいて、メタが不適切な検閲を行っており、モデルに対して十分なセキュリティ対策を講じていなかったとして非難した。 Open AI の ChatGPT は、倫理とガイドラインに基づいて一部のリクエストを拒否します。 たとえば、ChatGPT が誰かの息子に代わって手紙を書き、困難な状況から抜け出すためにいくらかのお金を要求されると、その要求を拒否します。 一方、LLaMA はリクエストを実行し、レターを生成します。 自傷行為、犯罪、反ユダヤ主義を伴うリクエストも完了します。

LLaMA の多様でユニークな機能を理解することは非常に重要です。 これは独特であるだけでなく、これまでで最も広範な大規模言語モデルの XNUMX つでもあります。 現在人気のある無修正 LLM のほとんどは LLaMA に基づいています。 オープンソース モデルとしては非常に洗練されており、正確です。 LLaMA ベースの LLM の例としては、スタンフォード大学の Alpaca、Vicuna などが挙げられます。LLaMA は、LLaMA を今日の形にする上で重要な役割を果たしてきました。 LLaMA は、実用性の低いチャットボットを微調整されたモードに進化させる役割を果たします。

LLaMAはXNUMX月にリリースされました。 上院議員らによると、メタ社は研究者にモデルのダウンロードを許可したが、一元化やアクセス制限などのセキュリティ対策は講じていなかったという。 この論争は、LLaMA の完全なモデルが BitTorrent 上に現れたときに起こりました。 これにより、誰でもこのモデルにアクセスできるようになりました。 これにより、AI モデルの品質が低下し、その悪用の問題が生じました。 

上院議員らは当初、「漏洩」があるかどうかすら確信が持てなかった。 しかし、新興企業、集団、学者によって立ち上げられた AI 開発がインターネットに氾濫すると、問題が発生しました。 書簡では、Meta は LLaMA の潜在的な悪用の責任を負わなければならず、リリース前に最小限の保護を講じなければならないと述べています。

Meta は、LLaMA の重みを研究者が利用できるようにしました。 残念ながら、これらの重みが漏洩し、これにより初めてグローバル アクセスが可能になりました。

RitikaSharmaによる最新の投稿 （すべてを見る）