Meta は、未成年者がインターネットから裸の性的な画像を一掃するのを支援する新しいプラットフォームを支持します

T行方不明および搾取された子供のための国立センターは、Meta が資金を提供するプラットフォームを立ち上げ、子供や XNUMX 代の若者が自分の裸または性的な写真やビデオをソーシャル メディアから削除できるように支援しています。

という未成年者向けの新サービス テイクイットダウンとして知られる成人向けの同様のツールのリリースから XNUMX 年後に発表されました。 ストップNCⅡ （同意のない親密な画像の略）。 今日、Take It Down は、参加に同意した XNUMX つのプラットフォーム (メタ所有の Facebook と Instagram、Yubo、OnlyFans、Pornhub) でのみ機能します。

NCMEC の社長兼 CEO の Michelle DeLaune 氏は、次のように述べています。 「子供たちがこのサービスに気づき、画像を削除するためのツールが存在することに安心感を覚えることを願っています。」

ソーシャル メディア企業がどのように子供や 2021 代の若者を保護しているか、またどこが不十分であるかが、新しい議会での超党派の技術政策問題として浮上しており、議員が法案を可決する可能性が最も高い問題でもあります。 それでも、セーフガードを作成または強化するための提案には長い道のりがあり、法律が差し迫っていないため、NCMEC はオンライン企業と子供の安全問題に関する法執行機関との間の架け橋としての役割を果たし続けています。 30 年、この非営利団体は、プラットフォーム上の明らかなセクストーションや児童の性的虐待に関する情報について、業界全体から約 XNUMX 万件のヒントを受け取りました。 大部分は、Meta が所有するプラットフォームから報告されました。

未成年者・保護者の方もご利用いただけます NCMEC の無料の匿名ツール オンラインで拡散された、または拡散されると思われる未成年者の露骨な素材にフラグを立てること。 デバイスで機密性の高い写真やビデオを選択すると、プラットフォームはその写真のデジタル指紋 (「ハッシュ」と呼ばれる) に相当するものを生成し、NCMEC はそれを参加ソーシャル メディア サイトと共有して、見つけようとすることができます。そのコンテンツを制限または削除し、監視を続けます。

NCMEC によると、問題の写真やビデオは特にデバイスから離れず、誰にも見られません。 (ハッシュは、NCMEC とソーシャル メディア アプリの両方に対して被害者を特定できない状態に保ち、画像が有害であり、削除する必要があることのみを通知します。) NCMEC は、個人の身元を公開する可能性のあるハッシュ データベースの侵害は知られていないと述べました。 .

しかし、この取り組みの最大の障害の XNUMX つは、エンドツーエンドの暗号化の台頭です。 NCMEC の社長である DeLaune 氏は、今月の公聴会で上院司法委員会に次のように語った。 . 部屋の中の象は、テイク・イット・ダウンに関与する財政的支援者であり、最も著名な企業であるメタが エンドツーエンドの暗号化に向かってクリップで移動 インスタグラムとメッセンジャーの両方で。

NCMECの副社長であるGavin Portnoy氏は、XNUMXつの組織がこれをどのように調整できるかは「XNUMX万ドルの問題」であると語った。 フォーブス、NCMEC は、Meta の暗号化の計画が何であるか、およびどのような安全対策が講じられているかをまだ正確に把握していないことに注意してください。 (Meta は、それらは進行中の作業であり、さまざまな暗号化機能が Instagram と Messenger でテストされていると述べています。)

「私たちは、今日のインターネットと [電子サービス プロバイダー] の位置付けに合わせて Take It Down を作成しています」と Portnoy 氏は述べています。 「これは、[Meta の] エンドツーエンドの暗号化環境がどのように見えるかをよりよく理解したときに、また、テイク イット ダウンが機能する世界があれば、私たちが渡らなければならない橋です。」

メタのグローバル安全責任者であるアンティゴーン・デイビス氏は、次のように述べています。 フォーブス 「暗号化により、特定の画像が識別されなくなる」と述べていますが、ユーザーのプライバシーとセキュリティにとって不可欠なメッセージングの業界標準になりつつあります. ハッシュ技術を使用し、このようなプロジェクトで NCMEC をサポートすることは、Meta が「問題に真正面から取り組む」ために試みているいくつかの方法の XNUMX つです。 (両当事者とも、Meta が Take It Down を構築するために NCMEC にどれだけの資金を提供したかについては明らかにしませんでした。)

「これらの問題に対処するための万能薬はありません」と Davis はインタビューで述べ、Meta のアプローチは「多面的」であると説明しました。 セクストーションや性的な画像の同意のない拡散を阻止することを目的としたこの新しいシステムに協力することに加えて、Meta は成人の見知らぬ人がそのメッセージング機能を通じて未成年者とつながることを許可していないと彼女は言いました. また、未成年者のアカウントやコンテンツが、オンラインで疑わしい行動を示した大人のメタ ユーザーにプッシュされるのを防ぐために、分類子を使用していると彼女は付け加えました。

「搾取していた親、搾取していた別の大人、元ボーイフレンドやガールフレンドなど、若い頃にそのような画像を共有したことがある人が興味を持ってくれることを願っています。このツールを使用してください」と Davis 氏は言います。

NCMECは、いくつかの売り込みを行ったと述べた 200 の他の電子サービス プロバイダー テイク イット ダウン プログラムへの参加に関する情報を「Cyber​​Tipline」に送信したもの。 今日それを擁護している少数のソーシャル メディア プレーヤーを除いて、他に誰が参加するかはまだわかりません。 Yubo は、これらのアーリー アダプターが他のユーザーに参加を促してくれることを望んでいると述べています。

Yubo の CEO である Sacha Lazimi 氏は、電子メールで次のように述べています。 「すべての俳優は自分の役割を果たす必要があります。 …大きな課題に対する解決策を特定するにはコラボレーションが鍵となるため、Take It Down イニシアチブに参加するプラットフォームが増えることを期待しています。」

フォーブスのその他の作品TikTok Liveはどのようにして「15歳の若者でいっぱいのストリップクラブ」になったのかBy アレクサンドラS.レバインフォーブスのその他の作品これらのTikTokアカウントは、児童の性的虐待資料を明白に隠していますBy アレクサンドラS.レバインフォーブスのその他の作品TikTokモデレーターは、児童の性的虐待のグラフィック画像を使用してトレーニングを受けていますBy アレクサンドラS.レバイン