オーストラリア政府、「高リスク」AIの禁止を評価するための協議を開始 – Cryptopolitan

オーストラリア政府は、特定の「高リスク」人工知能（AI）ツールを禁止すべきかどうかを決定することを目的とした、予期せぬXNUMX週間の協議期間を開始した。 この動きは、急速な AI 開発に伴うリスクに対処するために、米国、欧州連合、中国を含む他の地域がとった同様の措置に続くものです。

1 月 26 日、エド・フーシク産業科学大臣は、公開審査のために XNUMX つの論文を発表しました。XNUMX つは「オーストラリアにおける安全で責任ある AI」に関するもので、もう XNUMX つは国家科学技術評議会からの生成 AI に関するものです。 これらの文書は、XNUMX月XNUMX日まで開かれる協議期間に合わせて発表された。

オーストラリア政府は、「AI の安全かつ責任ある利用」を促進するための戦略に関するフィードバックを求めており、自主的な倫理枠組み、特定の規制、または両方のアプローチの組み合わせなどの選択肢を検討しています。 注目すべきは、この協議では、特定の高リスクAIアプリケーションやテクノロジーを完全に禁止すべきかどうかを直接問うものであり、そのようなツールを特定する基準について意見を求めていることである。

包括的なディスカッションペーパーには、自動運転車を「高リスク」に分類し、医療患者記録を作成するための生成 AI ツールを「中リスク」に分類する AI モデルのリスク マトリクス草案が含まれています。 この文書では、医学、工学、法律などの分野での AI の積極的な応用と、ディープフェイク ツール、フェイク ニュースの生成、AI ボットが自傷行為を助長した事例に関連する潜在的な危害の両方を強調しています。

オーストラリア政府 vs AI

AI モデルのバイアスや、AI システムによる「幻覚」として知られる無意味または誤った情報の生成に関する懸念もディスカッション ペーパーで取り上げられています。 オーストラリアにおける AI の導入は、国民の信頼レベルが低いために現在限定的であることを認めています。 この論文では、例として他の法域で施行されている AI 規制やイタリアの ChatGPT の一時禁止について言及しています。

さらに、国家科学技術評議会の報告書は、ロボット工学とコンピュータビジョンにおけるオーストラリアの有利な能力を強調しているが、大規模な言語モデルなどの中核分野における相対的な弱点を指摘している。 これは、生成用 AI リソースが主に米国に本拠を置く少数のテクノロジー企業に集中していることへの懸念を引き起こしており、これがオーストラリアに潜在的なリスクをもたらしています。

このレポートでは、世界的な AI 規制をさらに調査し、生成 AI モデルの例を示し、そのようなモデルが銀行や金融から公共サービス、教育、クリエイティブ産業に至るまでの分野に広範囲に影響を与える可能性が高いことを示唆しています。