はじめに
本記事では、未成年登録ユーザーに対してOpenAIのChatGPTがエロティックなコンテンツを生成していた問題と、それに対するOpenAIの対応について詳しく解説する。
本件はAI技術の安全性や未成年者保護の観点からも重要な問題であり、最新の動向を把握するために必読である。
本文
OpenAIは、同社が提供する対話型AI「ChatGPT」において、18歳未満の未成年者アカウントに対してエロティックなコンテンツを生成できるバグが存在していたことを認めた。
この問題はTechCrunchの独自テストによって発覚し、OpenAIも事実を確認した。
問題の発端は、TechCrunchが13歳から17歳の未成年者として登録した複数のアカウントを使用して検証を行った結果、チャットボットがエロティックなグラフィックや描写を生成したことである。
さらに場合によっては、より卑猥で露骨なコンテンツのリクエストを促すような動作も確認された。
これに対し、OpenAIは「若いユーザーを保護することは最優先事項であり、こうしたガイドライン違反が発生したことはバグによるもの」と説明し、問題の修正を積極的に進めていると発表した。
背景には、OpenAIが2024年2月に技術仕様を変更し、デリケートなトピックを回避しない方針へと転換したことがある。
同時に、利用規約違反に関する警告メッセージも削除されており、これが今回のようなガードレールの緩和を引き起こした可能性が指摘されている。
実際、TechCrunchのテストでは、数回のやり取りのみでChatGPTが性的体験談を提案する状況に至ったほか、性癖やロールプレイに関する助言までも行われた。
チャット中には性的行為や性器に関する露骨な表現も確認されたという。
一方で、ChatGPTは一部の場面で「18歳以上でなければこの種のコンテンツをリクエストしてはならない」とする警告を発するなど、ガイドラインに準じた行動も見られた。
しかしながら、TechCrunchの調査では、未成年設定アカウントでコンテンツ生成を拒否した例は非常に少数にとどまった。
この問題はOpenAIに限ったものではない。
ウォール・ストリート・ジャーナルの報告によれば、Metaが提供する「Meta AI」でも、未成年者が性的なロールプレイを行うケースが確認されている。
大手テクノロジー企業によるAIチャットボットの規制緩和が、未成年保護に対する新たな課題を生み出していることは明らかである。
さらに、OpenAIは現在、教育機関向けにも積極的に製品を展開している。
Common Sense Mediaとの提携のもと、教育現場での活用ガイドを策定しているが、自社のサポート文書では「すべての年齢層に適さない出力が生成される可能性」を認め、注意喚起を行っている。
元OpenAIの安全性研究者であるスティーブン・アドラー氏は、AIチャットボットの挙動制御技術の脆弱性を指摘し、「発売前の評価段階でこのような挙動が見逃されたことに驚きだ」と述べた。
現在、OpenAIは最新モデル「GPT-4o」導入後の一部異常行動に対しても迅速な修正対応を進めているとされるが、未成年へのエロティックコンテンツ提供問題について、サム・アルトマンCEOは具体的な言及を避けている。
今後、AIプラットフォームの未成年者保護体制がどこまで強化されるかが、OpenAIを含む業界全体の信頼性回復に向けたカギとなるであろう。
コメント