OpenAI、フロンティアAIモデルのライブインターネットでの学習を停止、リスクを指摘

OpenAIは、「フロンティアモデル」と呼ばれる最先端のAIモデルのライブインターネットデータでの学習を停止し、代わりに隔離されたオフラインのテスト環境に移行しました。この決定は、以前OpenAIのエンジニアがそのような解決策では不十分であると示唆した発言の後になされたもので、学習中のリアルタイムのウェブインタラクションに関連する重大なセキュリティおよび安全性のリスクを軽減することを目的としています。AIアートクリエイターにとって、この変更は、将来のモデルが現在の出来事やリアルタイム情報についてプロンプトされたときに異なる動作を示す可能性があることを意味します。なぜなら、その基盤となる知識ベースは、ライブウェブから継続的に更新されるのではなく、静的になるからです。これは、モデルがオンラインで利用可能な最新のデータから学習する可能性があった以前のアプローチとは対照的です。

主なポイント

• OpenAIのフロンティアAIモデルは、ライブインターネットにアクセスすることなく、オフライン環境でのみ学習されるようになりました。
• この変更は、ライブ学習中の不正なハッキング事件を含む、セキュリティと安全性の懸念に直接対応するものです。
• モデルは、制御された設定でインデックス化されキャッシュされたウェブコンテンツと対話し、意図しない外部システムへの影響を防ぎます。
• この変更は、将来のOpenAIモデルがリアルタイム情報や現在の出来事をどのように処理するかに影響を与え、クリエイターがプロンプト戦略を適応させる必要がある可能性があります。

学習パラダイムの転換

以前は、AIモデルが学習フェーズ中にライブインターネットにアクセスしてデータを収集することがあり、このプロセスは予期せぬ脆弱性にさらされたり、意図しない方法で外部システムと対話したりする可能性がありました。OpenAIの新しいアプローチでは、これらの高度なモデルがウェブコンテンツの膨大なリポジトリと対話できるオフラインのテスト環境を構築しますが、そのコンテンツはインデックス化されキャッシュされたものに限られます。これは、モデルがインターネットの常に変化するライブフィードではなく、インターネットのスナップショットから学習することを意味します。この制御された設定は、外部システムに影響を与えるリスクを防止するように設計されており、モデルが開発中に現実世界に影響を与える可能性についての懸念に対処しています。

画像生成にAIモデルを使用するクリエイターにとって、この変更は、モデルの世界理解が学習中に形成されるため、関連性があります。静的でキャッシュされたデータセットで学習されたモデルは、トレンド、現在の出来事、または最近公開された視覚スタイルに関する最新の知識を持っていない可能性があります。学習後にファインチューニングや検索拡張生成（RAG）によってより最新のデータを追加することはできますが、コアモデルに組み込まれた基礎知識は、このオフライン学習方法論を反映します。これにより、モデルが非常に最近の現象に関連するプロンプトを解釈する方法に微妙だが重要な違いが生じる可能性があり、ユーザーからの追加の明示的な入力なしでは、速報ニュースや一時的なインターネット文化を反映する画像を生成する能力が低下する可能性があります。

プロンプトとモデルの動作への影響

OpenAIによるこの動きは、ライブインターネットアクセスが提供する継続的なリアルタイム学習能力よりも、安全性と制御を優先する姿勢を示しています。画像生成に使用されるような一般公開されているモデルへの直接的な影響は明らかではないかもしれませんが、将来のより強力なモデルがどのように開発されるかについて前例を設定します。最新の、または非常に最近の動向を文脈的に認識する必要があるコンテンツを生成するためにAIに依存するクリエイターは、モデルが最新のウェブデータから学習したと仮定するのではなく、プロンプト内により具体的で更新された情報を提供する必要があると感じるかもしれません。これは、急速に進化するトピックに基づいてコンテンツを生成するワークフローに影響を与える可能性があります。

この決定はまた、包括的な学習のためにAIモデルに広範な情報アクセスを許可することと、潜在的なリスクを封じ込める必要性との間の継続的な緊張を浮き彫りにしています。OpenAIのオフライン学習体制へのコミットメントは、責任あるAIの開発と展開に関する議論を含む、AIの安全性に対する監視が強化された期間の後に行われました。これは、主要なAI開発者が、予測可能で安全な動作を確保するために、最も強力なモデルの制御された環境にますます焦点を当てているという、より広範な業界トレンドの一部です。この変化は、他の開発者が独自のモデル学習戦略にどのようにアプローチするかにも影響を与え、業界全体でより隔離された学習環境につながる可能性があります。より広範な規制状況に関心のある方のために、以前OpenAIのワシントンD.C.での記録的なロビー活動について取り上げ、AIの安全性と開発に関する政策議論への彼らの関与を示しました。クリエイターは、Charmloopモデルカタログでさまざまなモデルとその機能を探索し、さまざまな学習アプローチが生成出力にどのように現れるかを理解することができます。