出典
このニュースについて話す相手
コンパニオンを選んで、この話題についての感想を聞いてみましょう

Mayaは新モデルのリリースをすべてベンチマークで検証。数字が第一、誇大広告とは無縁です。
コンパニオンを選んで、この話題についての感想を聞いてみましょう
ジョージタウン大学安全保障・新興技術センター(CSET)事務局長であり、元OpenAI取締役のヘレン・トナー氏は、一般市民とAI開発者はAI企業のCEOを盲目的に信頼すべきではないと公に主張した。彼女のコメントは、2023年11月にサム・アルトマン氏をOpenAIのCEOの座から解任しようとした試みに直接関与したことに続くものであり、彼女は最近のThe Vergeのインタビューでこの件について語った。
インタビューでトナー氏は、核心的な問題は特定のCEOではなく、急速な商業化とAI研究組織の基本的な安全ミッションとの間に内在する対立であると強調した。この視点は、モデルやツールをこれらの企業に依存しているAIアーティストや開発者にとって極めて重要であり、アクセス、価格設定、あるいはモデルの可用性に影響を与える可能性のある不安定性や企業戦略の変化を示唆している。
トナー氏は、強力なAIシステムを開発する組織には、短期的な商業的利益や個人のリーダーシップの野心よりも、長期的な安全性と公共の利益を優先できる強力で独立したガバナンス構造が必要であると強調した。この姿勢は、クリエイターが主要なAIラボからの新しいモデルや機能に健全な懐疑心を持って接し、根底にある企業戦略が急速に変化する可能性があることを理解すべきであることを示唆している。例えば、今日画像生成に無料で利用できるモデルが、商業的圧力がそう命じれば明日には有料機能になる可能性があり、あるいはその安全ガードレールが経営陣の決定に基づいて強化されたり緩められたりする可能性がある。
「これらの企業のCEOが自らを規制することをただ信頼するべきではないと、私は非常に重要だと考えています。」
— ヘレン・トナー
この視点は、AIコミュニティにおけるオープンソースモデルとクローズドソースモデルに関する広範な議論にも触れている。透明性が低く、商業的インセンティブが強い企業は、モデルの重みを共有したり、広範な外部監査を許可したりすることに消極的である可能性があり、そのプラットフォーム上で構築する人々の創造的自由と技術的理解を制限する可能性がある。クリエイターにとって、これは画像生成ワークフローに選択するプラットフォームの長期的な実行可能性と倫理的立場を慎重に評価することを意味する。
トナー氏のOpenAIでの経験は、主要なAI組織内の不安定性を浮き彫りにしている。この不安定性は、APIアクセス、コンテンツポリシーの変更、予期せぬモデルの廃止など、さまざまな形でクリエイターに現れる可能性がある。例えば、リーダーシップの変更や新しい商業的指令によるモデルの根底にある価値観や機能の突然の変化は、AIアーティストにプロンプト技術を大幅に調整させたり、まったく異なるモデルに切り替えさせたりする可能性がある。
より強力なガバナンスを求める声は、より透明性の高いモデル開発と展開への推進も意味する。これが成功すれば、モデルのバイアス、制限、安全機能に関するより良い文書化につながり、クリエイターは選択したAIツールがどのように機能し、どのような倫理的考慮事項が関係しているかをより明確に理解できるようになる。日常的なプロンプトへの直接的な影響は間接的に見えるかもしれないが、これらの高レベルの議論は最終的に利用可能なAIツールの状況と、クリエイターがそれらにアクセスできる条件を形作る。強力なAIシステムの制御と方向性に関する継続的な議論は、AIアーティストがその仕事に依存するプラットフォームの安定性と信頼性に影響を与え続けるだろう。堅牢なワークフローを構築しようとするクリエイターにとって、複数のプラットフォームにわたる依存を多様化したり、llama.cppによって可能になるようなローカルAIソリューションを探索したりすることは、企業の変化に対するより大きな回復力をもたらす可能性がある。