Responsible Scaling Policy

責任あるスケーリングポリシーとは何ですか？一般的に理解される「AI企業の安全性への取り組み」とどう違いますか？

責任あるスケーリングポリシー（RSP）とは、具体的な技術的ガバナンス枠組みを指す。研究機関はまず一連の「能力閾値（capability threshold）」を定義する。例えば、モデルが生物兵器開発能力を実質的に向上させる能力を持つか、あるいは自らの研究開発速度を大幅に加速させる能力を持つかといったものだ。そして各閾値について、モデルがその閾値を超えたと評価された場合に、訓練または展開を継続するためにどの具体的な安全対策（より厳格な重み保護、より完全な脱獄防止、より高規格のコンテンツフィルタリングなど）を発動しなければならないかを事前に規定する。

これは漠然と「私たちはAI安全性を重視している」と言うこととは異なる。RSPの設計思想は、安全への約束を具体的に検証可能な条件へと変換することにある——閾値が明確に定義され、対応する安全対策が明示され、理論上は第三者が研究機関が本当に自らの約束を果たしているかを検証できる。これこそが、RSPがバイオセーフティ研究室の等級分類基準にしばしば例えられる理由でもある。両者とも「リスクレベルに応じた保護規格」という論理を用いて、抽象的な安全への約束を運用可能な具体的基準へと変換しようとしている。

なぜ責任あるスケーリングポリシーが必要で、それが解決しようとしている問題は何ですか？

RSPが解決しようとしている核心的な問題は次のようなものである。強制力を持つ外部の規制枠組みが存在せず、産業界の競争圧力が持続する状況下で、「まず安全を確保してから先に進む」ということを、研究機関がその都度良心に基づいて場当たり的に判断することに完全に依存させるのではなく、事前に明確化され検証可能な規則に従わせるにはどうすればよいか、という問題である。Anthropicは2023年9月に最初のバージョンのRSPを発表した際、これを「前例のない公的な約束」として明確に位置づけた。すなわち、リスクを許容範囲内に抑える安全・セキュリティ対策がすでに実施されていない限り、壊滅的な被害をもたらしうる能力を持つモデルを訓練または展開しない、というものである。

この種の政策の存在はまた、現在のAI安全性ガバナンスにおける現実的な限界を反映してもいる。すべてのフロンティア研究機関を対象とする強制力を持つ国際的枠組みが（あるいは、決して）実現するまでの間、研究機関が自主的に定め自主的に遵守する内部方針は、現時点である程度の予測可能性を提供する数少ないメカニズムの一つである。もっとも、その予測可能性は結局のところ、研究機関が自ら定めた規則に従うことを選ぶという前提の上に成り立っている。

責任あるスケーリングポリシーは具体的にどう機能しますか？2026年にはどんな重大な変化がありましたか？

AnthropicのRSPを例に取ると、その枠組みの中核は「AI安全レベル（AI Safety Level、ASL）」基準である。モデルの能力が向上するにつれ、必要とされる技術的・運用的な保護対策のレベルも相応に上昇する。RSPのバージョンは継続的に進化している——v1.0（2023年9月）で基本的な枠組みが確立され、その後のバージョンではより細やかな能力閾値の定義が段階的に追加された。例えば「AI研究開発能力」の閾値を「入門レベルのAI研究業務を完全に自動化できる能力」と「効果的なスケーリング速度を大幅に加速させられる能力」という2つの独立した段階に分割し、モデルが特定の閾値を超えた場合、研究機関はモデルがもたらしうる「目標のずれ」リスク（メサ最適化などの整合性研究の概念に呼応する）と対応する緩和措置について具体的な論証を提示することを求めるようになった。

2026年2月に発効したRSP 3.0は、大規模な改訂であり、現時点で最も論争を呼んでいる調整でもある。このバージョンは以前のバージョンにあった「ハードリミット」メカニズムを削除した——従来は、モデルの能力が特定の閾値を対応する安全対策なしに超えた場合、研究機関は訓練を停止しなければならないと規定されていたが、この規則は「二重条件」メカニズムに置き換えられた。「AI競争において優位に立っていること」と「実質的な壊滅的リスクが存在すること」の両方が同時に満たされて初めて、訓練停止の義務が発動される。Anthropicはこの改訂の理由として、元の閾値定義に「曖昧な領域」があり、外部にとってリスクの論証を理解しづらくしていたこと、政治環境が規制に対してますます非友好的になっていること、そして一部のより高い安全レベル要件の実施が、業界全体の協調なしには極めて困難であることなどを挙げている。一方、独立審査者であるMETRのChris Painter氏は、審査意見の中で、社会は現時点で先進的なAIシステムがもたらしうる壊滅的リスクに対する備えができていないと警告している。

責任あるスケーリングポリシーは、読者がAI安全性に関するニュースを理解する上でどう役立ちますか？

「ある研究機関が安全性ポリシーを更新した」といったニュースを見るたびに、RSPの自主的な性質を理解していれば、読者は重要な問いを投げかけることができる。この改訂は、ポリシー自体をより厳密で具体的にするもの（より精密な能力閾値の定義の追加など）なのか、それとも安全対策を発動する条件を実質的に緩和するものなのか？両方とも見出しでは「ポリシーの更新」として包装されうるが、それぞれが表す方向性はまったく正反対である。RSP 3.0がハードリミットメカニズムを削除し、二重条件による発動へと変更したことは、FLIなどの第三者安全性評価報告書における「ゴールポストの移動」という批判の具体的な事例そのものである——パネルは、こうした調整は技術的・現実的な考慮があったとしても、以前の公的な約束からの実質的な後退を構成すると判断した。

これこそが、RSPの自主的な本質を理解することが特に重要である理由でもある。それは結局のところ、研究機関が自ら定め、自ら執行するポリシーであり、条項が修正されないことを保証する外部の強制力は存在しない。これはRSPがまったく無意味であることを意味しない——公開された枠組みが全く存在しない場合と比べれば、継続的に追跡され、その変化の軌跡が第三者によって公に精査され続けるポリシーは、依然としてある程度の透明性と責任追及の基盤を提供する。しかし読者は、この透明性そのものの信頼性が、研究機関が改訂の詳細を継続的に公開する意志があるか、そして外部の評価機関がこれらの変化を継続的に追跡し疑問を呈し続けるかにかかっていることを明確に認識する必要がある。