NYCAIRRとは?ニューヨーク州のAI安全の独立評価・RAISE Act・Empire AIの役割を解説

当サイトではアフィリエイト広告を利用しています。

ニューヨーク州は2026年11月10日、Binghamton Universityを拠点とするNew York Center for AI Responsibility and Research(NYCAIRR)を始動しました。州内の大学・研究機関から80人超の研究者を集める計画で、Empire AIの計算資源を使い、高度AIシステムの独立評価、安全・セキュリティ研究、評価手法と標準の開発、人材育成を進めます。

同じ日に、州のOffice of Digital Innovation, Governance, Integrity, and Trust(DIGIT)はRAISE Act対応の登録ポータルを開きました。大規模フロンティアAI開発者は2027年1月1日までに登録し、2027年1月から安全フレームワークの公開などの義務へ対応します。フロンティアAI開発者には、モデル透明性報告や重大な安全インシデントの報告も求められます。

今回の仕組みでは、企業の自己評価、行政への登録・報告、研究機関による独立評価を別の役割として組み合わせます。 規制・報告制度はDIGITが担当し、NYCAIRRは州の要請に応じて評価・証拠を提供し、DIGITと連携して公開済みの安全フレームワークをレビューする研究側の基盤です。

NYCAIRRは高度AIを独立評価する州全体の研究ネットワーク

NYCAIRRはBinghamton Universityを拠点に、ニューヨーク州内の大学・研究機関から80人超の研究者を集める計画です。暫定共同所長はCornell TechのGreg Morrisett氏とColumbia UniversityのJeannette Wing氏が務めます。

研究者はそれぞれの所属機関で研究を続けながら、州全体のネットワークへ参加する構想です。

NYCAIRRが掲げる主な役割は次の通りです。

  • 高度AIシステムの安全性・セキュリティ・動作の独立評価
  • フロンティアAIを評価する新しい測定手法・科学的ツール・標準の開発
  • AIの安全・セキュリティに関する基礎研究
  • 形式手法、検証、解釈可能性、アラインメント、ハードウェアセキュリティ、バイオセキュリティなどの研究
  • AI安全人材の育成
  • 公共政策へ使える客観的な評価・証拠の提供

NYCAIRRは、高度AIの独立評価を継続して行う研究ネットワークと評価基盤です。

RAISE Actでは企業の自己評価と公開・報告を制度化する

RAISE Actは、ニューヨーク州でフロンティアAIを開発する企業へ透明性と安全報告を求める制度です。

現行法では、フロンティアモデルを、学習に10の26乗を超える整数演算または浮動小数点演算を使った基盤モデルとして定義しています。さらに、前年の関連会社を含む年間総収益が5億ドルを超えるフロンティア開発者を「大規模フロンティア開発者」としています。

主な義務は対象によって分かれます。

対象主な義務
フロンティア開発者新規・大幅変更モデルの透明性報告、重大な安全インシデントの報告
大規模フロンティア開発者上記に加え、Frontier AI Frameworkの作成・実施・公開、定期的な見直し、登録、内部利用に伴う壊滅的リスク評価の要約提出など

Frontier AI Frameworkには、壊滅的リスクを評価するしきい値、評価方法、緩和策、配備判断、第三者評価の利用、未公開モデル重みのサイバーセキュリティ、重大インシデントへの対応、内部ガバナンスなどを記載します。

重大な安全インシデントは、発生したと判断した時点、または発生を合理的に信じるに足る事実を知った時点から72時間以内にDIGIT側へ報告する仕組みです。

DIGITが登録・報告・制度運用を担う

RAISE Actの制度運用を担当するのが、New York State Department of Financial Services内のDIGITです。

2026年11月10日にオンライン登録ポータルが開き、大規模フロンティア開発者は2027年1月1日までに登録するよう案内されました。

DIGITの役割は、次のように整理できます。

  • 大規模フロンティア開発者の登録受付
  • 安全・透明性・報告要件の実施
  • 重大な安全インシデント報告の受領・レビュー
  • 大規模開発者から提出される内部利用のリスク評価要約の受領
  • 規則制定と制度運用
  • 州政府内の監督・政策判断への接続

行政上の報告先と、研究評価を行うNYCAIRRは別組織です。

この分離によって、企業が提出する制度上の情報を扱う行政機能と、研究者が評価手法や科学的証拠を作る機能を分けられます。

NYCAIRRはDIGITへ評価・証拠を提供する

州の発表では、NYCAIRRは州の要請に応じて、フロンティアAI開発者の監督や政策判断に役立つ専門知識、評価、証拠を提供できるとされています。

具体例として、NYCAIRRはDIGITと連携し、企業が公開した安全フレームワークのレビューを始め、要件を強化する方法について提言する方針です。

主体主な役割
AI開発企業自社モデルの評価、安全フレームワーク、透明性報告、インシデント報告
DIGIT登録、報告受領、制度実施、監督
NYCAIRR独立評価、評価手法研究、安全フレームワークのレビュー、科学的証拠・提言
Empire AI学術研究・独立評価を支える計算資源

企業への法的義務と監督はRAISE ActとDIGIT側が担い、NYCAIRRは技術・研究面から支える位置です。

Empire AIが独立評価に必要な計算資源を支える

高度なAIモデルの評価には、研究者の専門知識と大規模な計算資源が必要です。

NYCAIRRは、ニューヨーク州が進めるEmpire AIの計算基盤を利用します。Empire AIは、大学や研究機関が高度なAI研究を進めるための官民連携基盤で、州の発表では5億ドル規模のイニシアチブとして説明されています。

5億ドルという規模はEmpire AI全体を指します。

NYCAIRRはこの共有計算資源を使い、

  • 高度AIシステムの挙動を評価する
  • 安全性・セキュリティの試験方法を開発する
  • 将来のモデルにも使える測定方法を作る
  • 複数大学の研究者が同じ公共研究基盤を使う

という研究を進める構想です。

独立評価では「誰が評価するか」と「何へアクセスできるか」を分けて見る

NYCAIRRの設立で、企業以外の研究者が高度AIの安全性を評価する公共的な研究基盤が整います。

独立評価の質を確認する際は、評価主体、モデル・証拠へのアクセス範囲、独自試験の可否、結果公開、政策への反映などの条件を確認します。

  • どのモデルへアクセスできるか
  • 未公開モデルや内部評価へどこまでアクセスできるか
  • 企業の公開情報だけを使うのか
  • 独自にモデルを実行・試験できるのか
  • 評価手法と結果をどこまで公開できるのか
  • 政策判断へどう反映されるのか

州の発表では、NYCAIRRが高度AIシステムを独立評価し、DIGITと公開済み安全フレームワークをレビューする方針が示されています。モデル提供企業からどの範囲の非公開アクセスを得るかは、個別の評価で確認する必要があります。

独立評価で「評価主体の独立性」と「証拠へアクセスできる範囲」を分けて見る例として、METRによるAnthropicのAI研究開発加速評価も参考になります。

METRのAnthropic AI研究開発加速評価とは?AECI 1.9倍の意味・AI寄与・検証限界を解説
METRによるAnthropicのAI研究開発加速評価を解説。AECI進歩速度1.9倍の意味、AI利用の寄与推定、学習計算量との関係、非公開証拠による外部検証の限界を分けて整理します。

自己評価・行政報告・独立評価は役割が違う

フロンティアAIの安全性は、企業の自己評価、行政への登録・報告、研究機関の独立評価という複数の経路で確認します。

企業の自己評価

モデルを開発している企業は、内部の能力評価、リスク評価、安全フレームワーク、緩和策、配備判断を持ちます。

RAISE Actでは、大規模フロンティア開発者に安全フレームワークの公開と定期見直しを求めています。

行政への登録・報告

DIGITは、企業登録、重大な安全インシデント報告、内部利用に関するリスク評価要約などを受け取り、制度運用と監督へ使います。

DIGITの登録・報告は、法令に基づく行政手続きです。

研究機関の独立評価

NYCAIRRは、公開情報のレビュー、高度AIの独立試験、評価手法の研究、政策判断に使える科学的証拠の提供を担います。

この3つを分けると、「企業が安全だと説明する」「行政へ必要事項を報告する」「外部研究者が技術的に評価する」という異なる確認経路ができます。

80人超の研究ネットワークは専門分野を横断する

NYCAIRRは、複数の専門分野を横断してAI安全を研究する拠点です。

州が挙げている採用・研究分野には、次の領域が含まれます。

  • 数理理論と基礎限界
  • 形式手法・形式検証
  • エージェント型・複雑システム
  • ハードウェアセキュリティとプライバシー
  • 解釈可能性とアラインメント
  • 科学AI
  • バイオセキュリティ

この構成では、システムの能力、制御、セキュリティ、検証可能性、将来の評価方法までをAI安全の研究対象として扱います。

暫定共同所長のMorrisett氏とWing氏は、研究計画、独立評価、州全体の研究ネットワーク構築を主導します。

フロンティアAI開発者は法的義務と独立評価対応を分けて管理する

RAISE Actの直接対象になるフロンティアAI開発者は、対象区分に応じて公開・登録・報告などの法的義務を管理します。独立評価への対応は、法的義務とは分けて個別の評価条件に応じて確認します。

RAISE Act上の公開・登録・報告に関して、実務では次の情報を分けて管理します。

  1. モデル透明性情報:フロンティア開発者が公開するモデルの公開日、用途、出力形式、利用条件など
  2. 重大インシデント:フロンティア開発者が72時間報告へつなぐ検知・判断・記録
  3. 安全フレームワーク:大規模フロンティア開発者が管理する壊滅的リスクの評価基準、緩和策、第三者評価、内部ガバナンス
  4. 登録・内部利用のリスク評価:大規模フロンティア開発者が対応する登録と定期提出する要約
  5. 公開・提出資料の整合:対象区分ごとの公開・提出情報を確認できる形で整理

NYCAIRRなどの独立評価に応じる場合は、評価に使うモデル、証拠、技術情報をどこまで提供するかを、その評価ごとに確認します。

NYCAIRRの始動によって、公開された安全フレームワークや高度AIシステムを外部研究者が検証する経路も強くなります。

まとめ

NYCAIRRは、Binghamton Universityを拠点に、ニューヨーク州内の80人超の研究者を集める計画のAI安全研究ネットワークです。Empire AIの計算資源を使い、高度AIの独立評価、評価手法・標準の研究、安全人材育成を進めます。

同時に、RAISE Actの制度運用はDIGITが担当します。企業は安全フレームワークや透明性情報を公開し、重大な安全インシデントを報告し、大規模フロンティア開発者は州への登録にも対応します。

NYCAIRRは、独立評価と科学的証拠を行政の監督・政策判断へ接続する研究基盤です。企業への法的義務と制度運用はRAISE ActとDIGITが担います。

フロンティアAIの安全性を確認する仕組みは、企業の自己評価、行政の登録・報告、研究機関の独立評価、共有計算資源という複数の役割に分かれ始めています。

公式情報・参照先

タイトルとURLをコピーしました