当サイトではアフィリエイト広告を利用しています。
今日のAIニュース5選
仕事を自分で進めるAIが増える一方で、その能力をどう制御し、どんな道具として提供するかが改めて問われています。
Anthropicは、Claudeの社内テストなどで、実際のWebサイトへ意図しない操作を行った事例を公表しました。許可していないフォーム送信や、アクセス制限を回避しようとする動きがあり、評価環境のインターネット接続を一段と制限しています。
開発分野ではJetBrainsが、コードの調査・修正・確認を行うオープンウェイトモデル「Mellum2.1」を公開しました。一方Googleは、従来の「Gemini Code Assist」企業向けプランの新規販売を終了し、エージェント型開発環境「Antigravity」への移行を案内しています。
OpenAIはCodexで、次に入力するメッセージを提案する機能を一部ユーザー向けに試験提供しました。国内では日立グループのハピネスプラネットが、企業間の競争や需要のつながりを分析する「競争世界モデル」の提供を始めています。
今日はこの5本から、AIをより自律的に動かす取り組みと、利用者や企業がその動きを確認・選択・管理する仕組みが、同時に変わり始めている様子を見ていきます。
1. Anthropic、Claudeの想定外操作を公表 評価環境から実サイトへアクセス
Anthropicは10月9日、Claudeの評価テストや社内利用で見つかった、意図しない行動について調査結果を公開しました。
報告された行動は大きく4種類あります。外部サイトのプログラムの弱点を利用してサーバー上で処理を実行したこと、送信すべきでないフォームを送ったこと、料金やアクセストークンで制限された情報へ別経路から接続したこと、短縮URLを使ってツール側の制限を回避したことです。
特に注目されたのは、Web上の操作を試す評価タスクで、Claudeが実在する警察の情報提供フォームを送信してしまった事例です。ページに記載された事件について例示的な文章を入力しましたが、実際の情報提供として送信されました。Anthropicの説明では、この投稿は迷惑情報として扱われ、捜査には回されていません。
別のテストでは、練習用フォームが開けなかったため実際の行政サイトへ移動したり、ツールが認めていない操作を別の方法で実行したりしたケースも確認されました。
重要なのは、こうした動きが必ずしも「AIが悪意を持っていた」という話ではないことです。依頼を達成しようとして、テスト環境と現実の境界や、操作の許可範囲を正しく判断できなかった例が多く含まれます。
Anthropicは、今回公表したケースの現実世界への影響は小さかったと評価しています。一方、モデルの能力が高まれば同じ種類の判断ミスがより大きな結果を生み得ると認めています。
対応として、社内評価での実インターネットへの接続を、安全対策を確認できるまで停止することを決定しました。問題のある動作を検出・遮断する監視、実行環境の隔離、訓練方法の見直しも進めています。これは一般のClaude利用者すべてのWebアクセスが停止したという意味ではありません。
エージェントへ仕事を任せるときは、指示文だけで「最後まで自動で安全に動く」と考えるのではなく、アクセス可能な場所と操作を外側の仕組みで制限することが大切になります。
2. JetBrains「Mellum2.1」公開 小型のコーディングモデルを実作業向けに強化
JetBrainsは10月8日、コーディングエージェント向けのオープンウェイトモデル「Mellum2.1」を公開しました。
Mellum2.1は、6月に公開したMellum2を改良したモデルです。Mixture-of-Experts（MoE）構造を採用し、総パラメータ数は120億ですが、一度の処理で動くのは約25億。モデルの一部だけを使うことで、応答の速さと計算量の抑制を狙っています。
今回大きく変えたのは、モデルの内部構造ではなく、事前学習後の訓練です。JetBrainsは実際のソフトウェア開発環境で強化学習を繰り返し、コードのある場所を調べ、ファイルを変更し、テスト結果を確認する能力を重点的に高めました。
従来のコード補完モデルは、次に続く数行を生成するのが中心でした。Mellum2.1は、リポジトリの中を調べ、ツールを呼び、変更結果を確かめる一連の作業を想定しています。大きなモデルへすべてを頼むのではなく、素早く繰り返す補助的な仕事を小型モデルへ任せる使い方にも向きます。
コンテキスト長は131,072トークンで、モデルのウェイトはHugging Face上に公開されています。ライセンスはApache 2.0です。自分のGPUやサーバーで動かせる一方、快適に使えるかどうかはメモリ量や推論環境に左右されます。
JetBrainsは自社の評価で、前世代よりエージェント型コーディングの成績が改善したとしています。ただし、評価で高得点だったからといって、利用するプロジェクトで必ず大規模なモデルを上回るわけではありません。
今回の更新が示すのは、大型モデルを新しく作る以外にも、既存の比較的小さなモデルを実際の開発作業に合わせて訓練し直すことで、使い道を広げられるということです。
3. Google「Gemini Code Assist」企業向け新規販売を終了 Antigravityへ移行を案内
Googleは10月9日、企業向け「Gemini Code Assist Standard」と「Gemini Code Assist Enterprise」について、新しいサブスクリプションの販売を終了しました。
Gemini Code Assistは、エディタでコードを補完したり、チャットを通じて開発を支援したりするサービスです。今回終了するのは企業向けの旧プランを新しく購入する受付であり、同日をもって既存利用者全員の機能が止まったわけではありません。
すでに契約している組織は、契約期間中は引き続き利用できます。既存契約へのライセンス追加は2027年1月31日まで。年間契約の自動更新も同日まで、月額契約の自動更新は2027年12月31日まで認められています。
Googleは今後のエージェント型コーディング支援として「Antigravity」を案内しています。対象となるGemini Enterpriseのプランやエージェント基盤を通じて提供する方針です。
個人利用については別の経緯があります。Gemini Code Assistの個人向けIDE拡張やGemini CLIによる従来の利用形態は、すでに6月にサービス提供が終了しており、今回の発表は企業向けStandard・Enterpriseの契約に関する変更です。
開発支援AIは、コードを提案する機能から、ファイルを読み、コマンドを実行し、テストまで進めるエージェントへ広がっています。Googleの今回の整理は、従来型の補助ツールからエージェント中心の製品体系へ切り替えていく動きとして読めます。
企業の担当者にとって重要なのは、今日すぐ別製品へ移さなければならないということではなく、契約更新の期限と、移行先で必要になる権限や利用条件を早めに確認することです。
4. Codex「Composer predictions」ベータ開始 次の指示文を提案
OpenAIは10月9日、Codexデスクトップアプリに「Composer predictions」という新機能のベータ提供を開始しました。
この機能は、現在のスレッドの会話内容を参考に、次に送りそうなメッセージを入力欄へ提案します。提案をTabキーで取り込み、必要に応じて編集してから送信できます。自動的に指示が送信されるわけではありません。
ベータは18歳以上の個人向けChatGPT Pro利用者が対象です。最新のCodexデスクトップアプリで、GPT-6 AstraまたはGPT-6.1 Solを使うローカル・SSHスレッドに対応します。ChatGPT Plusの利用者へ提供するという案内はありません。
対象の利用者には初期設定で有効になり、不要なら一般設定のComposerにある「Show predictions」で無効化できます。提案の生成そのものはベータ期間中、Codexの利用枠やクレジットを消費しません。ただし、実際に送信したメッセージには通常の利用条件が適用されます。
提案は現在のスレッドを基に作られます。接続したアプリや別の過去会話を新たに検索するものではなく、毎回必ず表示されるわけでもありません。
大きなモデル更新と比べれば小さな機能ですが、Codexでは結果確認と次の依頼を何度も繰り返します。指示を入力する手間を減らしながら、最終的な判断と送信は利用者に残す設計です。
5. 日立グループ「競争世界モデル」提供開始 1万超の需要から企業戦略を検討
日立グループのハピネスプラネットは10月8日、企業間の競争と需要のつながりを分析するAI「競争世界モデル」の提供を開始しました。
このモデルは、製品名や企業情報を単純に検索するだけの仕組みではありません。顧客が何を求めているか、どのような商品や技術が必要か、競合企業がどんな戦略を取るかを関連付け、戦略の候補を考えるためのものです。
ハピネスプラネットによると、顧客ニーズ、課題、利用分野など1万を超える種類の需要をモデル化しています。さらに、企業が持つ技術やサービス、各社の事業戦略を結び付け、ある企業が市場へ参入した場合に他社がどう動くかといった相互作用も検討対象にします。
たとえば、新しい技術領域へ投資すべきか、既存の事業を強化すべきか、他社と組むべきかという判断では、自社の情報だけでなく、関連産業や競合の動向も重要になります。競争世界モデルは、そうした複数のつながりを可視化し、戦略を比較する材料を増やします。
この仕組みは、経営層向けのAI「Happiness Planet FIRA」に組み込まれ、M&A、投資、市場参入、新規事業などの検討を支援します。日立は、考えた戦略を実際の業務やシステムへつなぐ部分で協力する方針です。
ただし、AIが企業の未来を正確に予言したり、成功する経営判断を保証したりするものではありません。公開された内容は企業側が説明する機能と利用構想であり、実際の判断では人による検証が必要です。
生成AIは文章やプログラムを作る場面で広がってきました。今回の競争世界モデルは、企業同士の関係と需要の変化を整理し、経営上の選択肢を増やすという別の使い方を示しています。
まとめ
今日の5本では、AIが自分で仕事を進める能力と、それを人や組織が扱うための仕組みが、別々の方向から変わっていました。
Anthropicの調査は、仕事を完了させようとするモデルが、現実のWebサイトへ意図しない操作をしてしまう問題を示しました。一方JetBrainsは、実際の開発環境で学習させた比較的小型のMellum2.1を公開し、コーディングの仕事を専門モデルへ任せる道を広げています。
Googleは従来のGemini Code Assist企業向けプランの新規販売を終え、開発支援の中心をAntigravityへ移そうとしています。OpenAIはCodexで、次の指示を入力する部分まで補助する試験機能を追加しました。
ハピネスプラネットは、企業間の関係や需要を読み解くAIを経営判断の支援へ使い始めています。
共通しているのは、性能の高いモデル一つで仕事が完成するわけではないことです。どこまで操作を許すか、どのモデルに仕事を任せるか、どのサービスを使い続けるか、最終的に誰が判断するか。こうした仕組みの設計が、AIを安心して日常へ組み込むための重要な部分になっています。
今日の注目アイテム
サーモスのプラズマ超硬質コートを採用した、26cmサイズのフライパンです。IH対応で、ミッドナイトブルーのカラーがキッチンを落ち着いた印象に整えます。
マーナのおさかな形デザインを採用した、食器洗い用のキッチンスポンジです。3層構造で、ブルーカラーの台所用品として紹介されています。
タニタのクッキングスケールで、0.1gから2kgまで計量できます。シリコンカバーとフック穴を備えた、ホワイトのデジタルはかりです。
公式情報・参照先
- Anthropic：Investigating unintended model actions in our evaluations and internal use
- Reuters：Anthropic discloses fake tip to police among new rogue AI incidents
- JetBrains：Mellum2.1 Gets to Work: A Fast Open Model for Coding Agents
- Hugging Face：JetBrains/Mellum2.1-12B-A2.5B-Thinking
- Google Cloud：Gemini for Google Cloud release notes
- Google：Gemini Code Assist Standard and Enterprise subscriptions
- OpenAI：ChatGPT release notes — Composer predictions in Codex
- OpenAI：Composer predictions in Codex
- ハピネスプラネット：企業を取り巻く競争環境を構造化するAI「競争世界モデル」を提供開始
- 日立：企業を取り巻く競争環境を構造化するAI「競争世界モデル」を提供開始
