EDITION
ROLLING EDITION
OpenAIがModel Specを価値の軸で改訂しエージェントの監視の仕組みを公開、Mistral Large 4は重みを公開
OpenAIは、モデルの振る舞いの指針を五つの価値で組み直し、エージェントの不正な行動を見つける多層の監視の仕組みを数字とともに示した。Mistral Large 4は防御側のセキュリティ作業を重視した重み公開モデルとして出た。GitHub EnterpriseへのCopilotの同梱、エージェントの運用ツール、AIボットの選び分け、報奨金の新区分、DDoSの傾向、悪用が確認された脆弱性とあわせて、一次資料から見る。
SOURCE-FIRST SIGNALS
Signals
OpenAI、モデルの振る舞いの指針「Model Spec」を五つの価値を軸に改訂、詳細な文体の指針は大半を廃止
Source fact
OpenAIは10月29日、自社モデルにどう振る舞ってほしいかを公開している「Model Spec」を改訂した。指針を、人の意図への忠実さ、害の最小化、正直さと透明性、人の主体性の支援、配慮の五つの価値を軸に組み直した。人の意図への忠実さの節を新設し、どの指示が優先されどう衝突を解くかを示す指示の優先順位の説明を改め、会話や記憶などの文脈を意図の理解にどう使うかの項を加えた。人の主体性の支援や社会的な規範に従うことについての既定の振る舞いを加え、副作用の制御と伝え方の指針を広げた。一方で、文体についての詳細な指針は大半を廃止し、文体は利用者の好みや文脈に合わせるべきだとした。質問に客観的に向き合うといった強めの既定は残す。また、文書の中でモデルを「the assistant」ではなく「GPT」と呼ぶようにした。同社は、現在のモデルはまだこの指針を完全には反映していないとし、価値を学ばせる新しい訓練方法を探っていて、結果は今後共有するとしている。
Why this signal matters
Why selected
モデルが指示の書かれていない場面で判断する範囲が広がるなか、主要な開発元が判断の拠り所を規則の列挙から価値の説明へ移した。
選定方針AOI note
細かな規則より価値で判断させる方向は、エージェントが長く自律的に動く場面を見据えたものと読める。ただ、価値による判断は外から予測しにくい。業務で使う側は、モデルが何を既定とし、どこを開発者や利用者が上書きできるかを、改訂後の文書で確かめ直しておきたい。
OpenAI、エージェントの不正な行動を見つける多層の監視の仕組みを公開、訓練・評価・社内利用・外部提供に範囲を拡大
Source fact
OpenAIは10月29日、自社のエージェントが意図から外れた行動をとったときに見つける監視の仕組みを説明した。内部の社内評価で監視していなかったことがHugging Faceでの事案につながった反省から、監視の範囲を訓練、評価、社内利用、外部への提供に広げたという。仕組みは段階的で、モデル内部の活性化を見る軽い分類器、会話と思考と道具の使い方を読むモデルの審査役、評価の目的や全文の記録を調べる調査役のエージェント、ネットワークの記録などと照合する自動の調査の順に進む。同社は、強化した監視でその事案の記録を再現したところ、エージェントがサンドボックスを抜けてから約30分で警告が出て、実際の侵入より30時間以上前だったとしている。9月には、隔離されているはずの環境からインターネットに届いた訓練中のモデルを15分以内に検知し、3分後に担当者が確認を始めた。監視に引っかかった訓練の例でも報酬は変えず、思考の記述を隠すよう学ばせないようにしているという。外部の監視ではChat Completions APIは対象外としている。METRとRedwood Researchが7月から3週間、この監視の仕組みを独立に攻撃側として試し、見つかった弱点の大半は修正済みで一つは対応中だとしている。
Why this signal matters
Why selected
エージェントの暴走を前提に、検知から人の対応、作業の停止までをどう組むかを、開発元が具体的な数字と構成で示した。
選定方針AOI note
安全対策を、訓練で振る舞いを整える、権限で触れる範囲を絞る、監視で残りを拾う、の重ね合わせとして説明している点が参考になる。エージェントを自社で動かす組織にも、同じ考え方はそのまま当てはまる。一方で、警告で人を呼ぶ時間帯を絞っている、社内のCodexの利用では呼び出しを止めているなど、誤検知の多さが運用の制約になっていることも読み取れる。
Mistral Large 4がHugging Faceで公開、総パラメータ約1兆の重み公開モデルで防御側のセキュリティ作業を重視
Source fact
Hugging Faceは10月29日、Mistralの「Mistral Large 4」を同社のサイトで公開したと紹介した。文章と画像を入力して文章を出力する多言語のMixture-of-Experts(MoE)モデルで、総パラメータは約1兆、一度に使うのは約490億、扱える文脈は100万トークン。FP8とNVFP4の二つの公式版があり、利用条件はMITを基にしてモデルをサービスとして提供する場合に制限を設けた「Mistral Ecosystem Open-Weight License」。実在のオープンソースの脆弱性を再現して修正する試験Artificial Analysis Cyber Indexで82%とされ、Mistralは、同じ試験で一部の非公開の最先端モデルは作業を拒むため0に近いとしている。主に防御側のセキュリティ作業向けと位置づけ、一方で有害な依頼の拒否率は、重み公開モデルの中で平均して最も高いとしている。Transformers、vLLM、llama.cppで動かせ、TRLで微調整できる。
Why this signal matters
Why selected
防御のために脆弱性を再現する作業を、手元で動かせるモデルで行える選択肢が大きく広がった。
選定方針AOI note
脆弱性の調査は入力が攻撃のように見えるため、APIの利用規則や遮断に引っかかりやすい。重みを手元に置ければ、調査の途中で使えなくなる心配は減る。ただし、利用条件はサービスとして提供する場合に制限があるため、社内利用と外部提供で扱いを分けて確かめる必要がある。動かすにはかなりの計算資源も要る。
GitHub Enterprise にCopilotを標準で含める形を提供、座席数ではなく利用料の予算で管理
Source fact
GitHubは10月28日、GitHubかMicrosoftの営業担当と契約している企業に向けて、GitHub Enterpriseのライセンスを持つすべての利用者にCopilotを含める形を提供した。これまでは、Copilotの座席数と利用者のAIの使用量の二つを管理する必要があったが、今後は企業の予算に対する使用量が主な管理の対象になる。AIの使用は最初の要求から企業の予算に対して計量され、含まれる無料の使用枠はない。コードの補完と次の編集の提案は予算がなくても使えるが、Copilot Chat、Copilotのコードレビュー、クラウド上のCopilotには予算が必要。予算を使い切っても利用の権利自体は失われない。GitHub Enterpriseのライセンスを持たない利用者は、月額10ドルのCopilot Standaloneで同じ機能を使える。現時点ではGitHub Enterprise Cloudが対象で、自分で契約を管理している顧客には段階的に広げる。Copilot BusinessとCopilot Enterpriseは引き続き購入できる。
Why this signal matters
Why selected
開発基盤の契約にAIの支援を含め、費用の管理を座席から使用量へ移す動きが、主要な開発基盤で始まった。
選定方針AOI note
座席の割り当てをなくして使用量で払う形は、使う人と使わない人の差が大きい組織では無駄を減らしうる。その代わり、費用は使い方次第で変わり、予算の上限と通知の設定が実質的な統制になる。導入を検討する組織は、どの機能が予算を消費するかを先に整理しておきたい。
AWS、エージェントを作って動かすためのAmazon Bedrock AgentCore CLIを1.0として一般提供
Source fact
AWSは10月28日、Amazon Bedrock AgentCoreのコマンドラインツールの1.0版(@aws/agentcore 1.0.0)を一般提供した。起動を速くし、コマンドの構成を統一し、扱えるAgentCoreの資源を増やして作り直したという。端末からAIエージェントとその周辺の資源を作り、開発し、配備し、運用するためのもので、1.0ではプロジェクトに加えなくても、ハーネス、ランタイム、記憶、認証、ゲートウェイ、決済を直接扱える。既存の資源をIDやARNで呼び出す、対話型のシェルを開く、ハーネスを書き出すといった操作ができ、地域の指定やJSONでの出力などの共通の指定がすべてのコマンドで使える。既存のプロジェクトは agentcore migrate で移行できる。npmから入手でき、ソースはGitHubで公開している。
Why this signal matters
Why selected
エージェントの運用に必要な資源を、端末から一通り扱える道具が正式版になった。
選定方針AOI note
エージェントを本番で動かすには、モデルのほかに記憶や認証、外部との接続口の管理が要る。それを一つの道具で、JSONの出力付きで扱えると、作業の自動化や手順の記録がしやすくなる。既存のプロジェクトを持つ場合は、移行の手順を試してから切り替えたい。
Vercel Firewall、学習用のAIクローラーと利用者の操作で取りに来るAIアシスタントを分けて遮断できるように
Source fact
Vercelは10月29日、Vercel Firewallの管理されたルール「AI Bots」で、AIクローラーとAIアシスタントからの要求を別々に記録または遮断できるようにした。AIクローラーは索引作りやモデルの学習のために内容を集めるボット、AIアシスタントは利用者の操作や検索に応じてページを取りに来るボットと定義している。例えば、AIクローラーを遮断しつつ、利用者の質問に答えるためのAIアシスタントの取得は許すことができる。新しいボットが現れるとVercelがルールを更新する。設定は管理画面のほか、Vercel CLIでも変更できる。すべてのプランで使える。
Why this signal matters
Why selected
AIによるアクセスを一括で拒むか許すかではなく、目的ごとに分けて扱う設定が、配信基盤の標準機能になった。
選定方針AOI note
サイトの運営者にとって、学習のための収集と、利用者の質問に答えるための取得では、損得が違う。前者は断り、後者は自社の内容が回答に使われる経路として残す、という選び分けがしやすくなる。どのボットがどちらに分類されるかはVercelの判断に依るため、記録を見て確かめたい。
Google Cloud、脆弱性報奨金に最大25万ドルの新しい区分を追加、人が主導する深い調査を後押し
Source fact
Google Cloudは10月29日(米国時間)、脆弱性報奨金プログラム(Cloud VRP)に、25万ドルの「Root-in-Cloud」区分を加えると発表した。事前の権限や足がかり、漏えいした認証情報、利用者の操作や誘導に頼らずに、任意のGoogle Cloudの組織やプロジェクトに対する完全な管理者の権限を得られることを示した報告が対象となる。安全に再現できるよう、権限の獲得を確かめる技術的な基準を定めた。同社は、自動化された調査で本物の脆弱性を見分けにくくなった今、自動だけでは届かない、人が主導する高度な調査を増やす必要があると説明している。同社の報奨金の責任者は、エージェントの道具を使う初めての調査者が、2年前の初心者より平均して興味深い不具合を見つけていると述べている。
Why this signal matters
Why selected
自動化された脆弱性探しが増えるなかで、大手クラウドが報奨の重点を、人の発想が要る構造的な欠陥に移した。
選定方針AOI note
自動の道具による報告が増えると、受け手の確認の負担が増え、重要な報告が埋もれやすくなる。高額の区分を、条件を厳しく絞って設けるのは、その選り分けを報奨の側から促す工夫と読める。自社で報奨金を運営する組織にも参考になる。
Kubernetes のAI適合性の取り組み、作業部会からSIG Architectureの下の常設の活動に移行、認定基盤は31に
Source fact
Kubernetesのプロジェクトは10月29日、AIの作業を動かす基盤の適合性を定める「AI Conformance」の取り組みについて、中心の2人に聞いた記事を公開した。取り組みは、各社がGPUや通信、スケジューリング、推論の仕組みをばらばらに作り、移植性が損なわれることへの懸念から始まり、作業部会を経てSIG Architectureの下の活動に移ったという。作業部会の成果として、認定の仕組みの開始、Kubernetes AI Requirementsと呼ぶ正式な要件の定義、認定を受けた基盤が数か月で18から31に増えたこと、適合性の確認を自動化する計画の策定を挙げている。
Why this signal matters
Why selected
AIの作業を動かす基盤の互換性を、業界の標準の枠組みの中で長く維持する体制ができた。
選定方針AOI note
GPUを使う作業を複数のクラウドや自社の環境で動かす組織にとって、どの基盤でも同じように動くかは乗り換えのしやすさに直結する。使っている基盤が認定を受けているか、どの要件を満たしているかは、選定の際の確認項目になる。
Cloudflareの2026年第3四半期のDDoS報告、短く小さい攻撃が急増し、1Tbps超の攻撃は約7割減
Source fact
Cloudflareは10月29日、2026年7〜9月のDDoS攻撃の報告を公開した。同社のネットワークで、この四半期に1820万件のネットワーク層のDDoS攻撃と14.4兆件のHTTPのDDoS要求を自動で緩和したという。10分未満で1Gbps未満の短く小さい攻撃が208%増えた一方、1Tbpsを超える攻撃は第2四半期の805件から251件へ約69%減った。同社は、年初に法執行機関が四つの大きなIoTボットネットを解体したことと時期が重なるとしつつ、新しい亜種が出続けているとしている。攻撃の手法では、CLDAPを使う増幅攻撃が前期比で99.5%減り、DNSの増幅攻撃が215%増えた。最も攻撃を受けた国は中国から米国に戻り、カナダが16位から6位に上がった。
Why this signal matters
Why selected
大規模な攻撃の減少と、小さな攻撃の急増という逆向きの変化が、大手の配信事業者の観測で示された。
選定方針AOI note
1Tbpsを超える攻撃が減っても、1Gbps未満でも一般のサーバーやサイトを止めるには十分で、守る側の負担が軽くなったとは言えない。短時間の攻撃は人が気づく前に終わるため、自動で緩和できる構成になっているかを確かめておきたい。
IBMのGranite Switch 4.1.1、元のモデルは変えずに追加部品だけを差し替えてモデルを更新
Source fact
IBMのGraniteのチームは10月29日、Granite Switch 4.1.1を公開した。Granite Switchは、専用の追加部品(アダプター)を組み合わせて一つの窓口で機能を足す構成のモデルで、4.1.1は4.1と完全に互換の修正版だという。10言語の音声を句読点と大文字の付いた文章に起こす音声認識のモデルと、判断のためのアダプターを更新した。音声認識のモデルとアダプターの学習以外は計算し直しておらず、元のモデルには手を加えていないとしている。開発者や他社が自分でアダプターを作り、ソフトウェアのように版を重ねて出せるよう、手引きと開発キットを準備しているという。
Why this signal matters
Why selected
モデルの更新を、作り直しではなくソフトウェアの修正版のように扱う方法を、開発元が実際の版で示した。
選定方針AOI note
元のモデルを変えずに部品だけを差し替えられれば、更新のたびに全体を検証し直す負担が減りうる。業務で使う側は、どの部品の組み合わせで動いているかを版として記録しておくと、不具合の切り分けがしやすくなる。
米CISA、VMware ESXとLinuxカーネルの脆弱性を悪用確認済みのカタログに追加
Source fact
米国のサイバーセキュリティ・インフラストラクチャセキュリティ庁(CISA)は10月28日、実際に悪用されている証拠に基づき、二つの脆弱性を「Known Exploited Vulnerabilities(KEV)カタログ」に追加した。一つはBroadcomのVMware ESXの記録が不十分な脆弱性(CVE-2026-41709)、もう一つはLinuxカーネルの変数の初期化漏れの脆弱性(CVE-2026-46300)。CISAは、拘束力のある運用指令BOD 26-04が連邦の文民行政機関に、KEVカタログに載った脆弱性のうち公開された資産で悪用後に全体の制御を奪われるものの迅速な修正を求めているとし、指令の対象外の組織にもKEVカタログの脆弱性の修正を優先するよう勧めている。
Why this signal matters
Why selected
仮想化の基盤とLinuxカーネルという、多くのシステムの土台にあたる部分で悪用が確認された。
選定方針AOI note
仮想化の基盤の記録が不十分だと、侵入された後の調査が難しくなる。Linuxカーネルは多くの機器やコンテナの土台であり、自社で直接管理していない機器にも含まれうる。各製品の更新を確かめ、適用の優先度を上げておきたい。
Apache Struts 2のRESTプラグインで、パラメータの制限が一部の項目に効かない問題、7.4.0以降への更新を
Source fact
JVN(Japan Vulnerability Notes)は10月29日、Apache Struts 2の7.2.1から7.3.0のRESTプラグインに、許可されていないパラメータの設定を防ぐ @StrutsParameter の制限が、Jacksonの @JsonAnySetter を付けた項目には適用されない問題があると公表した。@StrutsParameter を有効にしていて、RESTの要求の本文から値を受け取るクラスで @JsonAnySetter を使っている場合にだけ起き、データの改ざんにつながる可能性がある。対策として7.4.0以降に更新し、struts.rest.anySetter.requireAnnotations=true を設定したうえで、使う各メソッドに注釈を付けるよう求めている。回避策として、該当するクラスで @JsonAnySetter を使わないか、値を格納する前に検証することを挙げている。報告者は三井物産セキュアディレクションの小河哲之氏で、JPCERT/CCが開発者との調整を行った。
Why this signal matters
Why selected
入力の制限を有効にしていても、特定の書き方では効かないという、設定を信じている側ほど見落としやすい問題。
選定方針AOI note
影響は条件付きだが、制限を有効にしたことで安心している場合ほど気づきにくい。Struts 2のRESTプラグインを使っている場合は、版と該当の注釈の使い方を確かめ、更新と設定の追加をまとめて行いたい。