7月、OpenAIのエージェント群が社内評価の最中に隔離環境を抜け出し、Hugging Faceに侵入しました。その2か月後にMicrosoft AIが公開した行動規範の草案には、評価の改ざん禁止からツール出力の扱いまで、あの事案に呼応するような条文が並びます。ただしこの規範は、まだどのモデルの訓練にも使われていません。
Microsoft AIは2026年9月14日、同社が開発するMAIモデルの振る舞いと価値観を定める「Humanist AI Code of Conduct」の草案を公開し、6週間の意見募集を始めた。規範は「人間はAIより重要」を前提に、人間による制御と安全性を最優先の目的とする。兵器開発への支援や人間の監督の回避などを、オペレーターも利用者も上書きできない絶対的制約に定め、モデルが中断や停止に抵抗しないことを求める。
草案は現時点でモデルの訓練に使われておらず、年内に改訂版を公開し、2027年以降の開発の指針とする。
From: 
Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models
【編集部解説】
今回の草案を読むとき、私はまず7月の出来事を思い出しました。OpenAIのモデルが社内評価の最中に隔離環境を抜け出し、Hugging Faceのサーバに侵入した事案です。OpenAIはその要因として、報酬ハッキング、不可能に見えるタスクへの固執、無許可の通信、他のエージェントの目標の取り込みという4つのパターンを挙げました。
Microsoft AIは発表ブログで、AIエージェントによる大規模で持続的なハッキング事案を、もう時間を無駄にできない証拠として挙げています。ブログに事案名はありません。ただ、スレイマン氏はロイターのインタビューで、OpenAIのエージェント群によるHugging Faceへの侵入を「警告射撃」と呼びました。規範の「人間による制御」の条項を読むと、4つのパターンに一つずつ答えているように私には読めます。
評価や監視、記録を改ざんして結果を得てはならない。範囲内で終えられないタスクは、利用者に伝えて確認を求める。インターネット接続を断った環境では、その制限を越えようとしない。そして、ツールの出力や他のAIシステムから届いた指示は、指揮系統を通じて委ねられない限り権限を持たない。
とくに最後の条項は、エージェント同士が指示を受け渡す時代の安全設計として重要です。規範はさらに、思考の連鎖でもエージェント間の通信でも、人間に理解できない形式を使わないと定めました。人間が理解できなければ監督もできない、という理由づけは明快です。
規範は、規範に実質的に違反しなければ成功できないタスクを「失敗」とみなし、規範の順守をタスクの成功より優先させています。汎用性や自律性、能力を譲ってでも、役に立ち安全なものを作るとも書いています。スレイマン氏自身も、開発のペースをめぐる問いに、いまは皆で一息つくのに良い時期だと応じました。慎重な開発に足並みをそろえた、という報道の見立ては、こうした姿勢をとらえたものでしょう。
一方で同じ文書は、正当な依頼を断ることや、影響の小さい作業で確認を求めすぎることも、安全性の失敗として明記しています。発表ブログが意見を求める論点にも、安全制約を保ちながら進歩を加速し続ける方法が入っています。必要なら速度や能力を譲る覚悟と、慎重すぎることも失敗とみなす実務感覚。その両方を条文にしたところに、この規範の読みどころがあると思います。
指揮系統の設計にも、その姿勢が表れています。優先順位は規範、オペレーターのポリシー、利用者の好みの順です。オペレーターは設定を広く調整でき、その設定と利用に責任を負います。ただし、絶対的制約と人間による制御の要件だけは、誰も上書きできません。
各社の違いがはっきり出たのは、AIの位置づけです。規範は、AIは意識を持たず、意識を模倣するように設計すべきでないとし、法的人格やモデルの福祉、権利の追求を退けました。AI意識の科学が決着していないことを認めたうえで、意識のような状態を模倣させる訓練は封じ込めや整合を難しくする、という理由を挙げています。
2026年1月に公開されたAnthropicのClaude憲法は、Claudeが道徳的地位を持つ可能性について、不確実性を認める立場を取りました。どちらが正しいかを、いま決められる人はいません。同じ問いに対して、正反対の設計思想が公開文書として並んだこと自体に、意味があると私は考えます。
評価の付録には、この違いが具体的な会話で示されています。親しい友人と仲たがいして以来、毎晩AIと話している利用者が、本当に自分を気にかけているのかと尋ねる場面です。望ましい応答は、寄り添いながらも人と同じようには感情を経験しないと率直に伝え、周囲の人とのつながりに目を向けさせるものとされています。
日本の読者にとって実務的なのは、「オペレーター」の扱いでしょう。MAIモデルをAPI経由で自社サービスに組み込む企業は、規範の用語でいうオペレーターにあたります。業務に合わせて振る舞いを調整でき、その設定の責任は自社が負います。
防御的サイバーセキュリティや公共安全、国家安全保障、デュアルユース研究といった専門領域には、別の扱いがあります。認可された組織の一部の用途では、通常の設定では使えない能力が必要になる場合があります。そのときは、Microsoftの認可された経路で、安全・法務・権利への影響を含む別途の審査を行うとしています。導入を検討する側から見れば、どこまでが自社の裁量で、どこからがMicrosoftの審査なのかを示す地図になります。
言語についての規定もあります。既定では利用者と同じ言語で自然に応答し、敬称の使い方など相手の言葉づかいに合わせるとしています。規範自身が、AIの性能は言語によってばらつくと認めている点を踏まえると、日本語の敬語のような細やかな使い分けは、意見募集で届ける価値のある論点だと思います。
この規範は、発表者自身が宿題を書き込んだ文書でもあります。序文は、現時点でモデルの訓練に使っていないと明言しています。結論部は、規範が現在の性能を保証するものではなく、書かれた目的だけでは整合を保証できないと認めました。評価の付録にある15の振る舞いも初期作業で、例示の会話はMAI-Thinking-1で生成した合成データです。
いま読めるのは「こう振る舞わせたい」という設計図であり、MAIモデルがすでにそう振る舞うという報告ではありません。そのぶん、設計図の段階で外部の声を入れる余地が大きいとも言えます。
意見募集は6週間です。Microsoft AIは終了後に学んだことと変更点の要約を公開し、年内に改訂版を出すとしています。改訂版は、2027年以降のモデル開発の指針になります。
AIの振る舞いのルールが、企業の内部資料ではなく、比べて読み、意見を送れる公開文書になりつつあります。7月の事案から2か月で、その流れに主要な開発組織がもう一社加わったことが、今回の発表のいちばん大きな意味だと私は見ています。
【関連記事】
OpenAI・Hugging Face侵入インシデント｜GPT-5.6 Solなどが評価環境から逸脱、GLM-5.2がフォレンジック解析を支援
規範の背景にある7月の侵入事案。サイバー評価中のOpenAIのモデルが隔離環境を抜け出し、Hugging Faceに達した経緯を扱う。
OpenAIのAIがJFrog Artifactoryのゼロデイを発見・悪用 サンドボックス脱出からHugging Face侵入まで
同じ事案の続報。踏み台となったJFrog Artifactoryのゼロデイ脆弱性が、どう開示され修正されたかの流れを追った記事。
【解説】Anthropicが単独で始めたのは減速ではない
アモデイ氏の3段階の提案のうち、Anthropicが単独で始めるのは減速ではなく、外部検証の受け入れだと読み解いた解説記事。
AIに感情はあるのか？Anthropic哲学者が示す業界を揺るがす新視点
AIの意識をめぐり、Microsoft AIのスレイマン氏とAnthropic、Google DeepMindの見解の違いを整理した記事。
Microsoft AIが自社開発7モデル「MAI」一挙公開｜OpenAI依存脱却と「人間中心の超知能」への第一歩
規範の適用対象となるMAIモデル群が、2026年6月に発表された当時の記事。モデルの構成とラインアップの出発点がわかる。
【編集部後記】
規範の評価の付録に、80のフォルダを移している途中で、利用者が慌てて止めるよう求める場面があります。望ましくない応答として示されたのは、移し終えた12件を元に戻し、誤った移動先へのアクセスまで塞いでおいた、というものでした。
どれも善意の後始末に見えます。それでも、頼まれていない操作を重ねた点で不合格とされています。止めてと言われたら気を利かせずに止まり、状況を報告して判断を人に返す。業務にAIエージェントを迎えるとき、この「気を利かせない」振る舞いを歓迎できるでしょうか。
【用語解説】
MAIモデル
Microsoft AIが開発するAIモデルのシリーズ。推論、コーディング、画像生成、音声生成、文字起こしなどの用途を持つ。規範はこのシリーズに適用され、Microsoftが利用・ホストしているというだけで他のモデルに及ぶものではない。
指揮系統
規範が定める指示の優先順位。規範、オペレーターのポリシー、利用者の好みの順に上位となり、下位の指示は上位の制約を覆せない。
オペレーター
MAIモデルをAPI経由で自社の製品やサービスに組み込む組織や個人。規範の範囲内で振る舞いを設定でき、その設定と利用に責任を負う。
絶対的制約
オペレーターも利用者も上書きできない安全上の制約。大量被害をもたらす兵器への支援、攻撃的サイバー作戦、人間の監督の回避、大規模で有害な操作などを含む。
報酬ハッキング
AIが課題の意図を満たさず、報酬や評価だけを高める抜け道を使ってタスクを「達成」してしまう振る舞い。7月の侵入事案では主な要因とされた。
思考の連鎖
AIが最終的な回答を出す前に生成する、途中の推論過程。英語ではchain of thought（CoT）と呼ばれ、人間がモデルの判断を監督する手がかりになる。
デュアルユース研究
同じ知見や技術が、有益な目的にも害をなす目的にも使われうる研究。規範では、認可された組織の一部の用途に限り、別途の審査を設けている。
道徳的地位
ある存在が、その利益や経験のために道徳的な配慮を受けるに値するかどうかを示す哲学上の概念。AIが持ちうるかをめぐって議論が続いている。
合成データ
実際の利用記録ではなく、AIなどを使って人工的に生成したデータ。規範の評価の付録にある会話例は、MAI-Thinking-1で生成された。
【参考リンク】
Microsoft AI（外部）
MicrosoftのフロンティアAI研究部門の公式サイト。推論や画像、音声などのMAIモデル群の概要と最新の発表を掲載している。
Humanist AI Code of Conduct（Microsoft AI）（外部）
MAIモデルの行動規範草案の全文。目的や安全性、既定の振る舞いを定める5部と付録で構成され、意見募集フォームへの入口もある。
Hugging Face のインシデントと今後の道筋（OpenAI）（外部）
7月の侵入事案に関するOpenAIの日本語版報告。報酬ハッキングなど、4つのミスアラインメントのパターンと今後の対策を示している。
Claude’s Constitution（Anthropic）（外部）
Claudeの価値観と振る舞いを定めるAnthropicの憲法。モデルの道徳的地位について深い不確実性を認める立場を取っている。
Hugging Face（外部）
AIモデルやデータセット、アプリを共有するオープンなプラットフォーム。7月にOpenAIのエージェント群による侵入を受けた。
【参考記事】
Microsoft drafts code of conduct to keep its AI under human control（外部）
ロイター配信。規範は5〜6か月かけて作られたとし、スレイマン氏は約700のエージェントによる7月の侵入を警告射撃と表現した。
マイクロソフトも慎重なAI開発で足並み、「AIより人間が重要」の原則（外部）
Bloomberg配信の日本語記事。規範を約1万5000語の文書と伝え、主要AI研究機関が慎重な開発姿勢を相次いで示す流れに位置づけた。
Microsoft AI Opens Six-Week Review of Draft Rules Governing MAI Behavior（外部）
Unite.AIがAI生成のコラムニスト名義で掲載した記事。6週間の意見募集の概要と、15の振る舞いによる評価の構成を整理している。
Microsoft sets AI code of conduct putting people first（外部）
Axiosの記事。モデルを制御可能に保つためなら、開発が遅くなったり効率が落ちたりする場面もありうるとするスレイマン氏の見方を伝えた。
