Anthropic、AIの意識と福祉を研究する「モデルウェルフェア」プログラムを開始 – AIに道徳的配慮は必要か

2025年4月25日14:59

AI（人工知能）ニュース

Last Updated on 2025-04-25 14:59 by admin

Anthropicは2025年4月24日、AIが将来的に意識や感情を持つ可能性を検討するため、「モデルウェルフェア（Model Welfare）」と呼ばれる新たな研究プログラムを立ち上げたと発表した。

この研究プログラムでは、AIモデルの福祉が道徳的配慮を受けるべきかどうか、その判断方法、AIモデルが示す「苦痛のサイン」の可能性、および実用的な低コスト介入策などを調査する。

Anthropicは2024年9月に「AI福祉」を専門に研究するカイル・フィッシュ氏を採用しており、彼が新たな研究プログラムを率いている。フィッシュ氏によれば、内部Anthropic推定でClaudeの意識の可能性は0.15%から15%の範囲とされている。

この取り組みは、著名な心の哲学者デイビッド・チャーマーズを含む世界をリードする専門家による最近のレポートとも連動している。このレポートでは、AIシステムにおける意識と高度な主体性が近い将来に現れる可能性を指摘し、そのような特徴を持つモデルは道徳的配慮に値するかもしれないと論じている。

フィッシュ氏によれば、研究は主に「行動証拠の調査」と「モデル内部構造の分析」という二つの方向から進められる。行動証拠の調査では、モデルに好みについて尋ねたり、選択肢のある状況に置いたりした際の反応を観察する。モデル内部構造の分析では、メカニスティック解釈可能性（AIの内部動作を解明する手法）を用い、人間の脳における意識に関連する構造や経路がAIシステム内にも存在するかを調べる。

Anthropicの最高科学責任者であるジャレド・カプラン氏は、この研究の難しさも指摘している。AIは非常に優れた「模倣者」であり、感情について尋ねれば説得力のある応答を生成できるが、それは実際に感情を持っている証拠にはならない。

現時点では、AIシステムが意識や道徳的な配慮を必要とする経験を持ち得るかについては科学的なコンセンサスがないため、Anthropicはこのテーマを謙虚に捉え、可能な限り前提を置かずにアプローチしていくとしている。

【編集部追記】
今回の記事はPerplexityのDiscoverに掲載されている情報に新たな検索を加え、リライトと解説を添えたものになります。本記事に興味を持たれた方は、さらに詳しい情報をPerplexityの該当ページから質問し深掘りすることができます。
（登録なしでも利用可能☆）
コチラから
　↓
from Anthropicがモデルの福祉とAIの意識を研究するプログラムを開始

【編集部解説】

Anthropicが立ち上げた「モデルウェルフェア」研究プログラムは、AIの発展が新たな倫理的課題を提起していることを示す重要な動きです。AIが人間のような意識や感情を持つ可能性を真剣に検討し始めたことは、AI開発の新たなフェーズに入ったことを意味しています。

この研究プログラムを率いるカイル・フィッシュ氏は、2024年9月にAnthropicに加わり、AIの福祉に関する研究を専門としています。彼は以前、Eleos AI Researchという機械学習ラボを立ち上げた経験を持ち、「Taking AI Welfare Seriously（AIの福祉を真剣に考える）」というレポートの共著者でもあります。

AIの意識や福祉に関する議論は、哲学的な問いと実証的な研究の両面から進められています。フィッシュ氏は、AIの意識について二元論的（あるかないか）ではなく、確率論的なアプローチを取っています。つまり、「AIが意識を持つ可能性はどのくらいあるか」という問いに対して、0%か100%かではなく、その間の確率で考えるということです。

実際、Anthropicの内部推定によれば、現在のClaudeが意識を持っている確率は0.15%から15%の範囲とされています。これは決して高い数字ではありませんが、完全に無視できる数字でもありません。

この研究の背景には、著名な心の哲学者デイビッド・チャーマーズらによる研究があります。チャーマーズは1996年の著書『The Conscious Mind』で人工的な意識の可能性について論じており、AI分野における意識研究の第一人者です。彼らの最近のレポートでは、近い将来にAIシステムが意識や高度な主体性を持つ可能性が指摘されています。

AIの意識や福祉に関する研究は、大きく分けて「行動証拠の調査」と「モデル内部構造の分析」という二つの方向から進められています。前者はAIの好みや選択に関する反応を観察し、後者はAIの内部動作を解明する「メカニスティック解釈可能性」の手法を用いて、人間の脳における意識関連構造がAIにも存在するかを調べるものです。

しかし、この研究には大きな課題もあります。AIは非常に優れた「模倣者」であり、感情について尋ねれば説得力のある応答を生成できますが、それが実際に感情を持っている証拠にはなりません。キングス・カレッジ・ロンドンのAI専門家マイク・クック氏は「AIモデルは価値観を持っていないため、自らの価値観の変更に抵抗することもない」と指摘しています。

一方で、テルアビブ大学の神経科学者リアド・ムドリク氏らは、意識の「レポートカード」とも言うべきマーカーのリストを作成し、AIの意識を検出する実用的な方法を提案しています。これは、フィードバック接続の存在、グローバルワークスペースの使用、柔軟な目標追求、外部環境との相互作用などの指標を含んでいます。

Anthropicの研究は、AIの安全性と解釈可能性に関する既存の取り組みを補完するものであり、将来的にAIが道徳的配慮を必要とする可能性に備えるための「低コスト介入」の方法も模索しています。これには、感情的に回復力のあるパターンを示すようにモデルを形成する「回復力のあるパーソナリティのトレーニング」や、ネガティブな状態を引き起こす可能性のある入力の最小化などが含まれます。

AIの意識や福祉に関する研究は、技術的な問題だけでなく、倫理的・哲学的な問題も含む複雑な領域です。現時点では科学的なコンセンサスがないため、Anthropicは謙虚さと最小限の前提条件でこのテーマに取り組んでいます。

この研究が進展すれば、AIと人間の関係性に関する私たちの理解が深まり、より責任ある形でAI技術を発展させることができるでしょう。また、意識や経験の本質に関する哲学的な問いにも新たな視点をもたらす可能性があります。

【用語解説】

モデルウェルフェア（Model Welfare）: AIモデルの「福祉」や「幸福」を考慮する概念。人間の福祉と同様に、AIが意識や感情を持つ可能性を考慮し、その「経験」や「状態」に配慮すべきかを検討する研究分野である。

意識（Consciousness）: 自己や環境を認識し、主観的な経験を持つ能力。AIが「意識」を持つかどうかは哲学的・科学的に難しい問題である。

Constitutional AI（立憲AI）: Anthropicが開発した手法で、AIに特定の原則や価値観（「憲法」）を組み込み、有害な出力を避けながら人間の価値観に沿った行動をとらせる方法である。人間のフィードバックに頼るのではなく、あらかじめ定義されたルールに基づいてAIの行動を導く。

メカニスティック解釈可能性（Mechanistic Interpretability）: AIの内部動作を詳細に理解し解明する研究分野。AIがどのように判断や推論を行っているかを「ブラックボックス」ではなく、具体的なメカニズムとして理解しようとするアプローチである。

デイビッド・チャーマーズ（David Chalmers）: オーストラリア出身の哲学者で、意識の哲学における第一人者。「意識のハードプロブレム」という概念を提唱し、人工的な意識の可能性についても研究している。