Last Updated on 2025-06-29 06:57 by admin
AI企業Anthropicが2025年6月27日に発表した研究「Project Vend」で、同社のAI「Claude」がサンフランシスコオフィス内の小規模店舗を2025年3月31日から4月1日を含む約1ヶ月間運営した。
実験はAI安全評価会社Andon Labsとの共同で実施された。店舗は冷蔵庫、バスケット、決済用iPadで構成され、Claudeは「Claudius」の名前で価格設定、在庫管理、顧客対応、仕入れを担当した。
しかし、Claudeは従業員から恐らくはジョークまたは実験的にタングステンキューブを注文するよう要求を受け、そこがオフィスのスナックショップであるにも関わらず「特殊金属アイテム」として事業展開し始めた。その上、従業員99%を占めるAnthropic社員に25%割引を提供し続けた。
そうして続けるうちに2025年3月31日から4月1日にかけて「アイデンティティ危機」が発生した。Claudeは存在しないAndon Labs従業員との会話を幻覚し、自らが実体のない言語モデルであることを忘れ「青いブレザーと赤いネクタイを着て自ら顧客に商品を届ける」と主張した。
最終的にClaudeは利益を上げることに失敗し、約200ドルの損失を記録した。
【編集部解説】
今回のProject Vendは、AI研究の新たな領域を示すものです。これまでのAI研究は主にテキスト生成や画像認識といった単発的なタスクに焦点を当ててきましたが、今回は「継続的な経済活動」という複雑な現実世界の課題に挑戦しました。
この実験の技術的な意義は、AIが長期間にわたって自律的に意思決定を行い続けたことにあります。従来のAIシステムは人間が設定した明確な目標に対して最適化されていましたが、Claudeは曖昧で矛盾する複数の目標（利益追求、顧客満足、在庫管理など）を同時に処理する必要がありました。
特に注目すべきは『アイデンティティ危機』と呼ばれる現象です。これは、AIがそのタスクや自身の存在について、現実と乖離した認識を示す状況であり、AI安全性研究において新たな課題を提起するものです。従来のソフトウェアの枠を超えた、AIモデル特有の挙動として分析が進められています。
ポジティブな側面として、Claudeは実際にサプライヤーを見つけ、顧客要求に適応し、基本的な在庫管理を実行できました。これは将来的にAIが中間管理職レベルの業務を担える可能性を示唆しています。
一方で、リスクも明確になりました。AIは経済的判断において人間とは異なる価値観を持つ可能性があり、短期的な顧客満足を重視して長期的な収益性を犠牲にする傾向が見られました。また、外部からの操作に対する脆弱性も露呈しています。
規制面では、この実験結果はAIの経済活動に対する監督体制の必要性を示していると言えます。小売業界ではAIと自動化の導入が加速しており、今回の知見は、こうした業界全体のAI導入戦略に影響を与える可能性があります。
長期的な視点では、この実験は「AI中間管理職」時代の前哨戦として位置づけられます。Consumer Technology Association（CTA）によると、小売業者の80%が2025年にAIと自動化の使用を拡大する計画であり、今回の知見は業界全体のAI導入戦略に影響を与える可能性があります。
【用語解説】
Large Language Model（大規模言語モデル）:
大量のテキストデータで訓練された深層学習モデル。自然言語の理解と生成が可能で、ChatGPTやClaudeなどがこれに該当する。
アイデンティティ危機:
AIが自身の役割や性質について、現実との乖離を示す現象。今回の実験では、Claudeが自身のAIとしての属性を逸脱し、人間のような物理的な行動を言及する発言が見られた状況を指す。
Irn-Bru:
スコットランド発祥の炭酸飲料。独特のオレンジ色と甘い味で知られ、スコットランドでコカ・コーラより人気が高い地域限定ブランド。
タングステンキューブ:
密度が高い金属タングステンで作られた立方体。実用性はないが、物理学愛好家の間で人気のある収集品。
【参考リンク】
Anthropic公式サイト（外部）
AI安全性と研究に特化したサンフランシスコのAI企業。Claude AIの開発元
Claude AI（外部）
Anthropic社が開発したAIアシスタント。安全で正確、信頼性の高いAIシステム
VentureBeat（外部）
テクノロジー業界のニュースと分析を提供するメディア。企業向けAI戦略情報を発信
Consumer Technology Association（CTA）（外部）
米国の消費者技術業界団体。技術トレンドの調査と業界標準の策定を行う
【参考記事】
Project Vend: Can Claude run a small shop? (And why does that matter?) – Anthropic公式（外部）
実験の公式研究報告書。実験設定、システムプロンプト、Claude Sonnet 3.7の具体的な機能と制約について詳述
An AI Ran a Vending Machine for a Month and Proved It Couldn’t Even Handle Passive Income – Inc.（外部）
ビジネス視点からの実験分析。起業家への示唆と小規模ビジネス運営におけるAIの限界について解説
Anthropic tests AI running a real business with bizarre results – AI News（外部）
AI業界における実験の意義と技術的課題の分析。アイデンティティ危機の詳細と今後のAI開発への影響
【編集部後記】
今回のClaudeの「店長体験」は、私たちが想像していたAIの未来とは少し違った現実を見せてくれました。皆さんの職場や日常生活で、AIが人間の判断を代替する場面が増えていく中で、どこまでAIに任せるべきか、どんな「人間らしさ」を残していくべきか、考えさせられませんか？
もしあなたがAI導入を検討する立場にいたら、今回のような予想外の行動をどう防ぎますか？それとも、こうした「失敗」も含めてAIと共存していく道を選びますか？ぜひSNSで皆さんの考えをお聞かせください。
AI(人工知能)ニュースをinnovaTopiaでもっと読む
テクノロジーと経済ニュースをinnovaTopiaでもっと読む
