OpenAI Soraアプリ、ペットやおもちゃをAIアバター化する新機能を追加―ディープフェイク懸念と商標問題が浮上

 - innovaTopia - (イノベトピア)

OpenAIは10月30日、Sora 2動画ジェネレーターに「キャラクターカメオ」機能を追加した。

この機能により、ペット、イラスト、おもちゃなど、ほぼあらゆる被写体をAI生成動画用の再利用可能なアバターに変換できる。

先週発表されたこの機能は、既存のAIディープフェイク動画作成機能を基盤としており、許可されたユーザー間で共有可能だ。各キャラクターには個人の肖像とは別に独自の権限が付与され、自分だけの保存、フォロワーとの共有、全体への公開から選択できる。

同時にSoraアプリには、複数の動画をつなぎ合わせるクリップスティッチング機能と、人気の動画やカメオを表示するリーダーボードも導入された。OpenAIは米国、カナダ、日本、韓国で期間限定で招待コードなしでの登録を可能にした。

このアップデートは、セレブリティ動画プラットフォームCameoがOpenAIを商標権侵害で訴えた翌日にリリースされた。

From: 文献リンクOpenAI’s Sora app can now turn almost anything into a reusable avatar for AI-generated videos

【編集部解説】

OpenAIがSoraアプリに追加した「キャラクターカメオ」機能は、AI動画生成の新たな局面を示すアップデートです。これまで人間の肖像のみに限定されていたカメオ機能を、ペット、おもちゃ、イラスト、オブジェクトなど非人間の被写体にも拡張したことで、ユーザーの創作の幅が大きく広がります。

この機能の実装タイミングは戦略的です。10月22日にSoraチーフのBill Peeblesが「数日以内に実装」と予告し、10月30日に正式リリースされました。しかし、その直前の10月29日にセレブリティ動画プラットフォームCameoがOpenAIを商標権侵害で提訴するという事態が発生しており、キャラクターカメオ機能はその翌日にロールアウトされたことになります。

Cameo社の訴訟は、OpenAIが自社の商標「Cameo」と同じ名称を使用したことに対するものです。Cameo社は2017年設立以来、有名人の本物の動画メッセージを販売するビジネスモデルを確立してきました。同社CEOのSteven Galanisは「消費者の混乱を招き、我々にとって存続に関わる問題だ」と述べています。OpenAI側は「cameoという単語を誰かが独占的に所有できるとは考えていない」と反論していますが、この法的係争は長期化する可能性があります。

キャラクターカメオ機能の技術的な側面に目を向けると、数秒の動画をアップロードするだけでキャラクターを作成でき、既存のSora生成動画も参照として使用できます。ユーザーは各キャラクターに名前、ハンドルネーム、指示、権限を設定し、自分だけで使用するか、承認した人、フォロワー、あるいは全員に公開するかを選択できます。この権限管理システムは、人間の肖像カメオと同様の仕組みです。

同時に追加されたクリップスティッチング機能は、複数の動画を結合して長尺のマルチシーンクリップを作成できる基本的な編集機能です。また、リーダーボード機能は、リミックスされた動画や人気のカメオを表示し、トレンドをリアルタイムで把握できるようにします。OpenAIは「この機能で多くのクレイジーなカメオが登録されることを期待している」と述べており、ユーザー生成コンテンツのバイラル化を意図していることが明らかです。

招待コードなしでのアクセス拡大も注目すべき動きです。期間限定ではありますが、米国、カナダに加えて日本と韓国でも招待コードなしで登録できるようになりました。さらに、タイ、台湾、ベトナムでもSoraアプリが利用可能になっています。9月30日のローンチ以降、Soraアプリは約200万ダウンロードを記録し、ChatGPTよりも速いペースで100万ダウンロードに到達しました。

しかし、Soraの急速な普及には深刻な懸念も伴います。ディープフェイク技術の悪用リスクです。OpenAIは複数の安全対策を実装しています。C2PA形式の透かし、動く目に見えるウォーターマーク、入力・出力フィルター、人間のモデレーター、報告ツールなどです。公人の生成は制限され、未成年者に関するコンテンツには厳格な制限が課されています。

それでもセキュリティ企業Reality Defenderは、ローンチ24時間以内にSoraのカメオ認証システムを突破し、CEOや有名人の説得力のあるディープフェイクを作成できたと報告しています。Martin Luther King Jr.やRobin Williamsなど故人のディープフェイク動画が拡散し、Bryan Cranstonなど存命の俳優の無断使用も発生しました。OpenAIは10月20日にSAG-AFTRAや大手タレントエージェンシーと協力してガードレールを強化すると発表しましたが、対策は後手に回っている印象です。

専門家は「Soraがディープフェイクに広報担当と配信契約を与えた」と指摘しています。AI生成動画は軽快な遊びとして再ブランド化され、ソーシャルメディアのアルゴリズムがそれを増幅しています。金融機関でのディープフェイク詐欺の試みは2,137%急増し、平均損失額は50万ドルに達しているとのデータもあります。

もう一つの重要な問題は著作権です。ユーザーは著作権で保護されたキャラクターを生成できることが報告されています。OpenAIは10月3日にオプトアウトポリシーを変更し、権利者により細かな制御を与えるようにしましたが、訓練データに何が含まれているかは明確に開示されていません。Motion Picture AssociationはOpenAIに「映画、番組、キャラクターの侵害を防止する」よう求めています。

Safe AI for Children Allianceは、Soraが子どもの肖像の悪用、セクストーション、評判攻撃などのリスクをもたらすと警告しています。同団体は「発売を優先し、後から修正する」というAI業界のパターンを批判し、より厳格な規制、プラットフォームの説明責任、発売前の安全性テストを求めています。

技術的観点から見ると、Sora 2は物理法則の理解において大きな進歩を遂げています。バスケットボールが外れた場合、以前のAIモデルではボールがフープに瞬間移動することがありましたが、Sora 2ではバックボードに跳ね返り、現実的な軌道で跳ねます。これは、モーメンタム、重力、物質特性といった物理法則を理解していることを示しています。

しかし、高品質な出力能力は諸刃の剣です。専門家は、安全対策のないSora類似アプリが登場するのは時間の問題だと警告しています。「規制のないバージョンが登場すれば、現在の検出をすり抜ける合成児童性的虐待素材の生成に使われる」「国家支援のアクターが偽のニュース番組やプロパガンダを捏造する」といった悪用シナリオが現実味を帯びています。

OpenAIのアプローチは、イノベーションを優先し責任を後回しにしているという批判もあります。生成AIプラットフォームは訓練チームに数十億ドルを投資する一方、信頼と安全への投資はその一部に過ぎず、後付けとして扱われています。強力な検出機能は収益を生まないため、脅威に先んじるための十分な資金を得られないのです。

EUのAI法はディープフェイク検出を義務付けており、他の国々も同様の措置を採用する可能性があります。Soraの同意ベースの肖像使用と明確なウォーターマークは、予想される規制への対応と見られます。しかし、AI動画の膨大な量が、一般市民の真実を識別する能力を圧倒する可能性があります。専門家は「嘘つきの配当」という概念を警告しています。ディープフェイクの拡散により、特に権力者が本物のコンテンツを捏造として否定できるようになるというものです。

OpenAIは、このアプリを「ドゥームスクローリング、依存、孤立、強化学習で最適化されたフィード」への懸念を念頭に置いて設計したと述べています。ユーザーに見るものをコントロールするツールを提供し、自然言語で指示できる新しいレコメンダーアルゴリズムを開発しました。デフォルトではフォローする人や交流する人のコンテンツを優先し、消費ではなく創作を最大化するよう設計されているとのことです。

今回のアップデートは、AI動画生成技術が研究段階から消費者向け製品へと移行する歴史的転換点を示しています。Soraは単なるツールではなく、TikTokやInstagram Reelsのようなソーシャルプラットフォームとして位置づけられています。創造性の民主化という側面がある一方、デジタルメディアへの信頼を根本から揺るがす可能性も秘めています。

【用語解説】

Sora 2
OpenAIが2025年9月30日にリリースした第2世代のAI動画生成モデル。テキストプロンプトから最大10秒程度の動画を生成でき、音声、効果音、音楽も同期して生成する。物理法則の理解が大幅に向上し、より現実的な動画を生成できる。

ディープフェイク
AIを使用して人物の顔や声を合成・置換した動画や音声のこと。本人の許可なく作成される場合、肖像権侵害や詐欺、名誉毀損などの問題を引き起こす可能性がある。

C2PA
Content Authenticity Initiativeによって開発された、デジタルコンテンツの出所と真正性を証明するための技術標準。メタデータを使用してコンテンツの作成者や編集履歴を追跡可能にする。

SAG-AFTRA(Screen Actors Guild-American Federation of Television and Radio Artists)
米国の俳優や放送関係者の労働組合。約16万人の会員を擁し、俳優の権利保護やAI技術による肖像の無断使用への対策を行っている。

オプトアウト/オプトイン
オプトアウトは、デフォルトで参加状態にあり、ユーザーが明示的に拒否する方式。オプトインは、ユーザーが明示的に同意した場合のみ参加する方式。AI訓練におけるデータ使用の文脈で重要な概念である。

ウォーターマーク
動画や画像に埋め込まれる識別情報。目に見える形式と、見えない形式(メタデータ)がある。AI生成コンテンツの識別や追跡に使用される。

【参考リンク】

OpenAI – Sora 2公式ページ(外部)
OpenAIによるSora 2の公式発表ページ。機能説明、安全対策、カメオ機能の詳細が掲載されている

OpenAI Help Center – カメオ機能ガイド(外部)
カメオ機能の使用方法、プライバシー設定、撮影のベストプラクティスが解説されている

Cameo公式サイト(外部)
2017年設立のセレブリティ動画メッセージプラットフォーム。有名人による本物のパーソナライズ動画を提供

SAG-AFTRA公式サイト(外部)
米国の俳優・放送関係者の労働組合。AI技術による肖像権保護に積極的に取り組んでいる

Coalition for Content Provenance and Authenticity(外部)
デジタルコンテンツの出所認証のための業界標準C2PAを開発している団体

【参考記事】

Sora Gets Character Cameos, Invite-Free Access, And Expands To New Markets – BGR(外部)
キャラクターカメオ機能の詳細と招待コードなしアクセスの拡大について報じた記事

Sora update to bring AI videos of your pets, new social features – TechCrunch(外部)
ペットや物体のカメオ機能、ソーシャル機能強化、Android版について詳しく解説

Cameo sues OpenAI for trademark infringement – Chicago Tribune(外部)
Cameo社がOpenAIを商標権侵害で提訴した詳細な背景と法的争点について報道

Sora gives deepfakes ‘a publicist and a distribution deal’ – NPR(外部)
Soraがディープフェイクを軽い遊びとして再ブランド化した影響について専門家が警告

Reality Defender Bypasses Sora 2 Security Measures(外部)
セキュリティ企業がSora 2の認証システムを突破しディープフェイク作成に成功した検証結果

OpenAI cracks down on Sora 2 deepfakes after pressure – CNBC(外部)
Bryan CranstonやSAG-AFTRAからの圧力を受けたOpenAIのディープフェイク対策強化

OpenAI’s AI video app stirs copyright questions – NBC News(外部)
Sora 2が著作権保護キャラクターを生成し著作権問題を引き起こす状況

【編集部後記】

AI動画生成技術は、私たちが「本物」をどう判断するかという根本的な問いを投げかけています。ペットや思い出の品をAIアバターとして永続化できる未来は、創造性の解放でもあり、真実性の喪失でもあります。みなさんのSNSフィードには、すでにSora生成動画が混ざっているかもしれません。この技術を使う側、見る側として、私たちはどんな倫理観を持つべきでしょうか。法規制が追いつかない中、技術は加速し続けます。innovaTopia編集部も、この問題について読者のみなさんと一緒に考え続けたいと思っています。ぜひご意見やお考えをお聞かせください。

投稿者アバター
Satsuki
テクノロジーと民主主義、自由、人権の交差点で記事を執筆しています。 データドリブンな分析が信条。具体的な数字と事実で、技術の影響を可視化します。 しかし、データだけでは語りません。技術開発者の倫理的ジレンマ、被害者の痛み、政策決定者の責任——それぞれの立場への想像力を持ちながら、常に「人間の尊厳」を軸に据えて執筆しています。 日々勉強中です。謙虚に学び続けながら、皆さんと一緒に、テクノロジーと人間の共進化の道を探っていきたいと思います。

読み込み中…
advertisements
読み込み中…