Microsoftは、Windows 11ユーザーがPC上の過去の活動を検索し取得できるようにするAI機能「Recall」をCopilot+ PC向けに開発している。この機能は、アプリ内の活動、ライブミーティングでのコミュニケーション、研究のために訪れたウェブサイトなど、ユーザーがPC上で行うすべてを記録する。暗号化とローカルストレージにもかかわらず、この新機能は特定のWindowsユーザーの間でプライバシーに関する懸念を引き起こしている。
個人用デジタルアシスタントの一つの約束として、ジェネレーティブAIが挙げられる。これは、他者との代理人として、またユーザーに対しては執事として機能する。これには、検索エンジン、メールプロバイダー、クラウドストレージシステム、または電話よりも大きな親密さが求められる。ユーザーは、24時間365日、自分が行うすべてのことに基づいて常にトレーニングされるようにそれを望むだろう。
最も効果的にユーザーの代わりに働くために、ユーザーに関するすべてを知っている必要がある。そして、それは多くの方法でユーザーを助けるだろう。気分を察知し、何を提案すべきかを知る。ニーズを予測し、それらを満たすために働く。セラピスト、ライフコーチ、関係カウンセラーとなる。ユーザーはそれを友人として考えることになるだろう。自然言語で話しかけ、それは同様に応答する。ロボットであれば、人間のように、少なくとも動物のように見えるだろう。それは他の人がそうするように、ユーザーの存在全体と対話する。
しかし、これらのAIがどのように訓練されているか、秘密の指示が何か、偶発的または意図的な偏見があるかはわからない。これらは主に秘密裏に、自社の利益のために、莫大な費用をかけて利益を最大化する企業によって構築されている。監視資本主義のインセンティブは抵抗するにはあまりにも強力である。これらの企業のAIに対抗するためには、何らかの公共のAIが必要になるだろう。
【参考リンク】
Microsoftオフィシャルサイト（外部）
【関連記事】
【ニュース解説】
Microsoftが開発中の「Recall」という新しいAI機能は、Windows 11ユーザーが自分のPC上で行った過去の活動を検索し、取得できるようにするものです。この機能は、アプリケーション内での活動、ライブミーティングでのコミュニケーション、研究目的で訪れたウェブサイトなど、ユーザーがPC上で行うあらゆることを記録します。この記録は暗号化され、ローカルに保存されるものの、プライバシーに関する懸念を引き起こしています。
ジェネレーティブAIによる個人用デジタルアシスタントの開発は、ユーザーのニーズを予測し、満たすことを目的としています。これには、ユーザーの気分を察知し、適切な提案をする能力や、セラピストやライフコーチとしての役割を果たすことが含まれます。ユーザーはこれらのAIを友人のように考え、自然言語でのコミュニケーションを期待します。しかし、これらのAIがどのように訓練されているか、その偏見や秘密の指示については明らかにされていません。
このようなAIの開発は、主に利益を最大化することを目的とした企業によって秘密裏に行われています。監視資本主義のインセンティブは強力であり、これらの企業が提供するAIに対する信頼性や透明性に疑問が投げかけられています。そのため、企業のAIに対抗し、ユーザーの信頼を得るためには、公共のAIの開発が必要とされています。
この技術のポジティブな側面としては、ユーザーの生活を大幅に便利にする可能性があります。例えば、日々のスケジュールの管理、健康管理、学習支援など、個人のニーズに合わせたサポートが可能になります。一方で、潜在的なリスクとしては、プライバシーの侵害やデータの不正利用が挙げられます。また、AIの偏見による不公平な扱いや決定の歪みも懸念されます。
規制に与える影響としては、AI技術の発展に伴い、データ保護やプライバシーに関する法律の強化が求められるでしょう。また、AIの訓練方法や使用されるデータの透明性を確保するための規制も必要になります。将来への影響としては、AI技術の進化が人間の生活を根本から変える可能性がありますが、その過程で生じる倫理的、社会的な問題に対処することが重要です。長期的な視点では、信頼できるAIの開発と適切な規制の確立が、技術の健全な発展と社会へのポジティブな影響を確保する鍵となります。
