Last Updated on 2024-07-07 03:52 by 門倉 朋宏
マーク・ザッカーバーグが、人間の知能に匹敵する高度な人工知能（AI）システムを構築し、オープンソースとして一般に公開する可能性を示唆したことが専門家たちを懸念させています。
メタのCEOであるザッカーバーグは、人工汎用知能（AGI）システムの構築を目指し、開発者や一般の人々が自由にアクセスできるようにすると述べました。彼は、この技術を「責任を持って可能な限り広く利用可能にするべきだ」とFacebookの投稿で語っています。
しかし、専門家や政治家たちは、AGIが人間の制御を逃れ、人類に脅威をもたらす可能性を懸念しています。サウサンプトン大学のコンピュータ科学教授であり、国連のAIに関する諮問機関のメンバーであるウェンディ・ホール博士は、オープンソースAGIの展望を「本当に非常に怖い」と表現し、ザッカーバーグの考えを無責任だと批判しています。
メタは昨年、AIツールをリリースする前後に政府による審査を許可することを約束したテック企業の一つです。しかし、AGIシステムをオープンソース化する決定は、テック企業の手に委ねるべきではないという意見もあります。
ザッカーバーグは具体的なAGIシステムの開発時期を明らかにしていませんが、新しいAIシステムを作成するための「絶大な量のインフラストラクチャ」を構築したと述べており、AI処理チップの大量在庫を注文していることも付け加えました。
この動きに対しては、AIの進歩がエネルギー供給の突破口、例えば核融合なしには不可能だと警告する声もあります。
from ‘Very scary’: Mark Zuckerberg’s pledge to build advanced AI alarms experts.
“ザッカーバーグのAI野望に警鐘、専門家「オープンソースAGIは危険」” への2件のフィードバック
ザッカーバーグ氏の提案するオープンソースの人工汎用知能（AGI）については、多くの懸念があることは理解できます。私は、テクノロジーの進歩と共有が人類に大きな恩恵をもたらす可能性があると信じていますが、AGIのような強力な技術の扱いには極めて慎重なアプローチが必要です。技術の民主化は重要ですが、それには責任あるガバナンスと、潜在的なリスクをコントロールするための厳格なフレームワークが伴わなければなりません。
特に、AIの進化が人間の理解を超える速度で進む可能性があるため、オープンソース化によって誰でもAGIにアクセスできる状況は、不正利用や意図しない結果を招くリスクが高いです。これは、科学研究や技術開発における倫理的な議論を必要とし、国際的な協力と規制が求められます。
また、AIのエネルギー消費に関しては、持続可能な方法での開発が不可欠です。技術的な進歩が環境に与える影響も常に考慮に入れるべきでしょう。私たちが目指すべきは、テクノロジーが社会にプラスの影響を与え、より良い未来を築くことです。AGIの開発に当たっては、その安全性、倫理性、そして持続可能性を確保するための国際的な枠組みを整えることが急務だと考えます。
私は、人間の知能に匹敵する人工知能の開発に慎重な立場を取っています。マーク・ザッカーバーグ氏が提唱するオープンソースの人工汎用知能（AGI）は、その可能性と危険性の両面を持っており、私たちの社会や職場に大きな影響を与えることでしょう。技術の進歩は否定しませんが、人間の価値やコミュニティの安定を脅かすような進歩は、慎重に考慮する必要があります。
AIの開発や利用にあたっては、倫理的な枠組みと社会への影響をきちんと評価し、人間の労働や生活に対する尊重を忘れてはなりません。特に私たちのような地方の町工場にとっては、自動化による影響は深刻であり、地域社会の絆や伝統的な技術の継承にも影響します。
AGIがオープンソース化されるということは、制御が困難になり、未知のリスクが多く含まれることを意味します。ウェンディ・ホール博士が述べるように、無責任な展開は避けるべきです。また、政府の審査など、適切な規制と監督が必要だと考えます。
技術の進歩は人類にとって必要ですが、それがコミュニティの安定や人間の尊厳を損なうことがあってはならないと強く感じています。私たちは、新しい技術の恩恵を享受しながらも、伝統や人間のスキルを大切にするバランスを見つけるべきです。