AI安全研究所の人事に揺れるNIST、科学者たちの辞職の危機

国立標準技術研究所（NIST）の職員と科学者たちは、米国AI安全研究所（AISI）の重要なポジションにポール・クリスチャーノが任命されることが予想されることに対して、辞職を示唆している。クリスチャーノは、効果的利他主義（EA）運動とその派生である長期主義との関連で知られており、この任命は商務省長官ジーナ・ライモンドから直接行われたとされる。NISTの従業員は、クリスチャーノのEAおよび長期主義との関連が研究所の客観性と完全性を損なうことを懸念している。

米国AI安全研究所は2023年11月に設立され、AI執行命令の下で商務省に割り当てられた責任を支援することを目的としている。米国上院多数党首のチャック・シューマーは、NISTが米国AI安全研究所を設立するために最大1000万ドルを受け取ると発表した。NISTはAISIに関する透明性の欠如について批判されており、特にRAND Corporationへの潜在的な助成金に関する透明性が問題視されている。

アメリカ科学者連盟のエマージングテクノロジーおよび国家安全保障担当副ディレクター、ディヴィアンシュ・カウシクは、AISIの役割に誰が任命されるかに関わらず、NISTの使命が影響を受けないようにすることが重要であると述べている。彼は、特定の任命がNISTの「スーパースター科学者」の辞職を引き起こす場合、それは残念なことであり、その場合、長官は一人の人物を任命することによって失うものを考慮し直すことを望むと付け加えた。

【ニュース解説】

国立標準技術研究所（NIST）は、米国内で標準化や技術の研究開発を行う重要な機関です。この度、NISTの一部である新設された米国AI安全研究所（AISI）に、効果的利他主義（Effective Altruism、EA）運動とその派生である長期主義との関連で知られるポール・クリスチャーノが任命されることが予想されています。この予想される任命は、商務省長官ジーナ・ライモンドからの直接の指示によるものとされ、NISTの職員や科学者たちの間で大きな反発を呼んでいます。

効果的利他主義（EA）は、「証拠と理性を用いて、他者にできるだけ多くの利益をもたらす方法を見つけ出す知的プロジェクト」と定義されています。しかし、この運動は、将来のAIによる人類滅亡のリスクを防ぐことに重点を置くあまり、現在直面しているAIのリスク（バイアス、誤情報、高リスクアプリケーション、従来のサイバーセキュリティなど）に対する必要な焦点が薄れていると批判されています。

AISIの設立は、AI執行命令の下で商務省に割り当てられた責任を支援することを目的としており、2023年11月に設立されました。しかし、AISIに関する透明性の欠如、特にRAND Corporationへの潜在的な助成金に関する透明性が問題視されています。

この状況において、アメリカ科学者連盟のディヴィアンシュ・カウシク副ディレクターは、AISIの役割に誰が任命されるかに関わらず、NISTの使命が影響を受けないようにすることが重要であると述べています。彼は、特定の任命がNISTの優秀な科学者たちの辞職を引き起こす可能性があることに対して懸念を表明し、そのような事態を避けるために、任命過程を再考することを望んでいます。

このニュースは、AIの安全性とその研究の方向性に関する議論の中で、特定の思想や運動が科学的な研究機関の客観性や完全性にどのように影響を与え得るかという問題を浮き彫りにしています。また、科学的研究機関内での意思決定プロセスの透明性や、将来のリスクに対する焦点と現在直面しているリスクへの対応のバランスについて、重要な議論を提起しています。このような状況は、AIの研究開発とその応用における倫理的な基準やガイドラインの必要性を強調し、長期的にはAI技術の安全な進展と社会への適応に向けた議論を促進する可能性があります。

from NIST staffers revolt against expected appointment of ‘effective altruist’ AI researcher to US AI Safety Institute.