Anthropic CEO、AI企業は国防総省の要求を「良心に基づいて」受け入れることはできないと語る

アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は木曜日、人工知能企業はその技術のより広範な使用を許可するという国防総省の要求に「良心的に応じることはできない」と述べた。

AIチャットボットの開発者であるクロード氏は声明で、交渉から手を引いているわけではないとしながらも、国防総省から受け取った新たな契約文言は「米国人の大量監視や完全自律型兵器へのクロードの使用を阻止する点で事実上何の進展もなかった」と述べた。

国防総省の最高報道官は、軍はアンスロピック社の人工知能技術を合法的な方法で使用したいと考えており、金曜日の要求同意期限を前に同社にいかなる制限も課すつもりはないと繰り返した。

ショーン・パーネル氏は木曜日、ソーシャルメディアで、国防総省は「AIを利用してアメリカ国民の大規模監視を行うことに興味はなく（これは違法である）、人間の関与なしに作動する自律型兵器を開発するためにAIを利用することも望んでいない」と述べた。

Anthropic のポリシーは、チャットボットの Claude などのモデルがそれらの目的で使用されることを禁止しています。同業者の中で最後の企業であり、国防総省はGoogle、OpenAI、イーロン・マスク氏のxAIとも契約を結んでいるが、その技術を新たな米軍内部ネットワークに提供しないというものだ。

パーネル氏は、国防総省が「あらゆる合法的な目的でアンスロピックのモデルを使用」したいと述べたが、その内容については詳細を明らかにしなかった。同氏は、この技術の使用を開放することで同社が「重要な軍事作戦を危険にさらす」ことを防ぐことができると述べた。

「私たちは、いかなる企業にも経営上の決定を下す方法に関する条件を指図させない」と同氏は述べた。

ピート・ヘグセス国防長官とアモデイ氏との火曜日の会談で、軍当局者らは、アンスロピック社が承認しない場合でも、アンスロピック社との契約を解除したり、同社をサプライチェーンリスクに指定したり、あるいは国防生産法と呼ばれる冷戦時代の法律を発動して軍に同社製品を使用するためのより広範な権限を与える可能性があると警告した。

アモデイ氏は木曜日、「後者の2つの脅威は本質的に矛盾している。1つは我々を安全保障上のリスクとみなすが、もう1つはクロードを国家安全保障にとって不可欠なものとみなす」と述べた。

パーネル氏はXに関する木曜日の投稿で国防生産法の使用の脅しを省略し、アンスロピック社は「金曜日の東部時間午後5時1分までに決定する」と述べた。

「そうでなければ、アンスロピックとの提携を終了し、サプライチェーンのリスクとみなします」と同氏は書いた。

今週激化した協議は数カ月前に始まった。アモデイ氏は、「アンスロピック社の技術が我が国軍にもたらす多大な価値を考慮すると、彼らが再考することを望む」と述べた。しかし、そうでない場合でも、Anthropic は「別のプロバイダーへのスムーズな移行を可能にするよう努める」と同氏は述べた。

再選を目指していないノースカロライナ州共和党のトム・ティリス上院議員は木曜日、アンスロピックが「我々自身から我々を助けるために最善を尽くしようとしているのに、国防総省はこの問題を専門外に扱っている」と述べた。

「いったいなぜ私たちは公の場でこの議論をするのでしょうか？」ティリス氏は記者団に語った。 「これは、契約を結んでいる戦略的ベンダーとの付き合い方ではありません。」

同氏はさらに、「企業が悪影響を恐れて市場機会に抵抗しているときは、彼らの声に耳を傾け、密室で彼らが本当に解決しようとしているものを見つけ出す必要がある。」と付け加えた。

上院情報委員会の民主党有力者、マーク・ワーナー上院議員（バージニア州）は、国防総省が「米国の有力企業をいじめようとしている」との報道に「非常に動揺している」と述べた。

「残念ながら、これは国防総省がAIガバナンスを完全に無視しようとしていることをさらに示している」とワーナー氏は声明で述べた。

これは「議会が国家安全保障の観点から強力で拘束力のあるAIガバナンスメカニズムを制定する必要性をさらに強調している」。

国防総省当局者らはAIモデルの使用に関して常に法律に従うと述べているが、ヘグセス氏は国防長官就任から数週間後の昨年2月、FOXニュースに対し、「最終的には憲法に基づく適切なアドバイスを提供し、何かの障害になろうとする存在ではない弁護士を望んでいる」と語った。