Anthropicが、DeepSeek、Moonshot、MiniMaxという3つのAI研究所が、自社のモデルを改良するためにClaudeの能力を不正に抽出する大規模なキャンペーンを展開していることを確認したと発表しています。

これらの研究所は、約24,000の不正アカウントを通じてClaudeと1,600万回以上のやり取りを行い、同社の利用規約および地域アクセス制限に違反する行為を行っていたとしています。

これらのラボは「蒸留」と呼ばれる手法を用いていて、これは、能力の低いモデルを、より能力の高いモデルの出力を用いて学習させるというもので、蒸留は広く利用されている合法的な学習方法だそうです。

例えば、最先端のAIラボは、顧客向けに小型で安価なバージョンを作成するために、自社のモデルを定期的に蒸留しています。しかし、蒸留は不正な目的にも使用される可能性があります。競合他社は、蒸留を利用して、独自に開発する場合の数分の1の時間とコストで、他のラボから強力な機能を取得することができます。

これらの攻撃は激しさと巧妙さを増しているとし、行動を起こすための猶予期間は狭く、脅威は単一の企業や地域にとどまりません。これに対処するには、業界関係者、政策立案者、そして世界中のAIコミュニティが迅速かつ協調して行動する必要があるとしています。