犯罪者は前例のないレベルでAIを使って「バイブハッキング」を行っている：Anthropic

「高度な」ガードレールがあるにもかかわらず、AIインフラ企業Anthropicは、サイバー犯罪者が依然としてAIチャットボットClaudeを悪用し、大規模なサイバー攻撃を実行していると述べています。

水曜日に公開された「Threat Intelligence」レポートで、AnthropicのThreat IntelligenceチームのAlex Moix、Ken Lebedev、Jacob Kleinらは、犯罪者がClaudeチャットボットを悪用した複数の事例を共有し、中には50万ドル以上の身代金を要求した攻撃もあったと述べました。

彼らは、チャットボットが犯罪者に技術的なアドバイスを提供するだけでなく、「vibe hacking」を通じて直接ハッキングを実行し、基本的なコーディングや暗号化の知識しか持たない者でも攻撃を実施できることを発見しました。

2月には、ブロックチェーンセキュリティ企業Chainalysisが、生成AIによって攻撃の規模拡大とコスト削減が進み、2025年には暗号資産詐欺が過去最大規模になる可能性があると予測しました。Anthropicは、Claudeを使って「vibe hacking」を行い、少なくとも17の組織（医療、緊急サービス、政府、宗教機関など）から機密データを盗み、Bitcoinで7万5,000ドルから50万ドルの身代金を要求したハッカーを発見しました。

  シミュレーションされた身代金要求書は、サイバー犯罪者がClaudeを活用して脅迫を行う方法を示しています。出典: Anthropic

ハッカーはClaudeを訓練し、盗まれた財務記録を評価し、適切な身代金額を計算し、心理的圧力を最大化するためのカスタム身代金要求書を作成させていました。

Anthropicは後にこの攻撃者を禁止しましたが、この事件はAIが最も基本的なレベルのコーダーでも「前例のない程度」にサイバー犯罪を実行しやすくしていることを反映しています。

「基本的な暗号化を独自に実装できず、システムコールの仕組みを理解していない者でさえ、今や回避機能を持つランサムウェアを作成し、アンチ分析技術を実装できるようになっています。」

北朝鮮のIT労働者もAnthropicのClaudeを利用

Anthropicはまた、北朝鮮のIT労働者がClaudeを使って説得力のある身分を偽造し、技術的なコーディングテストに合格し、米国のFortune 500テック企業でリモート職を獲得していたことも発見しました。彼らはまた、その職の面接回答を準備するためにもClaudeを利用していました。

Anthropicによると、採用後もClaudeは技術的な業務の遂行に使われており、これらの雇用スキームは国際制裁にもかかわらず北朝鮮政権に利益を流すために設計されていました。

  北朝鮮のIT労働者がClaudeを活用して行ったタスクの内訳。出典: Anthropic

今月初め、北朝鮮のIT労働者がカウンターハックされ、6人のチームが少なくとも31の偽身分を共有し、政府IDや電話番号の取得からLinkedInやUpWorkアカウントの購入まで、真の身元を隠して暗号資産関連の仕事を得ていたことが判明しました。

そのうちの1人はPolygon Labsのフルスタックエンジニア職の面接を受けたとされ、他の証拠では、NFTマーケットプレイスOpenSeaやブロックチェーンオラクルプロバイダーChainlinkでの経験を主張するスクリプト化された面接回答も示されていました。

Anthropicは、新しいレポートの目的は、悪用事例を公に議論し、より広範なAI安全・セキュリティコミュニティを支援し、AI悪用者に対する業界全体の防御を強化することだと述べています。

Claudeの悪用を防ぐために「高度な安全・セキュリティ対策」を実施しているにもかかわらず、悪意のある行為者は引き続きその抜け道を見つけていると述べています。