概要
Anthropicは10月8日、AIモデルClaudeの利用規定（Usage Policy）を更新し、民主的プロセスを損なう行為を明確に禁止事項として追加した。具体的には、選挙への干渉、有権者を欺く行為、偽アカウントの運用、偽造されたニュースメディアの運営、広範囲にわたる欺瞞的キャンペーンへのClaudeの利用が新たに禁止された。これに加えて、武器関連ソフトウェアの開発や監視目的での利用も禁止対象として盛り込まれている。
改定の内容と背景
今回の改定では、ユーザーがClaudeに対して繰り返し極端な形で虐待的な言動を行うこと自体も禁止事項として明記された。ただし、通常の不満表明や批判、ダークな創作テーマの追求、モデルの限界を試すテストといった行為は対象外とされ、線引きが図られている。Anthropicは8月の更新以降、持続的に有害・虐待的なユーザーとの対話が検知された場合にClaude側から会話を終了させる訓練を進めており、今回の規定改定はその運用方針を利用規定の文言として正式に裏付けるものと位置づけられる。
選挙関連の禁止事項については、偽アカウントや捏造されたニュースアウトレットの運営を通じた欺瞞的キャンペーンへの利用を明示的に禁じた点が特徴で、生成AIが選挙の信頼性を脅かす偽情報拡散の手段として利用され得るという懸念に対応した措置とみられる。
影響と今後
AI企業が利用規定を通じて選挙関連の悪用を明確に禁止する動きは、各社がモデルの社会的影響に対する責任をどこまで利用規約に落とし込むかという論点の中で注目される。Anthropicは今回、虐待的利用への対応と民主的プロセスの保護という二つの異なる懸念を一つの規定改定にまとめて示した形であり、今後他のAI事業者がどのような規定見直しを行うかの一つの指標になる可能性がある。