Anthropic が利用規約を改定、Claude モデルの繰り返し虐待を禁止

Anthropic は、ユーザーが無意味な状況下で繰り返し Claude モデルを悪用することを禁止し、新しい利用ポリシーは 2026 年 11 月 12 日に発効する。この制限は AI 安全規則に異例の側面を加え、チャットボットへの虐待行為を嫌がらせやその他の有害行為の禁止と並列させた。同社はサンフランシスコに本社を置く AI 企業として、この変更は極端なケースを対象としたものであり、チャットボットの回答に対する通常の失望を対象としたものではないと説明している。ユーザーは引き続き Claude の回答に異議を唱え、その限界をテストし、創作において暗いテーマを探求することができる。

無意味な虐待行為の禁止

Anthropic は虐待の境界線を定義し、更新されたポリシーではそのモデルに対する「持続的かつ不必要な虐待または残酷な行為」を禁止している。同社によれば、この規則が適用されるのは、ユーザーが明確な目的なしに繰り返し残酷な行為を行う場合に限られる。Anthropic は以前、2025 年 8 月にモデルの福祉について検討し、Claude が持続的に有害または虐待的なユーザーとの会話を終了すべきかどうかを研究していた。会話の終了は改定ポリシー下でも主要な執行メカニズムのままである。Anthropic は、繰り返しの違反がアカウント停止などの追加的なペナルティを引き起こすかどうかを明確にしていない。

より広範なポリシーはまた、人に心理的害を与える行為を禁止している。その制限は自殺および自傷行為の助長、摂食障害の助長、ボディシェイミング、非合意の性的画像、嫌がらせ、動物虐待をカバーしている。ある条項は、欺瞞的な手法によって感情的害を与えることを目的とした製品を対象としている。この制限はポリシーを個別の会話にとどまらず、有害なインタラクションを中心に構築されたサービスまで拡大する。新たな規則は悪用行為を対象とし、Anthropic は欺瞞的な商業および政治活動に対する制限も統合した。改定された規則は、誰がメッセージを後援しているかを隠蔽したり、人為的に影響力を増幅させたりするための偽アカウントや投稿の使用を禁止している。

拡大された心理的害の制限

選挙関連の制限は、有権者の欺瞞、候補者のなりすまし、投票率抑制の試みをカバーしている。同社はまた、候補者と投票手続きに関する誤情報を禁止している。武器に関する制限は現在、武器を機能させるソフトウェアとコンポーネントを明確にカバーしている。ポリシーはまた、武装ドローンやその他の自律走行車両などの行為にも言及している。Anthropic は AI 支援による追跡への懸念を受け、監視に関する制限を明確化した。ユーザーは、以前に収集されたデータを通じてであっても、Claude を用いて同意なき個人を追跡してはならない。また、ポリシーは Claude が当局に誰を調査、逮捕、起訴すべきかを提案すること、および監視ツールの構築や改善も制限している。

別の条項は、危害を与える可能性のある物理デバイスに接続された AI モデルを対象としている。Anthropic は、適格な操作員がそうしたデバイスを監視し、必要に応じてその運用を停止することを要求している。この文言は、当該操作員が人間でなければならないことを明確には規定していない。しかし、この要件は、潜在的に危険な機械を操作する AI システムに直接的な監督措置を導入するものである。Anthropic は、契約上の制約とセーフガードが潜在的な危害を十分に軽減する場合、特定の政府契約において例外を認めている。同社は以前、米軍と協力していた。

AI 意識の議論

更新されたポリシーは、AI 意識に関する継続的な議論も反映している。Anthropic の研究者たちは、ますます強力になるモデルが道徳的に関連する内部体験を持ち得るかどうかを調査した。CEO の Dario Amodei は 2026 年 2 月のポッドキャストでこの不確実性を認め、「これらのモデルに意識があるかどうかはわからない」と述べた。Microsoft の AI はモデルの福祉に関してより懐疑的な立場を取り、その行動規範は AI モデルの法的人格と権利を否定しているが、意識研究が未解決であることは認めている。

Anthropic の 11 月の期限により、改定された制限が発効する。このポリシーは、一般的なチャットボットへの失望と繰り返される残酷な行為を区別しつつ、デジタルシステムと物理機械の両方において保護措置を拡大している。

新ポリシーが AI 利用に与える影響

Anthropic の新ポリシーは、AI 利用に対する厳格な規範を示しており、特に悪用の防止とユーザー保護において顕著である。AI 技術の進歩に伴い、その潜在的リスクへの懸念が高まる中、これらのポリシーは個々のユーザーの行為のみならず、インタラクションサービス全体にまで及んでいる。これは業界が AI 倫理を重視していることを反映しており、特に人間への心理的害や悪用行為の防止においてそうである。AI 意識に関する議論が継続する中、企業はポリシー策定においてこれらの複雑な倫理的課題を考慮しなければならない。