名誉毀損法の前提

当事務所は、これまで、インターネット上の名誉毀損やプライバシー侵害に関する事件を数多く取り扱ってきました。投稿の削除を求め、発信者情報の開示を求め、特定された相手方に損害賠償を請求する。決して平坦な道のりではありませんが、少なくとも進むべき筋道は明確でした。

その筋道を支えていたのは、侵害情報の背後には、それを書いた特定の人間が存在するという前提です。情報流通プラットフォーム対処法（旧プロバイダ責任制限法）が定める発信者情報開示の制度は、まさにその人間にたどり着くために設計されています。名誉毀損法もまた、表現行為をした「者」の責任を問う構造を採ってきましたが、生成AIの普及は、この前提を揺るがしつつあります。

投稿の工数が、ほぼゼロになった

従来、誹謗中傷の投稿には、人間が文章を考え、入力するという物理的な制約が伴っていました。一人の人間が一日に書ける投稿の数には、おのずと限界があります。この制約は、意識されないまま、被害の規模を画する役割を果たしていました。

しかし生成AIは、この制約を取り払い、文体を変えながら同趣旨の投稿を大量に生成し、多数のアカウントから時間差で拡散することが、極めて低い費用で可能となっています。近年、SNS上で自動投稿を行うアカウント、いわゆるボットが著しく増加している背景にも、この事情があります。人間が書いたものと外形上区別のつかない投稿を、無尽蔵に供給できるようになっています。

これが実務に与える影響は、二重に生じています。

第一の影響―特定の速度が、生成の速度に追いつかない

発信者情報開示の手続は、令和3年の改正により、開示命令事件として一体的に処理されることとなり、提供命令及び消去禁止命令の制度も設けられました。手続の迅速化は、確かに進んでいます。

それでもなお、一つのアカウントについて発信者を特定するまでには、コンテンツプロバイダとアクセスプロバイダの双方を相手方とする手続を経る必要があり、相応の期間を要します。海外事業者が相手方となる場合には、依然として送達に数か月を要することも珍しくありません。
この速度の非対称は決定的な問題で、一つのアカウントを特定するために数か月を費やしている間に、加害者は無数の投稿を新たに生成することができます。

第二の影響―AIが書いたのだから、運用者は責任を負わないのか

しかし、より本質的な問題は、その先にあります。仮に手続を完遂し、アカウントの運用者にたどり着いたとしても、そこには一つの反論が待ち構えています。すなわち、当該投稿の文章を作成したのは生成AIであって、アカウント運用者はその内容を認識していない、というものです。

名誉毀損による不法行為責任は、故意又は過失を要件とします。このうち故意とは、他人の社会的評価を低下させる事実を摘示することの認識をいいます。生成AIによる自動投稿は、対象と方向性を与えれば、あとは人の手を離れて個々の文章が生成される構造を採ります。運用者が個別の投稿の文言を事前に知らなかったのだとすれば、当該投稿ごとの故意を認めることは、必ずしも容易ではありません。

もっとも、この反論は、責任の単位を「個々の投稿」に置くことを当然の前提としています。問われるべきは、個々の文章を誰が書いたかではなく、特定の人物を対象として否定的な内容を継続的に生成し、これを公表する仕組みを、誰が構築し、稼働させたのかという点です。対象者を指定し、方向性を与え、投稿を自動化した者は、その仕組みから権利侵害が生じ得ることを、当然に予見することができます。そうである以上、個々の文言を認識していなかったとしても、過失は優に認められるというべきです。責任の根拠は、投稿という個別の表現行為にではなく、侵害を生み出す仕組みの設置及び運用にあると考えられます。

日本の民法は、自らの管理する危険源から損害が生じた場合に、その管理者に責任を負わせる考え方を、責任無能力者の監督者の責任（714条）や動物の占有者の責任（718条）といった規定に表しています。生成AIは、それ自体が責任の主体となるものではありませんが、その出力によって他人の権利が侵害されたとき、責任を問われるべきは、当該出力を自らの目的のために稼働させていた者という帰結は、上記各規定に通底する考え方とも整合するように思われます。
他方で、特定の対象を定めずに稼働する汎用的なボットが、結果として特定個人の名誉を毀損する内容を出力した場合には、評価は異なり得ます。予見可能性も結果回避可能性も、格段に希薄となるからです。この場合に問われるべきは、稼働開始の時点における過失ではなく、権利侵害の指摘を受けた後、稼働を停止し、又は出力を是正する義務を尽くしたかどうかになるかと思います。インターネット上の権利侵害に関する法制度が、権利侵害を知った後の対応をもって責任の分水嶺としてきたことと整合させた整理です。

もっとも、立証上の困難は残ります。運用者が生成AIに対していかなる指示を与えていたかは、運用者の支配領域内にある事情であり、被害者がこれを直接に明らかにすることはできません。現状、投稿の対象が一貫して特定の人物に集中していること、投稿の時期が特定の紛争の経過と符合していることといった間接事実を積み上げるほかないものと思います。

終わりに

発信者情報開示の制度は、アカウントの背後に、責任を負うべき一人の人間が存在することを暗黙の前提としてきましたが、生成AIを用いた大量投稿は、その前提が成り立たない場面を現実の紛争として持ち込みつつあります。

そして本稿の問いは、名誉毀損に固有のものではありません。人が与えた目的に沿ってAIが自律的に振る舞い、その結果として他人に損害が生じたとき、誰が、いかなる理由で責任を負うのか。自動運転、医療上の診断支援など、人の判断をAIが代替する場面が広がるほど、同じ構造の問いが繰り返し現れることになります。来るべきAIの時代に向けて論じられるべきテーマの一つとして、当事務所においても、実際の事件処理を通じて引き続き検討を重ねてまいります。