ニッポン放送「飯田浩司のOK! Cozy up!」（10月25日放送）に中央大学法科大学院教授で弁護士の野村修也が出演。ヤフーが誹謗中傷対策の強化としてニュースのコメントを人工知能などを活用して厳格に対策することについて解説した。

ヤフーのポータルサイト＝2009（平成21）年8月19日、東京都（ロイター＝共同）　写真提供：共同通信社

誹謗中傷は現状では侮辱罪　～厳罰化を図るべき

IT大手のヤフーは、インターネット配信サービス「ヤフーニュース」のコメント欄への書き込みについて、一定の水準を超えて誹謗中傷が集中した場合には、コメント欄を自動的に非表示にする機能を導入した。違反コメントの判断は、人工知能（AI）によって自動的に行われるとのことである。

飯田）コメントが炎上するという話はよく聞きますが、その辺りをAIでコントロールするということです。

野村）誹謗中傷が犯罪になることもあるので、やはり厳罰化して行かなければいけないと思います。いま政府がそのような議論をしていますが、事実を指摘して誹謗中傷をするのであれば、厳しい刑罰があるとしても、いまは感想を述べるだけだと侮辱罪しか適用がないのです。侮辱罪は刑が軽いので、これでは抑制が働かず、「しっかりとした厳罰化を図るべきだ」という議論はあると思います。

コメントの判断をAIがするということ

野村）他方で、「AIがコメントのよし悪しを判断して、その判断によってコメントを見られなくする」というやり方がいいのかどうかだと思うのです。飯田さんはどのように考えますか？

飯田）AIに判断されるということで、「AIは公平中立なのだ」と言うのかも知れませんが、AIを運用している人たちが恣意的にAIを運用してしまった場合はどうなるのか、とは思います。「言論の自由との釣り合いをどのように見るのか」というところが気になります。

野村）AIは現状、とりあえず大量のビッグデータを見て自分で学習するため、ディープラーニングを繰り返して、「これは誹謗中傷なのだろう」と類型化して削除するような力は、それなりに整って来ているのだと思います。ただ、いまおっしゃったように、「誰かが恣意的な操作をしたときに何かが起こってしまうのか」ということは気になりますよね。大事なことは、国が管理しているものではないので、自分の場所を使わせるかどうかはヤフー側の自由であるということです。「ヤフーニュースにコメントができなければ、自分の表現ができなくなってしまう」というわけではありません。

飯田）確かにそうですね。嫌なら書くなと。

野村）このラジオもいろいろな方がいろいろなメールをくださって、時間の関係などで皆さんのメールをご紹介できているわけではないですよね。しかし、それで「表現の自由が」という問題にはならないわけです。それと同じと言えば同じなのですが、ヤフーの持っているいまの社会におけるニュース欄の影響力の大きさを考えると、意見をきちんと述べられる環境を可能な限り保障するのは大事だと思います。

大きくなってしまった権力をどのように健全に取り入れて行くか

飯田）GAFAの規制のようなことは、アメリカで問題になっているところではあります。しかし対岸の火事というか、「私たちにとっては他人事だよね」と思っていたことが、具体化して来たということですね。

野村）まったく一緒です。あまりにも大きくなり過ぎて権力になってしまっているところを、どのように自分たちの社会のなかで健全に取り入れて行くのかという問題なのです。権力になってしまっている状況は、表現の話だけではなく、経済活動においても、いろいろなところで規制の対象になりつつあるということだと思います。

AIにスクリーニングさせて、その上で第三者性のある人たちがチェックをする

飯田）かつては市場に任せておいて、「いろいろな人の判断が入れば基本的にうまく行くのだ」と言われていましたが、その市場の失敗のようなものがここでも起こって来ているということですか？

野村）起こっていますね。マーケットが作用しにくい場面ではないですか。「では、AIがそれに変われるものなのかどうか」ということも議論しなければいけないと思います。AIが民の力でコントロールする手段として、神の見えざる手のようなものとして働くのか。

飯田）コントロールする手段として。

野村）恣意性が入らず、繰り返し同じようなことをやっていると引っかかるというような、きちんとしたメカニズムになるのであれば、淘汰する道具として使うということにはなると思います。しかし、ディープラーニングの発想からすれば、相当学習を繰り返さないと本当の意味での正しい評価にはならないと思います。最初のころは、かなりギクシャクするので、まずはAIにスクリーニングさせて、第三者性のある誰かがチェックし、ヤフーの恣意に陥らないような形で議論して行くことが必要だと思います。

飯田）全部を見るということは、それこそAIに頼るぐらいなので難しいのかも知れませんが、モニタリング調査のようなところですかね。

野村）そうですね。