地政学・戦略学者の奥山真司が4月11日、ニッポン放送「飯田浩司のOK! Cozy up!」に出演。各国で規制の動きも出ているChatGPTについて解説した。

March 19, 2023, India: In this photo illustration, an OPEN AI logo is displayed on a smartphone with a Chat GPT logo in the background. (c) Avishek Das/SOPA Images via ZUMA Press Wire　共同通信イメージズ

岸田総理大臣と「ChatGPT」のCEOが意見交換

岸田総理大臣はAIを使った対話型ソフト「Chat（チャット）GPT」を開発した米新興企業「オープンAI」のサム・アルトマン最高経営責任者（CEO）と総理官邸で面会した。人間のようなスムーズな対話ができると話題になっているChatGPTの長所と短所に関して説明を受けた。日本では毎日100万人以上が利用しているChatGPTをめぐっては、プライバシー侵害などへの懸念から各国で規制の動きが出ている。

飯田）イタリアが規制するというような話もあります。

奥山）外国の先進国にアルトマン氏が来るのは、今回が初めてだということです。日本に率先して来たのは、「日本で活用してもらいたい」と考えている部分があるのだと思います。

イーロン・マスク氏らがGPT-4以上の開発停止を求める公開書簡を発表

奥山）ChatGPTを懸念する声は、テクノロジー業界からも出ています。先日、一部で話題になっていましたが、アップルの共同創業者であるスティーブ・ウォズニアックさんやイーロン・マスクさんなども含めて、「フューチャー・オブ・ライフ・インスティテュート」という非営利団体が公開書簡を発表し、チャットボット「GPT-4」よりも有力なAIシステムの開発を6ヵ月間停止しよう、と提案しています。

飯田）システムの開発停止を。

奥山）人工知能の責任ある倫理的開発という面では、いま少しテクノロジーが進みすぎてしまっているから、一時停止しようということです。

飯田）テクノロジーが進みすぎている。

奥山）イーロン・マスク氏としては、開発競争に遅れてしまったので「やめろ」という牽制の意味もあるのだと思いますが、新しいテクノロジーにリスクがあることは間違いありません。

米ジョージア州でのAIの判断による誤認逮捕

奥山）AIに関して、印象的な事件がありました。ジョージア州では、警察は顔認証にAIを使っています。「クリアビューAI」という会社のソフトを使っているのですが、それによって誤認逮捕された事件がありました。

飯田）誤認逮捕。

奥山）AIで「この人が犯人だ」という結果が出て、その人の車のナンバーを警察が登録していたのです。その車を見つけたので逮捕したのですが、人違いだったそうです。

飯田）人違いだったのですか。

奥山）ルイジアナ州で盗まれたカードで、130万円相当のシャネルとヴィトンのバッグを買った人物がいたという事件なのですが、その人物だとして防犯カメラから追っていたそうです。しかし、逮捕された人は、実はルイジアナ州に行ったこともないという人だったのです。

AIに人間の判断を依存してしまう危険性がある

奥山）ジョージア州で捕まり、6日間も拘束されてしまった。警察側も「我々としては逮捕状が出ていたから逮捕しただけです」としか説明していないそうです。このように、AIに人間側がするべき判断を依存してしまう危険性があります。

飯田）判断を。

奥山）私は自分の名前をChatGPTに入れてみたのですが、「デザイナーである」と嘘の情報が出てきました。ChatGPTの方を信じてしまって、それが真実になってしまうと困りますよね。

飯田）そうですよね。

奥山）AIそのものがブラックボックス化する。そのなかでどんな判断が行われているのかわからないような状況は、ジョージア州の誤認逮捕の一件から見ても、今後も出てくるのではないかと心配です。

「ChatGPTが言っているのだから、こちらの方が正しいのではないか」という事態が生まれてくる可能性も　～基礎的な知識を教えていかなければいけないということが社会問題に

飯田）これまでは、警察が身柄を拘束しようと思うと、証拠を積み上げてリアルなものがなければできなかった。それがAIによる証拠だけで逮捕できるということは、逆にリアルで調べることの大切さをどう伝えるか、教育していくかの方が重要になるのですか？

奥山）「AIだから楽ではないか」ということになっているのです。日本の場合は暗算などを学ばせますが、アメリカの場合、「計算は計算機を使ってしまえ」という方針になっています。そうすると、「ChatGPTが言っているのだから、こちらの方が正しいのではないか」という事態が生まれるかも知れない。

飯田）いまはまだChatGPTで結果が出ても、「違うよ。だって本当はこうだから」と照らし合わせができますが、それをしなくなったときに本当のリスクが出てくる。

奥山）大学の教育もそうですし、その前の小学校からの教育でも、基礎的な知識を教えなければいけないという社会問題になりますよね。

テクノロジーはそれまでの問題を解決するのではなく、むしろ新しい問題を発生させる

飯田）犯罪捜査もそうですが、安全保障面も変えていくことになる。

奥山）なると思います。実際に「あれがテロリストだ」とAIが判断した人に向けて発砲してしまい、誤認で殺されてしまう人も出てくるかも知れません。テクノロジー関係で有名なケビン・ケリーさんは、「テクノロジーはそれまでの問題を解決するのではなく、むしろ新しい問題を発生させる」と言っています。

飯田）テクノロジーは新たな問題を発生させる。

奥山）ケビン・ケリーさんは「WIRED」という雑誌の初代編集長だった方です。新しいテクノロジーで便利になるけれども、別の厄介な問題を引き起こすこともあるのだと今回、改めて感じました。

飯田）しかし、テクノロジーの進化の流れを止めることはできないので、新しい問題に対処していくしかない。

奥山）これは人間の問題だと思います。

飯田）結局は使う人間の問題なのですね。

奥山）そうですね。