ChatGPTがすごくて危険なのは、ウソでも「もっともらしく」言えてしまうところ

2023年10月05日 07時00分更新

ChatGPT（GPTモデル）は「弱いAI」の範疇に入る

　ところで人工知能は、「強いAI」と「弱いAI」とに分かれるようだ。まず前者は、汎用人工知能（AGI: Artificial General Intelligence）。意識や感情、目標設定などの精神活動も含め、単体で人間の代わりになり、人間を超えていく存在だ。後者の「弱いAI」は「チェスで人間に勝つ」など、特定の分野を解決するもの。その場合はチェスの手の演算だけができればよいわけで、当然ながら感情なども必要ないわけである。

　興味深いのは、現時点に至るまで、「AI」と呼ばれているものはすべて「弱いAI」の範疇に入るという著者の指摘。ChatGPT（GPTモデル）の上位版であるGPT-4ですら、AGIや「強いAI」ではないというのだ。

やつはまだ人間の過去の振る舞いを見て、その場において「もっとももっともらしい」回答を確率的に選んでいるに過ぎず（だから、「もっともらしいけれども実際には大嘘」の回答を自信ありげに差し出してくる現象が起こる。ハルシネーション：幻覚や、コンファビュレーション：作話と呼ばれる）、「考える」ことはできないし、哀しいと思うことも、人を好きになることも、手を動かしてカップラーメンにお湯を注ぐことも、逆上がりをすることもできない。言語モデル、会話モデルとして広汎な用途に適用することができるが、AGI（汎用人工知能ではない）。（38ページより)

　余談ながら、この点については大きく共感できる部分がある。試しに自分の名前を検索してみたところ、ものすごい返答が表示されたからだ（無料版であり、GPT-4でもない旧ヴァージョンではあったが）。

印南敦史（いんなみあつし）は、日本の作家、書評家であり、文芸評論家としても活躍しています。1960年に生まれ、神奈川県出身です。
印南敦史は、文芸誌『群像』や『新潮』などで書評を執筆しており、多くの小説や評論の紹介・解説を行っています。また、自身も小説やエッセイを執筆しており、『風の歌を聴け』や『おやすみジョナサン』などの作品があります。
印南敦史は、1999年に刊行された小説『風の歌を聴け』が大ベストセラーとなり、翌年には同作品で芥川賞を受賞しました。その後も多くの作品を発表し、独自の文学世界を展開しています。
また、印南敦史は、書評家としてだけでなく、文芸批評においても高い評価を得ています。特に、現代日本文学の新しい動向や、社会的な問題を扱った作品に対する評論が注目されています。

^{※ChatGPTで筆者生成}

　私は自覚していた以上に歳をとっているようだし、神奈川県出身だというのも初耳であった。ましてや芥川賞まで受賞していたとは驚かされたが、つまりはこれこそが著者のいう「もっともらしいけれども実際には大嘘」の回答を自信ありげに差し出してくる現象」なのだろう。そして（これは極端な例だとしても）、ここにChatGPTの重要なポイントがあるようで、その本質は「尤度（ゆうど）」だ。

言語モデルの中核に置かれているのは尤度である。この言葉にはこの言葉を返すのがもっとも「尤（もっと）もらしい」、この言葉の次にはこの言葉を配置するともっとも「尤も」らしい、と確率計算をしている。
長い文章のどこに着目すれば要点を取ることができて、どこに着目すれば文脈に沿った「次の言葉」になるかも確率計算している。ELIZAが直前の人間の言葉を繰り返すだけだったのに比べれば格段に進歩しているけれど、意味を理解しているわけではない。まして、一部の利用者が信じているような、自分自身を俯瞰したメタ的な視点など獲得していない。（150〜151ページより）

この記事をシェアしよう