ハルシネーション

 

AIの本質がだんだんわかってきた。これは情報を集めるのには有用だ。特にプログラムを書くときには非常に有用だと思う。
しかし、AIで人間の書くような文章を作ることは難しい。なぜならAIは「行間」を読めないから。

人間は「書かなくてもわかる」ことを知っている。その書かれない部分というのは、もちろん書くのがためらわれたり、公に書いたりすることが良くない、あるいは、倫理的に間違っていることも含むが、たいていの場合は、相手の想像に任すという部分だ。
その文脈は、社会的な「不文律」やルールで自然と決まってくる。しかも、それは地域や社会によって違う場合もある。
それをAIが理解し、適切な回答をする、ということは、現時点ではありえない。

ある程度整った文脈、たとえば、プログラミングや数式であれば、AIは実に精確な回答を与えてくれる。
しかし、それが小説や文学や詩、俳句や短歌のようなものであった場合、とたんにでたらめな回答を生成するようになる。

しかも、その中には無理やり行間を適当な言葉で詰めたものも出来上がる。

これを「ハルシネーション（幻覚）」と言うらしい。
AIが幻覚を生成するとは、おもしろい発想だが、ようするにもっともらしい嘘を生成してしまうのだ。

まあ、我々自身の思考がすでに「ハルシネーション」の要素を多分に含んでいるのだが、AIのそれは、「ハルシネーション」らしくない幻覚というか、すぐにわかる幻覚なのである。

AIは人間の脳にすぐに追いつく、などと夢物語を語る人もいるが、完全に誤りである。

囲碁などのAIが人間の能力を上回っているのは、過去に人間が打った手をすべて記憶しており、統計的にもっとも数値が高い解答を利用しているにすぎない。

勝ちと負けしかないゲームには有効だが、それがそもそも存在しない人間社会という複雑系に対して対応できるAIが現れるという段階には程遠い。

たしかに昔のデータベース管理システムに比べれば、格段の進歩はあるのだが、やっていることは、本質的には変わらない。

「たくさんのデータの中から、最適なものを選ぶ」ということである。

この用途に使用する限りにおいて、AIはとても強力なツールになるだろう。