AIの限界

　マイクロソフトが開発したAIのTayがツウイッターと交信している内に、ヘイトスピーチを発するようになった。これはAIも洗脳されるということである。洗脳とは外部からの知的刺激に対し、批判能力が無くなる状態で、繰り返し新たな刺激を与え、脳の記憶や判断能力を作り変えることである。
　人間に批判力が出来るのは個人によって異なるが、一般には第二反抗期を過ぎたあたりから、つまり中学生から高校生の思春期である。ということはTayの知的レベルは未だ幼稚園か小学生の段階ということだ。
　グーグル製AIのアルファ囲碁はプロ棋士を破ったことで話題になったが、囲碁（将棋も含め）は手数は無数にあるがルールは至って簡単である。手数さえ記憶させれば、確かに人間に勝つのは時間の問題だろう。だからと云ってAIが人間に勝てるわけではないということが、Tayの件で明らかになった。
　囲碁・将棋のように固定された環境の中で、決まったルールに従う場合には、AIiは威力を発揮するが、その制約がない場合には至って脆弱だということだ。それは世界史上最高の知的レベルにあるはずの、アメリカ軍が未だにISを制圧できないことで証明されている。又日本最高学府とされる東大出身の大臣が、つまらぬ発言でチョンボするのは、人間の知的レベルは入試偏差値では計れぬことを意味している。アホは要するにアホなのだ。
　今後のAIにとって重要なことは、批判力を身につけることである。批判力とはある情報が入ったとき、その逆の状況を仮想して結果を判断する能力である。次世代AIがこの能力を身に着ければ、サイバー世界はより安全なものになるだろう。
(16/03/28)