世の中は比較的

近年、A.I.（人工知能）の話題がたびたび取り上げられて、A.I.を使ったロボットなんかがすでに販売される世の中になりました。

ここで、驚くべきニュースが。

2016年3月9〜15日にかけて、A.I.対人間の囲碁対局が行われました。
アメリカのグーグル社とグーグルが買収したイギリスのグーグルディープマインド社により開発された囲碁A.I.（アルファ碁）と戦ったのは、囲碁の世界トップクラスの韓国のイ・セドル九段。

結果から書くと、
A.I.の勝利！！
でした。

5番勝負で、アルファ碁の4勝1敗。
圧倒的な強さです。

オセロだったり、将棋だったり、いろんな分野のA.I.が人間と対決して、勝ったり負けたりしていますが、この囲碁については、A.I.が勝つのはなかなか難しいと人工知能の研究者の間での意見だったようです。

というのは、
・　囲碁は碁石を置ける場所が他に比べて圧倒定期に多いから
・　石に強弱がない

以上の2つの理由から、どこに碁石を置くのが最適かというのを計算によって算出するのに途方もない計算をしなくてはならず、現在のコンピュータの性能では不可能という予測だったのですが。



それは、人間の脳の仕組みをまねた「ディープラーニング」という学習機能を搭載したから。
ディープラーニングと言えば、先日書かせていただいたブログ「」の人工知能、「Tay」もこの学習機能を搭載しています。

「ディープラーニング」というのは、

ディープラーニング、深層学習（英: deep learning）とは、多層構造のニューラルネットワーク（ディープニューラルネットワーク、英: deep neural network）の機械学習の事[1]。汎用的なAI、いわゆる強いAIの実現が期待されている[2]。概念・手法は1980年前後からあったが、2010年代に画像認識などから急速に盛り上がり、三度目の人工知能ブームと言われる[3]。第三次ブーム以後は、機械学習は単なる流行を超えて社会インフラとして広く定着して行った。コグニティブコンピューティングの核となる技術でもある。

※出典：Wikipedia　ディープラーニング　より

この囲碁の場合だと、プログラム内に人工ニューロンなるものを何層も作り、入力層の人工ニューロンに碁石の位置を入力すると、下層にある何層ものかくれ層の人工ニューロンに次々と伝達され、最終的に出力層から結果が出力されます。
で、この結果が正しい答えであれば、その経路の人工ニューロンのつながりが強められ、はずれだった場合は弱められるという仕組みです。

で、「アルファ碁」は、このやり方で、プロ棋士の次の一手を予測できるように人工ニューロンのつながりを学習させていった結果、この世界を驚かせるような結果を生んだということです。

スゴイですね。

これを書きながら、人間の脳の仕組みが解明とA.I.も進化は互いに相乗効果を得ながら発展していっているように感じました。
脳の仕組みを解明（理論的予測、観察など）　-->　A.I.に実装して確認　（この繰り返し）



ちなみに1回だけ負けている、第四局。
「アルファ碁」はこの対戦で、明らかな悪手を何度も繰り返していました。
あれ？ディープラーニング機能で、間違った経路はつながりが弱められるんじゃないの？と思った方、鋭いです。

そうなんです。ディープラーニングでは理論的には、どんどん強くなるばかりなはずですよね。
でも、なぜか「アルファ碁」の最終戦では違った。
しかも開発社であるグーグルディープマインド社のメンバーにもわかりませんでした。

普通のプログラムだったら、コードを追跡してデバッグすることで原因を確認できるんですが、ディープラーニングには人間が読める論理コードはなく、各ニューラルネットの接続の強さを表すパラメーターだけしかないということです。

その計算方法は人間にとってブラックボックス（＝どうなっているかわからない）になっています。


また、第二局で「アルファ碁」が勝ちましたが、プロ棋士の解説者は「なぜアルファ碁の打ち手が勝利につながったのか、理解できない」と評価しています。

高度に訓練されたAIは、例え結果的に正しい判断（勝ったから正しい判断であった）であっても、その過程は人間にはまったく理解できない。
奇妙な行動に映る場合があるのです。


これ、囲碁ではなくて他の介護ロボットとかで置き換えた時、怖くないですか？
予測不可能な行動を取って、自身で正常な行動に復旧できるんですかね？


この「わからない」という要素は、とても影響の大きい不安要素です。
人工知能は人間をまねて開発していますが、人間は完ぺきじゃないです。

人間はいいところもいっぱいありますけど、現状の世の中では、世界的に見ると金持ちがより金持ちになって、貧乏な人はより貧乏になっていっています。
戦争やテロで、人を残虐に殺したり、拷問をしたり、信じられないような行動をすることもあります。

つまり、人間をまねて作れば、良くも悪くもなる可能性があるということ。
悪くなってもらっては困るので、悪くならないためにどうすればよいかというのもちゃんと考えてほしいです。

今活動休止中で、調査中である「Tay」もなぜ今のような結果になったのか、注意深く調査してほしいと思います。
※詳しくは、過去のブログを参照してください。


今後、さらに注意深く開発していく必要があるのは明らかです。

本日も最後まで読んでいただき、ありがとうございました。


ブログランキングに参加しています。
もしよろしければ応援よろしくお願いします。
にほんブログ村