弊社上級ネットワークエンジニアによる、セキュリティーに関するコラムをお届けします。
会社の公式文書という形ではない、作者個人の現場感あふれるコラムをお楽しみいただきつつ、日頃の営業活動へのヒントやお客様へのコミュニケーションなどにご利用頂ければ、幸いです。

※本コラムは、平成28年3月頃に社内コラムとして連載したものに加筆・修正し、掲載させていただいています

第4回 ディープラーニングってなんだろう

ここ数年、特にこの1,2年、AI(人工知能)およびその発展の基礎技術になっているディープラーニング(深層学習)技術が大きな成果を上げていることは、ニュース等で、実感していることと思います。出版された本やニュースでは、人間の知能を超えるシンギュラリティーも近いとか、職業の半分以上はAIに取って代わられるとか、ディープラーニングによるAIを使えば、さも魔法の道具のように、黙っていてもお願いしたものが目の前に出現するかのようです。

前回のこのコラムでも、AIについては取り上げています。私は、セミナーや本で勉強して知識が深まるほどに、本当なのかな、ちょっと待てよという気持ちになってきました。

私のAIに対する疑問を含めた、今の気持ちをお送りするつもりですが、ディープラーニングを説明しないで書いても、理解していただくのが難しいと思いますので、最初にディープラーニングについて簡単に説明をします。

 

[1] ディープラーニングってなんだろう

このところ、たくさんの製品に「人工知能技術を活用した」とか「人工知能技術を取り入れた」の宣伝文句が使われるようになりました。リモコンなどを使って指示されることなく機能する要素を持った製品であれば、これらの文句を使っているような気がしています。

これらの製品が、現在の最先端のディープラーニングの技術を使っているかどうかわかりませんが、まず、ディープラーニングについて、そのエッセンスをできるだけ簡単に説明してみたいと思います。

【脳内の処理】

  • 人間の脳は、千数百億個の神経細胞からできている。そのうち知性をつかさどる大脳は、百数十億個程度。
  • 神経細胞はニューロンとも呼ばれ、入力装置である複数の「樹状突起」と出力装置である一本の「軸索」、そして入力信号を処理して信号を出力する「細胞体」から構成される。
  • 神経細胞は、樹状突起と軸索を使って信号伝達を行い、膨大な数の処理装置がつながった神経回路という巨大なネットワーク(ニューラルネットワーク)を構成している。
  • 目や耳などの入力信号が、大脳の百数十億個の神経回路内で処理され、知的な筋肉の動きや言葉といった出力や記憶になる。
  • ニューラルネットワークは、入力信号の整理、整理された複数の入力信号の処理と出力信号の生成、出力信号による記憶や動作の実行、の3つの働きを階層構造で実現する。
  • 特に中間の、整理された複数の入力信号に優先度を付けて処理し生成される出力信号が、次のニューロンの入力信号になるという連携処理が繰り返されて、最終の出力処理につながってゆく。

【ディープラーニング以前のAI処理】

  • 脳の判断を「人間」が考えて、そのロジック(ルール)をプログラミングする。
    -入力データ分析方法、分析結果の注目ポイントの設定、注目ポイントの判定結果の整理の方法などをすべて記述する。

    例えば、人の顔の写真から個人を区別する条件として、輪郭、各パーツの形状や長さ、配置など、個人を特定するための多くの判定条件を考える必要があります。

    これは、人間が考えた判定条件をプログラムすることで、精度を上げて成長させています。

    私が入社して数年たったころに、「エキスパートシステム」と呼ばれる考え方が流行し、「LISP」や「Prolog」というエキスパートシステム用の言語で、プログラムを作成して遊んだことを思い出しました。

【ディープラーニングのAI処理】

  • たくさんの入力を与えることで、それぞれの特徴を自動的に判別し、判断条件(ルール)を自動的に生成する。
    ディープラーニングは、この自動生成するポイントを複数並べて、実際の脳のニューラルネットワークをシミュレートする技術をさします。
    この複数の処理層を持つことで、深層と呼ばれています。

    -例えば、膨大な数の写真と人物名を入力として与えて処理させることで、同一人物と他人の区別をする為の判定ポイントを自動学習させるものです。

    ディープラーニングは、映像や画像、音などのアナログ的なデータで、人間が判断条件を考えるのが難しいものに威力を発揮します。

    それは、画像としての文字、音としての言葉の判断などにも威力を発揮しています。

 

[2] ディープラーニングの特徴

ディープラーニングの学習にはいくつかの特徴があり、それにより3つに分類できると思います。

  1. 答えあり学習
    データとその答えを入力として、学習させる。
    これは、いろいろな写真の中から、犬を選択するようなケースに有効です。

  2. ゴール設定学習
    プロ棋士に勝利した「アルファGO」のように、勝利というゴールを設定して、そこに向かう一手一手の価値を、たくさんの対局データを処理させることで学習する。
     
  3. 答えなし学習
    ビッグデータのような膨大なデータを入力データとして分析させ、そのデータ内に含まれる特徴や傾向を出力させる。 
    これらのどの学習においても、1.は人間より精度が高く、2.は人間よりも強く、3.は人間が思いもつかないような特徴を見つけ出す可能性を秘めており、すでにたくさんの分野において、有効な結果が達成されています。

もっと詳しく知りたい方は、ウィキペディアなどのホームページを参照してください。

サイバーセキュリティコラム 04 ディープラーニングの考え方

 

[3] ディープラーニングに対する疑問と不安

ここに書いた内容は、あくまで私がいろいろな場面で獲得した知識を基にして、個人としての見解であることを断っておきます。近いうちには、人工知能の専門家にこの疑問や不安を聞いてみたいと思っています。その結果については、このコラムで書きたいと思います。

  1. 入力(学習)データについて
    非常に多くのデータを学習させることで、自己学習をするのが、ディープラーニングの神髄ですが、そのデータに間違ったデータが含まれていたり、データが偏っていたりした場合に、AI自身で間違ったデータの排除や、データが偏っていることの認識ができるでしょうか。
    (例えば、多数のIoTデバイスがハッキングに遭い、意図的に加工されたデータを学習させられることで、間違った判断に導かれるといった可能がある)

  2. 優先度(重み)の調整について
    ニューラルネットワークは、前段階の複数のニューロンからの入力信号それぞれを、あらかじめ決められた重みづけに基づいて処理し、出力信号を発行するかどうかが決まります。これは、あらかじめ設定した重みづけで、期待した回答になる場合はいいのですが、たとえば、猫の判定に関して、ある猫の写真が猫と判定できない場合、この重みづけを人間が調整し、正しい判断に導いてやる必要があります。もちろんその結果、別の写真が猫と判断されなくなる可能性もあるので、非常に繊細な、専門的な作業が必要になります。
    ディープラーニングがいろいろなところで利用されるようになった場合(当然そうなると思いますが)、このような専門家が企業などに必要になります。育成するか外部から獲得するかしなければいけません。この人材を社内で育成できる企業は限られていますので、ほとんどの企業は外部に求めることになるでしょう。
    私は、この専門家の存在が、さらに大きな脆弱性になる可能性を孕んでいると思います。もし、わざとあるデータだけを正しく判断するように重みづけをしたとしても、専門家以外に、これを見破るのはきわめて難しいのではないでしょうか。  

  3. モラルは教えられるのだろうか
    疑問に思うのがおかしいかもしれないのですが、例えば接客支援ディープラーニングシステムが、接客中の状況(相手の表情や会話の様子など)を学習した結果、本人の容姿をほめたほうがよく売れることを学習したとすると、単に言葉でほめるだけではなく、カメラで写した映像を加工して好みに合わせることを覚えるかもしれない。 
    美容整形がテレビで盛んにCMを流している今の時代に、こんなことを考える必要はないかもしれませんが、ここまではやってもいいなどと教えるのは、非常に難しい気がします。

  4. AI、ディープラーニングといっても所詮プログラム
    プログラムである以上は、バグや脆弱性が内在する可能性から切り離されることはありません。しかし、ディープラーニングの何重もの層になったニューラルネットワークのプログラムの中から、バグや脆弱性を発見し、修正するのは極めて難しい作業になるでしょう。それどころか、入力データに問題があったのか、重みづけに問題があったのか、プログラムのバグなのか、人工知能ソフトが暴走して制御できなくなったりしたら、その場面に直面したこと想像すると背筋が寒くなってしまいます。

 

このようにいろいろ書いてきましたが、だからといってAIやディープラーニングを無視したり、避けて通ることは不可能です。

そのうえで、ディープラーニング適用の向き不向きを理解して、友好的に活用する必要があるのではないでしょうか。

  Adapt or disappear"(適応するか、消えるか) 

 将棋や囲碁のプログラムが、プロ棋士に勝利する際に、一手一手をどのような判断をして指したのか、それが最善手なのか、それこそだんだんと神様のようになってしまうのかもしれません。金融市場は、プログラム同士の争いになり、優れたプログラムをクラウド上で超高速に稼働させたものが、勝利をする時代は現実になるでしょうね。

 

 

※本コラムは、平成28年3月頃に社内コラムとして連載したものに加筆・修正し、掲載させていただいています。

関連製品

security-img-01

セキュリティソリューション

情報漏洩対策とIT全般統制強化のための最新ソリューションをアイ・アイエムが提供いたします。

性能管理ソフトウエア「ES/1 NEOシリーズ」

性能管理ソフトウエア
「ES/1 NEOシリーズ」

企業のITシステムの安定稼働とコスト削減をご支援します。

タイムサーバー

ネットワーク上の機器に標準時刻を高精度に配信し、時刻をセキュアに同期。時刻同期のトラブルを解消します。

サイバータイムソリューション

サイバータイムソリューション

認定タイムスタンプ、電子署名などをはじめとするソリューションで、電子データの証拠能力を高め保証します。

著者プロフィール

奥ノ坊 彰

奥ノ坊 彰セイコーソリューションズ株式会社 戦略ビジネス本部 エバンジェリスト

ネットワーク ・ セキュリティー「一筋」?十年。社内外のネットワークインフラ構築を担当する。社内の新人向けから技術者向けまでネットワークやインターネットの講座を幅広く開催している。

講習実績

  • 「デジタルでイノベーションを起こす」
    第4次産業革命への取り組み
    -セイコーソリューションズが進めるデジタルトランスフォーメーション支援戦略-