リザバー計算 実装編

こんにちはAITCのmasatoです

AI分野で最近注目され始めている技術をご存知でしょうか?
それがリザバー計算という技術です!

これは「時系列データを使った分類や予測が低コストで高速に学習できる」
素晴らしい技術です。

今回の記事では、リザバー計算という技術を
セルオートマトンというものを用いて実装してみようと思います!
お楽しみに!

リザバー計算とは何かを知らない方は
前回、「リザバー計算 理論編」を執筆しましたので
こちらの記事をご覧ください!

まずセルオートマトンについて理解しよう

リザバー計算ではその名の通りリザバーというものを使って計算します

リザバーは容器に貯められた水、タコの足、量子系など
過去の情報をなんらかの形で現在に残すことができるものです

今回は、実際に論文でリザバー計算ができることが確認されている
セルオートマトンというものを用いてリザバー計算を実装してみたいと思います

その前にセルオートマトンとは何か理解していきましょう!

セルオートマトンとは?

セルオートマトンとはなんだか難しそうだなあと思ったかもしれません
しかし、非常にシンプルなアルゴリズムでできているので安心してくださいね!

まずオートマトンについて説明しましょう
オートマトンはなんらかの入力によって内部状態が0または1に変化するもののことをいいます
イメージとしては次のようなものです!

オートマトンを説明した図

例えば自動販売機にお金を入れると
購入できないモードから、購入できるモードに変わりますよね
このようなモードの変化を内部状態だと思っていただいて構いません!

そしてセルオートマトンは何かというと
オートマトンをマス目に配置したもののことを言います

オートマトンを
横並びにしたものを一次元セルオートマトン
横と縦に並べたものを二次元セルオートマトンといいます

セルオートマトンを説明した図

さてこの時、マス目に配置されたオートマトンをセルと呼ぶことにします
セルは、近くのセルの状態を入力にして内部状態を変化させます

マス目の配置の仕方や、
2マス隣までのセルの内部状態を入力とするか
それともただ隣のセルの内部状態を入力するかなどの違いで
様々なセルオートマトンが存在します

その中でも代表的な初等セルオートマトンについて説明しますね!
今回リザバー計算で用いるのも、この初等セルオートマトンです

初等セルオートマトンの仕組み

初等セルオートマトンでは両隣のセルの状態によって内部状態が変化します
そして、どのような状態でどう変化するかはあらかじめ決めておきます
例えば、オートマトンの両隣が0なら内部状態は0となり
左隣が0で右隣が1なら内部状態は1となるようにと決めておきます
これを局所ルールと呼びます

実際に内部状態が0の時は白色のセル、1の時は黒色のセルとして
局所ルールとして図に表してみると次のようになります

局所ルールを説明した図

初等セルオートマトンは
この局所ルールにしたがって内部状態を変化していくだけです

とてもシンプルですよね

実際に、次のに4番目のセルの内部状態は1でそれ以外の場合は0の場合で
ルールを適用すると次のように変化していきます
局所ルールの適用を説明した図

このように、時間ごとにオートマトンの内部状態によって白と黒で色付けして
並べると模様が浮かび上がりますよね
これを時空間パターンと呼びます

このパターンについてあとで詳しく説明するので覚えておいてください!

局所ルールは256個ある

さて局所ルールの決め方は実は256個あります
なぜ、そうなるか説明すると

セルと両隣のセルの内部状態「0」と「1」の組み合わせは
「000」「001」「010」「011」「100」「101」「110」「110」
の8通りありますよね

ここで、その組み合わせを
a0・・・a7と言うふうに記号として表します

a0・・・a7
は0か1になるので2の8乗の組み合わせがあり

256通りのルールがあることがわかります

局所ルールを説明した図

このように1次元セルオートマトンにはたくさんのルールがあるんです
このルールによっていろんな時空間パターンが見られるので見てみましょう!

時空間パターンはかなり深い

こんなにシンプルな初等セルオートマトンですが
局所ルールの決め方で時空間パターンが大きく4クラスに分類できることが知られています!

以下のように、「一様」「周期的」「カオス」「複雑」があります

時空間パターンを説明した図

クラスIの「一様」では全てのオートマトンの内部状態が0か1になります
クラスIIの「周期的」ではオートマトンの内部状態の周期性を確認できます
クラスIIIの「カオス」では完全にランダムなパターンを繰り返していきます。ランダムなので予想することができません

そして重要なのがクラスIVの「複雑」です。
これは、周期性とランダム性を区別できないという意味で複雑なのです

このクラスでは、周期的なパターンをしたかと思えばランダムなパターンをみせるので
とても不思議です!

リザバー計算では
「カオス」と「複雑」クラスでリザバー計算で使えることが知られています
結論からいうと
クラスI~IIIよりクラスIVの「複雑」でリザバー計算の性能が一番良くなるといわれています

余談ですがこのクラスIVには計算万能性と言う性質がありまして
これを使うことでコンピュータを作ることが理論的に可能といわれています
とても面白いですよね!ここでは説明できませんが、気になる方は調べてみてください

個人的に、人工知能の発展のために非常に興味深いものだと思っています!

セルオートマトンを使ったリザバー計算

これでセルオートマトンの基本について理解できたと思います
ここでは、実際にセルオートマトンを使ってリザバー計算の実装方法について説明していきます

説明のために時系列入力を4ビット、出力を3ビットとすると
イメージとしては次のようにリザバー計算を実装していきます

リザバー計算の例の図

 

これはざっくりとしたセルオートマトンを用いたリザバー計算の流れのイメージです
これから、詳細に説明していきますが、まずは大まかに説明します

まず、リザバー計算では時系列入力を扱うので
t=0なら[0100]、t=1なら[1000]、t=2なら[0011]…
というふうに時間に紐付けたデータを用意して入力します

次に
データを入力するとリザバーはセルオートマトンを採用しているので
時空間パターンを生成します

最後に、時空間パターンをもとに線形学習器を用いて、分類や回帰を行ない出力します
このようにしてリザバー計算を行なっていくのです

ここまでは、大まかなイメージを掴んでいただければ大丈夫です

 

さてこれから、より詳細にリザバー計算の流れを
次の3つのステップに分けて説明していきます

  1. 入力値を初期状態として設定する
  2. 局所ルールによって時空間パターンを生成する
  3. 時空間パターンから線形学習器で分類や回帰を行う

一つずつ見ていきましょう

1. 入力値を初期状態として設定する

まずt=0で[1000]のデータを入力した場合を考えてみましょう
その時、ランダム結合という処理を行い初期状態を設定します

状態が0のセルをL個用意し以下のようにランダムに結合していきます

ランダム結合を説明した図

ここで同じ[1000]の入力でランダム結合したものをS個作ります
(ただし、ランダム結合の仕方は異なります!)

2. 局所ルールによって時空間パターンを生成する

そして局所ルールをI回適用して時空間パターンを生成します

t=0のI回適用した時のセル空間に対して、
t=1の[0100]の入力とランダム結合を行います。これをリカレント結合と呼びます
これによって前の時間の情報を渡していると解釈できます

次の例では局所ルールを4回適用した例です

時空間パターンを生成の図t=2, t=3,…も同様にして時空間パターンを生成します

3. 時空間パターンから線形学習器で分類や回帰を行う

すると時系列のデータの数だけ時空間パターンができます
時間ごとに、時空間パターンをもとに線形学習器に分類や回帰をさせて値を出力させます

この例では、以下のように[1000]の時空間パターンから線形学習器に[12]を出力させています

線形学習器での学習の図

そして、補足として学習の方法ですが

t=0の入力データが[1000]と正解データ[12]を用意して
[1000]で生成される時空間パターンと正解データ[12]を線形学習器に渡して学習させます

時空間パターンは次のように
[0 0 0 1 0 0 0 0 0 0 0 0 0 1 0 0 ・・・ 0 0 0 ]の高次元特徴ベクトルにして

線形学習器に入力し、正解データの[12]と照らし合わせて学習させます

線形学習器での学習の図

リザバー計算の結果

さて以上のようにセルオートマトンのリザバー計算の方法について説明しました
最後にリザバー計算を使って入力した正弦波を生成してみます

今回セルオートマトンを用いたリザバー計算では2進数のものしか入力することができません
なので、正弦波を用意して時間ごとの値を2進数に変換して入力しています
学習時に使う正解データは2進数に変換する前の値を採用することにします

正弦波データの生成

それでは正弦波のデータの生成から見ていきましょう
まずは、必要なモジュールをインポートします

次に学習に使用するデータを取得する関数のコードです
細かく説明はできませんが、Numpyを使って正弦波のデータを作成し
出力データYに格納し
2進数に変換してから入力データのXに格納しています

また、これが2進数に変換する関数です

さて、これらの関数を使って学習データを生成して
Xの中身とYの値をグラフとして出力してみましょう

出力結果は以下のようになります!

[[1 0 1 ... 1 1 1]
[1 0 1 ... 0 0 1]
[1 0 1 ... 0 0 1]
...
[1 0 1 ... 0 1 1]
[1 0 1 ... 0 0 1]
[1 0 1 ... 0 1 1]]

正弦波出力

Xには120個の時系列データが入っています
一番最初の要素の[1 0 1 ... 1 1 1]がt=0の時の正弦波の値を2進数に変換したものです
2番目はt=1、3番目はt=2,…というふうに順番に格納されています

Yの正弦波出力はt=0から120まで、間隔を1としてプロットしたものです

これを用いてリザバー計算モデルを学習させていきます

リザバー計算モデルの実装

次に、リザバー計算モデルを実装コードです

こちらも細かな説明は割愛させていただきますが
今まで説明してきたことをそのまま実装しています

ここでは大まかな構成を説明します
入力層とリザバー層とリードアウト層をそれぞれクラスとしてまとめ
それらを用いてリザバー計算モデルのクラスを実装しています

リザバー計算モデルのクラスでは
学習と予測の2つの関数を使えるように実装しています

また、リーアドアウト層では
線形学習器として、scilit-learnライブラリの線形回帰モデルを採用しています
このモデルで重回帰分析を行なっています

当然ですが
この線形回帰モデルはニューラルネットワークの回帰に比べてかなり高速に計算できます

リザバー計算では学習にこのような線形学習器を使うので
大幅に計算コストを削減することが可能になります!

 

出力結果

次に作成したリザバー計算モデルを学習させてみます

最後にテスト用のデータを作成して
リザバー計算に予測させた結果を見てみましょう!

出力したグラフは次のようになりました
オレンジ線がリザバー計算の正弦波の出力結果で
青線が正解の正弦波のグラフです
(オレンジ線と青線は重なってしまっていて青線はほとんど見えてません)

比べてみるとかなり良い精度で正弦波を出力しています

t=0からt=20のあたりでガタガタしているのは
おそらく、セルオートマトンで生成される時空間パターンが
まだあまり特徴的でないため
線形学習器が正解の値とパターンを一致させることが難しいからだと考えられます

リザバー計算の出力結果

おわりに

今回はリザバー計算の実装について説明しました

ニューラルネットワークを実装してみた方はわかると思いますが
ニューラルネットワークよりは非常に簡単に実装することができます!

RNNなどと比較してみたり
別のタスクに適用してみるのも面白い試みだと思いますので
ぜひチャレンジしてみてください!

  • このエントリーをはてなブックマークに追加