PRCは、多岐にわたる分野で展開されているのですね。

PRCは学習が簡易でエネルギー効率が良く、時系列予測やリアルタイム処理に優れているため、今後も世界中で開発が進むでしょう。

しかし、根本的な課題があります。どのような非線形力学系を用意すればどのような計算が取り出せるのかが、理論的に解明されていないのです。場当たり的に様々な物理系を利用しているのが現状ですが、本来そこには数理があるはず。私たちは、PRCにおける数理基盤を構築し、物理系からの入力がどのように変換され、どのような情報処理を可能としているかの解読を目指しています。

それではさっそく、数理的なアプローチについて教えていただけますか。

様々な物理系を使えることがPRCの利点ですが、リザバーが適切にはたらくためには前提条件があります。それは、リザバーの状態が系の初期状態に依存しないこと。言い換えると、リザバーの応答に再現性があることです。これをEcho State Propertyといいます。リザバーにEcho State Propertyがあるかどうかは、初期値を変えても、同じ入力系列に対して同じ応答を示すかどうかで、大まかに調べられます。

より厳密には、リアプノフ指数という指標を用います。ニューラルネットワークの内部重みを変化させると、非カオスからカオスになるとき、リアプノフ指数が負から正になります。物理系は、リアプノフ指数が負となるパラメータ領域でのみ、リザバーとなりうるのです。

カオス（赤い領域）と非カオス（青い領域）の分岐を理論的に解明した

PRCの計算能力の評価については、どのような発展がありましたか。

PRCは、リザバーに固有な関数φ(ファイ)と、出力に対して実験者が調整する関数ψ(プサイ)との組み合わせで、所望の関数をつくるフレームワークといえます。したがって、関数φの表現能力が分かれば、ブラックボックスとされていた情報処理能力が明らかになります。それを評価する指標にIPC（information processing capacity）があります。これは関数φを非線形の直交多項式で展開して、表現可能な出力を明らかにするものです。IPCの導入によりリザバー中の非線形性が解析され、PRCの計算能力の定量的な評価が可能になりました。

リザバーとしての適性と、計算能力を測る手法を確立されたのですね。

先ほど、リザバーが適切に働くための前提条件としてEcho State Propertyをあげました。ところが面白いことに、Echo State Propertyが成立しない物理系であっても、リザバーに使える可能性があることがわかってきました。出力が時間に依存しない系を時不変、依存する系を時変といい、時変な系はリザバーとして使えないはずなのですが、実験者が処理をして使えるようにしているケースが少なからずあります。

ケースごとに直感的に行われていた処理は、「時変・時不変」の観点から統一的に扱えます。例えばトレンド（傾向）を持った系に対して、実験者はリザバーとして使うためにトレンド除去の処理をします。それはまさに時不変化の処理なのです。いま私たちは、本来使えない物理系を使えるように変換する、より一般的な理論を構築しています。

Echo State Propertyが成立する物理系をリザバーに採用するのが主流だが、むしろ「使えない」とされた物理系にこそ、フロンティアがある