KYOCERA TECHNOLOGY COLLEGEを気ままにおさらい (2)

はじめに

前回記事の続き、第2週目。前回記事はこちら：

tl.hateblo.jp

YouTubeのJ-WAVEチャンネルにあるアーカイブ放送はこちら：

www.youtube.com

なおKYOCERA TECHNOLOGY COLLEGEの授業のようすを紹介した投稿がfacebookにあったので、こちらも引用しておく。なおYouTubeチャンネルにはまだアップロードされていないので、radikoのタイムフリー機能で聴くことができる。アーカイブがすでにアップロードされたので、上で引用。

www.facebook.com

8月のゲスト講師には、理化学研究所計算科学研究センター長の松岡聡さんをお迎えして、「史上初、世界一の四冠に輝いたスーパーコンピュータ『富岳』の誕生秘話」をテーマに、ここでしか聞けないようないろいろなお話をお伺いしています！

以降は、この放送回を聴いて考えた気ままなおさらい。

はじめに
四冠の中身
予算取りの大変さ、苦労話
おわりに

四冠の中身

スーパーコンピューター「富岳」は今年6月のTop500 *1 で四冠を達成したわけだけど、その内訳となるベンチマークは番組内でも解説されているとおり、以下の4つである。

LINPACK
HPCG
HPL-AI
Graph500

これらベンチマークについての概要は、すでにとても良い解説付きのプレスリリースが理化学研究所と計算科学研究センターから出ていたので、詳細はそちらに譲ることにする。

www.r-ccs.riken.jp

www.riken.jp

上で挙げたベンチマークのうち、ひとつめのLINPACKは密行列 *2 を解くものだけど、番組内でも言われていたように、シミュレーションでこのような行列を解くケースはあまりない。シミュレーションでよく出てくるのは帯行列や三重対角行列 *3 であって、こうした行列を解くのが得意かを測定するのがふたつめのHPCGである。

三つめのHPL-AIは低精度演算でLINPACKと同じことをやるもので、いわば深層学習向けのベンチマークとなっている。深層学習では精度がそんなにいらないという経緯は人工知能学会誌 Vol. 33 No. 1にある "特集「AI 計算資源」にあたって" 第4章が詳しい。この文献では倍精度、単精度、半精度という言葉が出てくるけれど、それぞれを円周率でざっくり例えるならば、

円周率を3.141592653589793くらいとみなして、そのくらいの厳密さで計算するのが倍精度
円周率を3.1415927くらいとみなして、そのくらいの厳密さで計算するのが単精度
円周率を3.14くらいとみなして、そのくらいの厳密さで計算するのが半精度

くらいの感覚で計算する。いわゆる普通のシミュレーションでは倍精度くらいの厳密さが要求される一方で，半精度では厳密さが失われるぶん、より高速に計算することができるようになって深層学習的にはお得になる。たとえば産業技術総合研究所のスーパーコンピューター「ABCI」の紹介 *4 では「人工知能処理向け計算インフラストラクチャ」という文言とともに半精度演算性能が第一に謳われていて、このシステムが深層学習方面に特化したつくりになっていることがうかがえる。

四つめのGraph500はビッグデータ向けのベンチマークであって、「演算能力だけでなく、メモリ性能、ネットワーク性能が重要となる *5」。つまりバランスよく性能が高くないと高いスコアが出せないようになっていて、前述の3つのベンチマークとはやや毛色の異なるものになっている。プレスリリースにある解説で「【Graph500】陸上だけでなくフィギュアスケートでも金メダル！？」とあるけれど、これはそうした異なる分野でのすごさをたとえたものだ。

ベンチマークは結果であって目標ではない、あるいはアプリケーション・ファーストという言葉が番組でも出てきたけれど、社会問題を解決する技術と、それを実現する側の技術の両輪で考えなければいけないのは、スーパーコンピューターでも同じこと。アプリケーションはスーパーコンピューターがなければ走らないし、スーパーコンピューターもその上で走るアプリケーションがなければ生きてこない。

何にせよ素晴らしいコンピューターはすでに完成し、試行的利用課題の募集*6も行われていて、次はアプリケーション側が頑張るフェーズに入りつつある。頑張リましょう。

予算取りの大変さ、苦労話

参加した学生からの質問、うっかりすると矢文が飛んできそう…これは番組で松岡先生が回答した通り。

無事に予算が取れたらスーパーコンピューターを買いにいくわけだけど、前回記事の終わりで挙げた参考文献『スパコンを知る: その基礎から最新の動向まで』にはスーパーコンピューターの購入（調達）方法も載っていて参考になる。導入の方法は官邸資料 *7 でも読むことができるけれど、どちらかというと手続きに近い話で、技術的な観点からの説明は書籍にあるもののほうがわかりやすい。インターネット版官報をチェックしていると、たまにスーパーコンピューターの入札公告・落札者等の公示を見かけることができる。

あとは個人の感想として、技術的に新しいものを作ろうとしたらお金がかかって、それで大きいものを作ろうとしたらまたお金がかかるのは致し方ないところもあり、それでも「富岳」ではチップから新造して2位に数倍の差をつけてベンチマーク四冠を達成し、新技術の十分な能力を証明したのだから、リソースを投下しただけのリターンはあったのでは、といったところ。技術者としてはたいへん冥利に尽きるストーリーだけれども、まあ想像でしかない。