クラウド最安のGPUについて

投稿日時: 投稿者:

渡辺名人が購入した130万円のパソコン、クラウドでそれと同じ性能のもの、1時間50円で使えるよとツイートしたらえらくバズった。

https://twitter.com/yaneuraou/status/1542366948528246786

上のツイートは、決して渡辺名人の研究を揶揄するものではなく、書き方次第で最低にも最高にも聞こえるという、そういう物事の二面性みたいなのって面白いよねという意味でツイートしたわけである。

しかし「クラウドの料金そんなに安くねーだろ」「それってGPUだけの値段ですよね？」「値段一桁間違えてない？」「クラウド使ったことない奴の妄想乙」みたいなツッコミをたくさん頂戴している。

https://twitter.com/_sushiy/status/1542510916284977155

このまま放置していると私に嘘つきの烙印を押されかねないので急いでこの記事アップする次第である。

私のことを知らない人のために言っておくと、私はAWSは、全リージョンにおいて上限緩和申請が通っており、しかも全リージョン100インスタンスまで起動できる。(おそらく日本国内において個人では最大級の上限緩和)　また、私がスポットインスタンスの起動を停止した直後にスポットインスタンスの料金が半分ぐらいにまで下落したことがある。(下記ツイート参照)

そんなわけで、私としてもAWSのことを何も知らずに書いているわけではないとまず言っておく。

話を続けよう。

いま将棋のプロ棋士の研究では定跡研究においてはDeep Learning系のソフトを用いるのが普通になっている。具体的にはdlshogiというソフトを用いていて、これはGPU性能が高くないと探索速度がでない。GeForce RTX 3090(以下3090と記す)でも、CPUは4～8スレッドもあれば十分である。(GPU側がボトルネックになる)

それで、3090なのだが、これは2017年にNVIDIAがGeForceシリーズのソフトウェア（ドライバ）のライセンスを変更し、データセンターへの導入を禁止することが明記された。だから、データセンター(AWSやGCPなど)で3090が使えることはない。

そこで、3090と同等の推論性能が出るV100を基準に考える。これはAWSで言うとp3.2xlargeインスタンスである。インスタンスタイプはオンデマンドとスポットとがあるが、将棋の検討に使うだけなので途中で中断されてもさほど困るわけではないから、スポットのほうを選択するものとする。またWindowsとLinuxとがあるが、Linuxのほうが安いし、Linuxでもdlshogi(思考エンジン部分)は動くのでLinuxのほうを使うものとする。

これは、オレゴンリージョンにおいて、現在価格は、$0.918/hrのようである。

あと、ネットワークのトラフィックがどうとか言っている人がいるのだが、将棋の思考エンジンをクラウド側に配置し、手元のパソコン(これは型落ちのノーパソでも何でも良いから金額には含めない)に将棋所などのGUIをインストールして使う場合、クラウドサーバー側に配置した思考エンジンからは読み筋がテキストメッセージとして送られてくるだけなので1秒間に1000文字程度しか送られてこない。なのでネットワークのトラフィックにかかる料金は無視できるのである。(日本～オレゴン間だとネットワークの遅延時間は0.1秒ほどあるが将棋の検討においてそんなものは何の影響もないので無視できる)

ここまで書いたが、それでも(ツイートにあるように)$0.4/hrより高いじゃないかと言われそうだが、いったん落ち着いて欲しい。

まず、A100(A100はV100の1.5倍ぐらいの推論性能)のオンデマンドでの世界最安はLambdaだと言われている。

AWSが$4.10/hr(AWSはA100 1GPUのインスタンスはなかったと思うので8 GPUのやつを8で割った料金？)に対して、Lambdaは$1.10/hrらしい。頭のおかしい低価格設定である。

Lambdaでは、8x NVIDIA Tesla V100(V100×8GPU)が$4.40/hr。これ8で割ったら$0.55/hrだな…。よしよし、$0.40に近づいてきた。

なぜこんな計算をしているかと言うと、個人間でGPU(マシン込み)をクラウドで貸し借りできるサイトがあるのだが、そこの相場と言うのは、最安の(AWSやGCPのような)クラウドサービスより安くなるからである。そりゃ、それより安くなけりゃ、そんな面倒くさそうなところから誰も借りようとは思わないわな。

だから、V100 1GPU 最安$0.55/hrより必ず安い価格でV100か3090かが借りられそうであるというところまで話が進む。

それで、個人間でGPUを貸し借りできるサイトは、例えば、ここである。(他にもあると思うけど、私はここしか知らない)

https://vast.ai/
Rent GPUs on Vast.ai

上のサイトのトップページのInterruptible Pricing(スポットインスタンスみたいに中断されうるインスタンス)をクリックする。

ご覧の通り、3090は$0.40/hrは割っている。2022年7月1日現在の相場は$0.30～$0.35/hr程度のようである。

このサイトは私は4年ほど前から知っていたのだが、昨年などはここ近年の仮想通貨の高騰により、AWSのスポットインスタンスと同等の料金相場となっていた。

なぜそうなるかと言うと、仮想通貨が高騰するとAWSのスポットインスタンスを使ってマイニングしても儲かるようになるから、儲かるか儲からないかのギリギリの値になるところまで入札されて、スポットインスタンスの価格がマイニングで稼げる金額とほぼ一致するまで高騰する。その状況だと、上のサイトのような個人間でGPUを貸し借りできるサイトも、マイニングにより稼げる金額とほぼ同じ料金になるのである。(マイニングで稼げる金額より安い料金で誰かに貸し出すぐらいなら、貸し出さずに自分でマイニングするほうが得なので、結局、マイニングで稼げる金額よりわずかに高い料金設定に落ち着く)

ところがビットコインの暴落を受け、この状況が一変したので、AWSのスポットインスタンスよりはずいぶん安い相場にて個人間のGPUの貸し借りが成立するようになったということである。

逆にこの手の料金の下限はどこかと言うと、事業として貸し出して儲けが出るか出ないかぐらいのところがその下限となる。儲かるならパソコンを無限個買ってきて電気代を払って貸し出せば無限に儲かるからである。そうはならないぐらいの料金設定に自ずとなる。

// 上記のサイト、私は使ったことはないので、何かトラブルがあっても一切責任は負いません。ご利用は、自己責任でどぞー。使えなかったよヽ(｀Д´#)ﾉなどは本記事のコメント欄にどぞー。

「クラウド最安のGPUについて」への12件のフィードバック

    • 作りかけたものの、紆余曲折あってお蔵入りになってますな…。
      いまの技術で作るとおもろいかも知れないっすな。

      なお、本文と関係のないコメントは手動的に削除されるだす。

      返信 ↓

  3. スポットインスタンスを借りれる位の知識がある人は谷合と千田と藤井竜王くらいだろうなぁ
    そもそも130万の仕事道具がセンセーショナルに報道？されているのがすでに貧乏っちぃと思いますねw

    返信 ↓

    • 年収1000万円以上の人にとって仕事道具として130万円は、どうってことのない金額だとは思いますが、それは、将棋界では従来は要らなかったはずの仕事道具なので、そういう意味ではセンセーショナルではあると思います。

      返信 ↓

  4. 旧型のLHR版のLHRの解除をする純正ドライバを出すらしい話も出てきたけど、もうなんだかｗ

    返信 ↓

    • なんか、もう最新のStockfishの改良取り込んでもほぼ強くならないところにきているそうで…。探索部の改良は、しばらくお休みです。

      返信 ↓

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です