Azure+Kerasで環境構築-ぐぐりらにっき

こんにちは、ぐぐりら(<a href="https://twitter.com/guglilac">@guglilac</a>)です。
今回はじめてAzureでGPUサーバーを借りてKerasを使ったdeep learningをしたので、その環境構築についてのメモを記事にしたいと思います。

Azureだけでなく、クラウドサーバーを借りるの自体が初なのでいろいろと詰まったりしましたが勉強になりました。

## やりたいこと

* sshで入る
* jupyter notebookをローカルからいじれる

## 立ち上げ
最初はよくわからず適当にググって出てきた仮想マシンを立ち上げて環境構築しようとしました。

まずポータルに移動し、virtual machinesの欄から追加を選択。

サイズのところから検索窓に「nv」といれて出てきたlinux(ubuntu) NV6というのを立ち上げました。

## sshを使う
立ち上げの際に、パスワードを設定するところで代わりにsshを使用するように設定します。
`ssh-keygen -t rsa`でキーペアを作って、公開鍵の中身をコピーしてVM設定画面に貼り付けます。

[【Azure】Azureの仮想マシンにsshで接続する方法を徹底解説 | beyondDays](http://shimadays.com/2017/11/17/azureconnect/)には

> 仮想マシンを作る際の公開キーに入力するのは、user名を除く（下記の例だとtest_user）部分

って書いてあるけど、確認してみたらどっちでもいけた。

## IPアドレスとDNS

[Azure の仮想マシンとIPアドレス – MSKK Cloud OS Tech Blog](https://blogs.technet.microsoft.com/mskk-cloudos/2016/04/06/azure-ip/)

Azureでは静的なパブリックIPアドレスは有償らしい。

動的でもDNS名がつけられるからDNS名を設定してssh configに書いとけば良さそう。
他の人の設定見ても静的なパブリックIPアドレスにdns名つけているっぽいのでそれでやりました。

動的にしていると、起動している時はパブリックIPアドレスが割り当てられるのでそれが表示され、停止しているときは割り当てられていないのでパブリックiPアドレスの欄には`hoge-ip`のような名前が表示されている。(DNS名とはまた別)

インスタンス立ち上げのときにDNSを設定した気がしますが、できなかった場合は立ち上げた後に `構成＞プロパティ>パブリック IP アドレス/DNS 名ラベル`から変更できます

## ssh接続

ローカルで
```
ssh  -i 秘密鍵のパス ユーザー名@(ipアドレス or DNS名)
```
みたいに打つと入れる.

秘密鍵のパスは VM立ち上げ時に設定した公開鍵に対応するもの、ユーザー名はVM立ち上げ時に設定したものを入れます。
IPアドレスは動的にしていると毎回変わるので毎回管理画面に見に行かないといけないので、DNS名がいいでしょう。

ssh configにDNS名を使って書いておくのがいいと思います。

.ssh/configの書き方

## VMからGitHubにssh接続

sshしてVMに入ります。

まず、GPUを使って動かしたい自分のGitHubリポジトリをcloneしてくるためにssh鍵を登録します。

sshキーペアをインスタンス上で作成、github アカウントに公開鍵を登録しましょう。

デフォルトでid_rsaを見に行くみたいなので特にssh configを書かなくても大丈夫です。

具体的なことはここに書いてあるので参考にしてみてください。

[GitHubでssh接続する手順~公開鍵・秘密鍵の生成から~ - Qiita](https://qiita.com/shizuma/items/2b2f873a0034839e47ce)

## jupyter notebookのポートフォワーディング

次に、jupyterを使えるようにしましょ。
`pip install jupyter`は当然しておいて、ポートフォワーディングする設定をしていきます。

基本的にこれを参考にしました。
[AzureでJupyter Notebook立ち上げてsshでつなぐ - Qiita](https://qiita.com/F-ridge/items/018d5a3690b2ba110784#jupyter-notebook%E3%81%AE%E8%A8%AD%E5%AE%9Assh%E3%81%AA%E3%81%A9)

ちなみにvimで検索するのは`/`でできます(vim力のなさをかんじる)

上の記事で、jupyterのconfigファイルに`c.NotebookApp.ip='*'`と書くように書いてあったけど、これだとjupyterが起動できなかったので`c.NotebookApp.ip='0.0.0.0'`にしたらできました。

(参考:[with jupyter_notebook_config.py cann't start the jupyter · Issue #718 · jupyter/docker-stacks · GitHub](https://github.com/jupyter/docker-stacks/issues/718))

上の記事はsshするところがwindowsで参考にならなかったので以下の記事で補いました。

[サーバー上の Jupyter Notebook を SSH Port Forwarding を通して使う | kuune.org](https://kuune.org/text/2017/05/14/use-jupyter-notebook-on-server-through-ssh-port-forwarding/)

結局、
```
ssh -L ローカルのport番号:localhost:リモートのport番号 username@(dns or ip) -i 秘密鍵のパス
```

で、リモートのport番号を指定したローカルのport番号に飛ばすことができ、同時にサーバーにログインもされる。

ログインしたらjupyter notebookとすればリモートでも見ることができるというわけ。

このssh port forwardingの部分もssh configにかくことができて、

```
LocalForward ローカルのport番号 localhost:リモートのport番号
```

を通常のconfigに追記してあげればいいです。

これで`ssh HOSTNAME`でログインすればいつもポートフォワーディングされます。

## つまった

最初pythonが2.7とかだったのでpyenvいれてpython3を入れようとしました。

pyenvいれてPython3.6をinstallしようとしてもうまくいかない

結局、pyenvの場所を変えてみたらできた(`/usr/local/bin`に最初置いていたけど、permissionがどうとかでだめ。仕方なく`~/.pyenv`にcloneしてきたらうまくいった)

途中[【pyenv】ubuntu16.04でのpython環境の構築 - Qiita](https://qiita.com/banaoh/items/00aea13fe045fab7e8ba)を参考にして

これで必要そうなパッケージをpipでいれて動かしたら動いたのですが、CPUで動いていました。

GPUじゃないのかとおもって`tensorflow-gpu`を入れ直してもだめ、調べてみるとcudaとcudnnが入ってないみたいでした。。。
てっきり入ってるのかと思ったので愕然としました。

`lspci | grep -i NVIDIA`でGPUが刺さっていることは確認できたのですが、、

こっからCUDAとかいろいろしらべて入れようとしたのですが

```
You might want to run 'apt --fix-broken install' to correct these.
The following packages have unmet dependencies:
 cuda-drivers : Depends: nvidia-410 (>= 410.79) but it is not going to be installed
 libcuda1-410 : Depends: nvidia-410 (>= 410.79) but it is not going to be installed
 nvidia-410-dev : Depends: nvidia-410 (>= 410.79) but it is not going to be installed
 nvidia-cuda-toolkit : Depends: nvidia-profiler (= 9.1.85-3ubuntu1) but it is not going to be installed
                       Depends: nvidia-cuda-dev (= 9.1.85-3ubuntu1) but it is not going to be installed
                       Recommends: nvidia-visual-profiler (= 9.1.85-3ubuntu1) but it is not going to be installed
 nvidia-opencl-icd-410 : Depends: nvidia-410 (>= 410.79) but it is not going to be installed
E: Unmet dependencies. Try 'apt --fix-broken install' with no packages (or specify a solution).
```

```
Reading package lists... Done
Building dependency tree
Reading state information... Done
Use 'sudo apt autoremove' to remove them.
The following additional packages will be installed:
  nvidia-410
The following NEW packages will be installed:
  nvidia-410
0 upgraded, 1 newly installed, 0 to remove and 4 not upgraded.
89 not fully installed or removed.
Need to get 0 B/96.9 MB of archives.
After this operation, 394 MB of additional disk space will be used.
Do you want to continue? [Y/n] y
(Reading database ... 125617 files and directories currently installed.)
Preparing to unpack .../nvidia-410_410.79-0ubuntu1_amd64.deb ...
Unpacking nvidia-410 (410.79-0ubuntu1) ...
dpkg: error processing archive /var/cache/apt/archives/nvidia-410_410.79-0ubuntu1_amd64.deb (--unpack):
 trying to overwrite '/usr/lib/x86_64-linux-gnu/libGLX_indirect.so.0', which is also in package libglx-mesa0:amd64 18.2.2-0ubuntu1~18.04.2
Errors were encountered while processing:
 /var/cache/apt/archives/nvidia-410_410.79-0ubuntu1_amd64.deb
E: Sub-process /usr/bin/dpkg returned an error code (1)
```

などなどエラーの嵐で心が折れて、結局泣く泣くインスタンスを削除しました。

## 成功編

成功編では、最初からCUDAやcudnnなどが入っていて、Kerasとかも最初からインストール済みのインスタンスを立ち上げました。

[ディープ ラーニング仮想マシンの概要 - Azure | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/machine-learning/data-science-virtual-machine/deep-learning-dsvm-overview)

基本的には、立ち上げたインスタンスの種類が違うだけなので、やることはこれまでと一緒です。

ポータルに入って、ページ上部にある検索窓にdeep learning virtual mashinesで検索する。

market placeのところにでてきたdeep learning virtual mashineを選択、作成を押す

設定をいろいろやって購入。

基本的には失敗編と同じような設定で大丈夫です。

少し違うところがあったので、以下のように対応しました。

* デフォルトでなぜかパスワードだったからパスワードのリセットってところでsshを登録
* デフォルトでなぜかdns名が変なものだったので、`プロパティ > パブリック IP アドレス/DNS 名ラベル`のところから変更する

あとは一緒です。「つまった」の前までやると、無事GPUが使えるようになっています。

すばらし。

## おわりに

Azure + Keras環境構築でした。

読んでいただければわかると思うのですが、最後の「つまった」以外は基本的に成功編でも使うので無駄ではなかったのが不幸中の幸いでした。

最初から公式ドキュメントをみてやればよかった、、、ブログ記事は玉石混交ですね、やっぱり。

deep learningするなら Deep Learning Virtual Machineですね！！

Azure+Kerasで環境構築

0 件のコメント:

コメントを投稿

このブログを検索

POPULAR POSTS

SPONSORED LINK

RECENT POSTS

TWEETS

ARCHIVES

LABEL

CONTACT