機械学習

Tensorflow, Kerasでよく使うセーブデータ形式

HDF5 多分一番よくつかわれるデータ形式だと思います。 非営利のHDF5グループが管理しているデータ形式。 階層バイナリ形式で非常に大規模なデータの保存にも対応できる。 ディープラーニングではモデルそのものやモデルの重みを保存するのに使用されていま…

Pytorch, TensorflowのGPU版とOpneCV環境の構築方法

2020年7月10日時点での情報です。 Pytorch v1.5.1, Tensorflow v2.1.0のGPU版とOpneCV環境の構築方法GPU: RTX2060Super OS: Windows10Pro 64bitPython3.7 Anaconda CUDA10.2 OpenCV 4.2 CUDAとcuDNNのインストール まずは、CUDA10.2をインストールします。 …

CVPR2020情報まとめ

CVPR2020のMain conferenceのプログラムが出ています。 cvpr2020.thecvf.com

Google Colabの使い方

Google colabを使えばTensorflowでプログラミングするのにローカル環境構築やGPUなどのハードの準備の必要なく GPU/TPUを使って学習や推論も行うことができます。 Google colabとは Googleのサーバークラウド上で動作するjupyter notebookの実行環境 juliay…

論文と実装コードへのリンク, Paper with Code

paperswithcode.comwww.profillic.com

TensorFlow2.0への移行メモ

TensorFlow2.0への移行メモいままでnativeのKerasと組み合わせて使っていたのですが、2.0からはtf.kerasを使うように変更しました。 また、TensorFlow2.0からはeager executionがdefaultになったようですのでそれにまつわることも含めて自分用のメモを書きま…

CVPR2019情報まとめ

CVPR2019情報まとめ カンファレンストップページ http://cvpr2019.thecvf.com/ 論文PDF http://openaccess.thecvf.com/CVPR2019.py Workshop リスト CVF Open Access ペーパーと実装がセットになったリンク集 https://paperswithcode.com/conference/cvpr-20…

Deep learning を使ったobject_detectionの情報

Deep learning を使ったobject_detectionの情報は以下のサイトを見ればすべてまとまっています。 サーベイ論文をもとにして、各手法の論文や実装サイトへのリンクが時系列でまとめられています。 github.com

transfer learning, fine tunning, distillationについて調べてみました

Transfer learning ある領域で学習したモデルを別の領域の学習に利用する手法のことです。 例えばimage netのような膨大な量の学習データを使用して1000カテゴリ分類の学習を行ったとして、その結果を用いて学習データの少ない10カテゴリ分類の問題を…

tensorboardではまった話

最近久しぶりにtensorboarを使ったらはまったので顛末をメモ 動作環境はWindows10 + Anacondaでtensorflow1.9です。 現象 tensorboard --logdir LOG_FILE_PATH (LOG_FILE_PATHは絶対パス) でtensorboadは以下のメッセージが表示され問題なく動いているように…

Processingで超お手軽に物体認識をやってみる

Pythonでtensorflowはたくさん記事があり、お手軽に使えますが、Processingでも推論だけでしたら非常にお手軽に試すことができます。 私の実行環境は、以下のとおりです。 Windows10 64bit Processing 3.3.7この記事はつぎのブログを参考にしました。 Tensor…

Kerasのコーディングではまったこと集

Kerasのsessionはきちんとclearさせてないとエラーがでます Tensoflow + Keras のコードの実行で、 TypeError: 'NoneType' object is not callableというエラーがでて原因がわからず少しはまりました。 どうやら、kerasのバックエンドのTensorFlowのsession…

TensorflowのTutorial "Deep MNIST for Experts"を試した時のメモ

wshinya.hatenablog.com前回は"MNIST For ML Beginners"の解説を読みプログラムを実行してみました。 今回は、以下のリンクから"Deep MNIST for Experts"の解説を読みプログラムを実行してみます。 Deep MNIST for Experts | TensorFlow前回のBeginners編と…

TensorflowのTutorial "MNIST For ML Beginners"を試した時のメモ

Tensorflowを勉強するにはTensorflowのTutorialを自分で入力して実行しながら理解するのが一番手っ取り早いです。 特に初めてTensorflowを動かすときには、以下のリンク先のMNIST for ML BeginnersというTutorialがおすすめです。 MNIST For ML Beginners | …

深層学習でよく使われる学習用データセットまとめ

2019/5月 追記: RGBDデータに関しては以下のブログにわかりやすくまとめられています。 robonchu.hatenablog.com追記: せっかくまとめましたが、arXivTimesに素晴らしいまとめがありますのでそれで十分ですね。 github.com MNIST: 手書き文字認識学習用デ…

Kerasを使っていてPILが必要になったときの対処法

conda install PILとやったらpythonのversionが3.5だと怒られてしまいます。 PILの代わりに、 conda install Pillowとすればいいようです。以下のサイトを参考にしました。 qiita.comPillowについては以下を参照 qiita.com

Tensorflow2.0 CPU/GPU版 + Keras + OpenCV ver3.0の環境構築

2019年10月 更新 インストール環境 - Windows64Pro - Nvidia Geforce2080TiAnacondaでよく使うコマンドは以下のサイトが便利です. qiita.com - Windows: tensorflow CPU版1) anaconda の仮想環境の作成 まずは、pipのアップデート python -m pip install --u…

機械学習基礎の基礎: 過学習を防ぐ正則化

前回のブログでは2次元平面上の8つの点を10次関数でfittingしました。 すると、fittingする関数の自由度が高いために、8つの点すべてを通るようにうまくパラメータを調節できてしまい、学習データに対しては100%近い正解率がでるのに、新たなデータ…

機械学習基礎の基礎: 過学習

今回は過学習についてみて見ます。 まずは訓練データを作成します。 訓練データは3次関数にノイズを加えた8つの点(x, y)構成することとします。 プログラムの初めに8点生成して、それらの点を10次関数でfittingすることにします。 データの個数がfitti…

機械学習基礎の基礎: パーセプトロンで線形分離を実装してみる

今度は、パーセプトロンを使って線形分離をしてみます。 適当に線形分離できそうなデータを以下のように作ってみました。 データは2次元平面上の点の座標(x, y)とそれぞれの正解ラベル1 or -1をつけています。 10, 20, 1 11, 30, 1 15, 30, 1 17, 35, 1 5,…

機械学習基礎の基礎: 確率的勾配降下法の実装

前回のデータとコードを改造してStochastic gradient descent method(SGD)を実装してみました。 と言っても、大した改造ではなくパラメータの更新を1つの訓練サンプルごとに行うようにしただけです。 np.random.permutation(X.shape[0]) で、いったんランダ…

機械学習基礎の基礎: 非線形fitting

前回の線形fittingでは、身長が低いところでfittingのずれが大きくなっていましたので、今回は2次関数でfittingすることにします。 同時に、入力データやパラメータをmatrixで扱うことでコードをシンプルにしています。 前回との差分は、fitting関数を y = …

機械学習基礎の基礎: データ読み込みから線形fittingまで

機械学習の基本である線形回帰のコードを書いてみます。流れの説明: 1) データファイルの読み込み: データファイルはtextデータで x0, y0 x1, y1 ... のように格納しています。今回以下のような ダミーの(身長, 体重)データを使用しました. 85, 16.8 90.5,…

東大の松尾研究室, Deep Learning基礎講座やってみた

東大の松尾研究室がDeep Learning基礎講座を開設しているらしいです. 以下のブログに触発されて私も早速ためしてみました. karaage.hatenadiary.jpすると確かに上のブログに書いてあるようにlecture_chap05_exercise_master.ipynbのTensorBoardの可視化のと…

Kerasでmnist.load_data()したときにデフォルトでデータがセーブされる場所

WindowsでKerasのサンプルを実行したときの話です。 例えばmnist_cnn.pyを実行するとネットワークからmnistデータセットをはじめにロードしますが、そのファイルがおいてある場所は、 C:\Users\username\.keras\datasets になります.以下のソースコードを読…

Kerasのバックエンドを変更する方法

Anacondaでpythonとtensorflow及びKerasをインストールしてpythonからimprot kerasを実行するとバックエンドがなぜかtheanoになってしまう問題の解決方法です。 解決方法:(環境変数を書き換える) C:\Users\someone\Anaconda3\envs\someEnv\etc\conda\activa…

機械学習の論文を効率よく読む方法

機械学習に関しては日々多くの論文が投稿されていて、すべてに目を通すことは時間的に難しいです。以下のサイトでは、投稿される機械学習関連の論文をリスト化し簡単なサマリーが付けられているので このサイトを見れば世の中のトレンドを知ることができます…

「これならわかる深層学習 入門」 瀧 雅人著 の正誤表

機械学習スタートアップシリーズ これならわかる深層学習入門 (KS情報科学専門書)作者: 瀧雅人出版社/メーカー: 講談社発売日: 2017/10/21メディア: 単行本(ソフトカバー)この商品を含むブログ (1件) を見る瀧 雅人さんの「これならわかる深層学習 入門」 …

「機械学習入門」 大関 真之著 を読みました

機械学習入門 ボルツマン機械学習から深層学習まで作者: 大関真之出版社/メーカー: オーム社発売日: 2016/12/01メディア: 単行本(ソフトカバー)この商品を含むブログを見る表紙が機械学習の本の中ではトップクラスに機械学習らしくなくいい意味で手に取り…

pythonを使った深層学習用ライブラリkerasのインストール方法

kerasとは? kerasはTensorFlowやTheanoをバックエンドとして実行するライブラリです。 深層学習のネットワークのアーキテクチャの構築を直感的に記述することが可能なライブラリです。 要は、深層学習をお手軽に書くことができますよ、ということですね。 …