最初は必要なものをpipでインストールする。
$ pip install tensorflow argparse opencv-python numpy globGPUでtensorlfowを使う場合は、tensorflow_gpuをインストールする必要がある。
コードではtensorflowをimport する。tfとエイリアスをつけることが多い。
improt tensorflow as tfあとは必要なものももろもろimportする。
import argparse
import cv2
import numpy as np
from glob import globあとはこの記述が必要。これがないと変なwarningが出る。
import os
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'次に諸々必要な宣言をする。 num_classesは分類するクラス数。今回はアカハライモリ(akahara)とマダライモリ(madara)の２クラス。 img_height, img_widthは入力する画像のサイズ。
num_classes = 2
img_height, img_width = 64, 64参照 >> https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/slim
最近開発元が押しているslimライブラリを使えば、結構らくちんに書ける。with slim.arg_scope を使えばscope下にあるconv2d全部にtf.nn.reluを適用させたりができてとても便利。注意なのが、batch_norm を使うときは、引数の is_training をテスト時もTrueにしておかないとなぜか結果がだめになる。
def Mynet(x, train=False):
with slim.arg_scope([slim.conv2d, slim.fully_connected],
activation_fn=tf.nn.relu,
weights_initializer=tf.truncated_normal_initializer(0., 0.01)):
x = slim.conv2d(x, 64, [3,3], scope='conv1')
x = slim.batch_norm(x, is_training=train, scope='bn1')
x = slim.max_pool2d(x, [2,2], scope='pool1')
x = slim.conv2d(x, 64, [3,3], scope='conv2')
x = slim.batch_norm(x, is_training=train, scope='bn2')
x = slim.max_pool2d(x, [2,2], scope='pool2')
x = slim.flatten(x)
x = slim.fully_connected(x, 256, scope='fc1')
x = slim.dropout(x, 0.25, scope='drop1')
x = slim.fully_connected(x, 256, scope='fc2')��
x = slim.dropout(x, 0.25, scope='drop2')
x = slim.fully_connected(x, num_classes, scope='fc_cls')
��return xtensorflow.layers の中にlayerがすでに用意されている。 これを使うと、こんな風に書ける。trainフラグは学習時とテスト時でdropoutの挙動が変わるから。学習時はTrueにして読み込む。
def Mynet(x, train=False):
x = tf.layers.conv2d(inputs=x, filters=32, kernel_size=[3, 3], padding='same', activation=tf.nn.relu, name='conv1')
x = tf.layers.max_pooling2d(inputs=x, pool_size=[2, 2], strides=2)
x = tf.layers.conv2d(inputs=x, filters=32, kernel_size=[3, 3], padding='same', activation=tf.nn.relu, name='conv2')
x = tf.layers.max_pooling2d(inputs=x, pool_size=[2, 2], strides=2)
mb, h, w, c = x.get_shape().as_list()
x = tf.reshape(x, [-1, h*w*c])
x = tf.layers.dense(inputs=x, units=128, activation=tf.nn.relu, name='fc1')
x = tf.layers.dropout(inputs=x, rate=0.25, training=train)
x = tf.layers.dense(inputs=x, units=num_classes, name="fc_cls")
return xtensorflowでは関数としてモデルを定義できる。slimというtensorflow内のライブラリもあるが、ここではあえて自分の手でlayerを作っていく。
Convolitional layerの定義。tensorflowではtf.Variableというものを用いて自分で学習パラメータを設定する。バイアスのパラメータも同様。
def conv2d(x, k=3, in_num=1, out_num=32, strides=1, activ=None, bias=True, name='conv'):
w = tf.Variable(tf.random_normal([k, k, in_num, out_num]), name=name+'_w')
x = tf.nn.conv2d(x, w, strides=[1, strides, strides, 1], padding='SAME')
tf.add_to_collections('vars', w)
if bias:
b = tf.Variable(tf.random_normal([out_num]), name=name+'_b')
tf.add_to_collections('vars', b)
x = tf.nn.bias_add(x, b)
if activ is not None:
x = activ(x)
return x��プーリングの定義。
def maxpool2d(x, k=2):
return tf.nn.max_pool(x, ksize=[1, k, k, 1], strides=[1, k, k, 1], padding='SAME')Multi layer perceptronの定義。
def fc(x, in_num=100, out_num=100, bias=True, activ=None, name='fc'):
w = tf.Variable(tf.random_normal([in_num, out_num]), name=name+'_w')
x = tf.matmul(x, w)
tf.add_to_collections('vars', w)
if bias:
b = tf.Variable(tf.random_normal([out_num]), name=name+'_b')
tf.add_to_collections('vars', b)
x = tf.add(x, b)
if activ is not None:
x = activ(x)
return xこれらを使ってモデルの定義は次のようにする。keep_probはdropoutの確率を制御するためのもので詳しくはあとで説明する。
def Mynet(x, keep_prob):
x = conv2d(x, k=3, in_num=3, out_num=32, activ=tf.nn.relu, name='conv1_1')
x = conv2d(x, k=3, in_num=32, out_num=32, activ=tf.nn.relu, name='conv1_2')
x = maxpool2d(x, k=2)
x = conv2d(x, k=3, in_num=32, out_num=64, activ=tf.nn.relu, name='conv2_1')
x = conv2d(x, k=3, in_num=64, out_num=64, activ=tf.nn.relu, name='conv2_2')
x = maxpool2d(x, k=2)
x = conv2d(x, k=3, in_num=64, out_num=128, activ=tf.nn.relu, name='conv3_1')
x = conv2d(x, k=3, in_num=128, out_num=128, activ=tf.nn.relu, name='conv3_2')
x = maxpool2d(x, k=2)
mb, h, w, c = x.get_shape().as_list()
x = tf.reshape(x, [-1, h*w*c])
x = fc(x, in_num=w*h*c, out_num=1024, activ=tf.nn.relu, name='fc1')
x = tf.nn.relu(x)
x = tf.nn.dropout(x, keep_prob=keep_prob)
x = fc(x, in_num=1024, out_num=num_classes, name='fc_out')
return xtensorflowではplaceholderというものを使う必要がある。これは名前の通り、メモリ確保を行うためのものである。 モデルを作成する時にplaceholderで仮の入力画像みたいに扱い、メモリの場所を確保していく。keep_probはdropoutの確率を制御するためのplaceholder。
X = tf.placeholder(tf.float32, [None, img_height, img_width, 3])
Y = tf.placeholder(tf.float32, [None, num_classes])
keep_prob = tf.placeholder(tf.float32)モデルを書いたら次に最適化optimizerを設定する。 まずは定義したモデルのインスタンスを作成。
# tensorflow.layersを使う時
logits = Mynet(X, train=True)
# 自分でlayerを定義した時
logits = Mynet(X, keep_prob)そして肝心のoptimizerの設定。ここで学習率だとかモーメンタムだとか重要なハイパーパラメータを設定する。 ここではAdamで学習率0.01, モーメンタム0.9を設定。
preds = tf.nn.softmax(logits)
loss = tf.reduce_mean(tf.losses.softmax_cross_entropy(logits=logits, onehot_labels=Y))
optimizer = tf.train.AdamOptimizer(learning_rate=0.001)
train = optimizer.minimize(loss)ついでにAccuracyを計算するための仕組みもここで作成する。
correct_pred = tf.equal(tf.argmax(preds, 1), tf.argmax(Y, 1))
accuracy = tf.reduce_mean(tf.cast(correct_pred, tf.float32))あとは学習させるだけなのでデータセットを用意する。一応再掲。詳しくはディープラーニング準備編を要参照。
# get train data
def data_load(path, hf=False, vf=False):
xs = np.ndarray((0, img_height, img_width, 3), dtype=np.float32)
ts = np.ndarray((0, num_classes))
paths = []
for dir_path in glob(path + '/*'):
for path in glob(dir_path + '/*'):
x = cv2.imread(path)
x = cv2.resize(x, (img_width, img_height)).astype(np.float32)
x /= 255.
xs = np.r_[xs, x[None, ...]]
t = np.zeros((num_classes))
if 'akahara' in path:
t[0] = 1
elif 'madara' in path:
t[1] = 1
t = t[None, ...]
ts = np.r_[ts, t]
paths.append(path)
if hf:
_x = x[:, ::-1]
xs = np.r_[xs, _x[None, ...]]
ts = np.r_[ts, t]
paths.append(path)
if vf:
_x = x[::-1]
xs = np.r_[xs, _x[None, ...]]
ts = np.r_[ts, t]
paths.append(path)
if hf and vf:
_x = x[::-1, ::-1]
xs = np.r_[xs, _x[None, ...]]
ts = np.r_[ts, t]
paths.append(path)
return xs, ts, paths
xs, ts, paths = data_load('../Dataset/train/images/', hf=True, vf=True) tensorflowではsessionというものを使って計算を行う。 tensorflowではモデルを定義した時に入力から出力までを一つのフローとして扱い、sessionに任意の出力を指定することでその出力までを一気に計算するという方式を取る。
GPUの設定も一緒に合わせて次のように書く。このsession内で学習が行われる。 config.gpu_options.allow_growth = True はGPUのメモリを必要な分だけ確保しますよーっていう宣言。 config.gpu_options.visible_device_list="0" は一個目のGPUを使いますよーっていう宣言。
config = tf.ConfigProto()
config.gpu_options.allow_growth = True
config.gpu_options.visible_device_list="0"
with tf.Session(config=config) as sess:
sess.run(tf.global_variables_initializer())ここからミニバッチを使って学習させる。100イテレーションを想定して、こんな感じでミニバッチを作成する。ミニバッチの作成の詳細はディープラーニング準備編を要参照。これで、xとtに学習データの入力画像、教師ラベルが格納される。
with tf.Session(config=config) as sess:
sess.run(tf.global_variables_initializer())
for i in range(100):
if mbi + mb > len(xs):
mb_ind = train_ind[mbi:]
np.random.shuffle(train_ind)
mb_ind = np.hstack((mb_ind, train_ind[:(mb-(len(xs)-mbi))]))
else:
mb_ind = train_ind[mbi: mbi+mb]
mbi += mb
x = xs[mb_ind]
t = ts[mb_ind]次にsessionを使って勾配などを一気に計算する。 sess.run()にtrain, accuracy, lossをしているが、それぞれモデルのパラメータ更新、accuruacy計算、loss計算を行っていて、返り値もこの順になっている。feed_dict={}とはplaceholderに入力する変数を入れるもの。Xにはモデルへの入力に実際にデータセットの画像を入れる。yには教師ラベル。keep_probはdropoutの確率でここは学習なので0.5の確率でdropすることを意味する。
with tf.Session(config=config) as sess:
for i in range(100):
# syoryaku ...
_, acc, los = sess.run([train, accuracy, loss], feed_dict={X: x, Y: t, keep_prob: 0.5})
print("iter >>", i+1, ',loss >>', los / mb, ',accuracy >>', acc)モデルを学習したらそのパラメータを保存しなきゃいけない。それはsaver.save()を使う。保存名はcnnckpttとする。(ckptは多分checkpointの略)
with tf.Session(config=config) as sess:
for i in range(100):
# syorayku ...
saver = tf.train.Saver()
saver.save(sess, './cnn.ckpt')以上で学習が終了!!
次に学習したモデルを使ってテスト画像でテストする。
placeholder、モデルの準備らへんはこんな感じ。
tf.reset_default_graph()
X = tf.placeholder(tf.float32, [None, img_height, img_width, 3])
Y = tf.placeholder(tf.float32, [None, num_classes])
keep_prob = tf.placeholder(tf.float32)
logits = Mynet(X, train=False)
#logits = Mynet(X, keep_prob)
out = tf.nn.softmax(logits)あとはテストデータセットを読み込む。
xs, ts, paths = data_load('../Dataset/test/images/')あとはテスト画像を一枚ずつモデルにフィードフォワードして予測ラベルを求めていく。これもsession内で行わなければいけない。学習済みモデルの読み込みもsession内でやる必要がある。それはsaver.restor()を使う。モデルの出力を得るには、out.eval() とするか、sess.run() を使うかの２通りがある。
config = tf.ConfigProto()
config.gpu_options.allow_growth = True
config.gpu_options.visible_device_list="0"
with tf.Session(config=config) as sess:
saver = tf.train.Saver()
saver.restore(sess, "./cnn.ckpt")
for i in range(len(paths)):
x = xs[i]
t = ts[i]
path = paths[i]
x = np.expand_dims(x, axis=0)
pred = sess.run([out], feed_dect={X:x, keep_prob:1.})[0]
#pred = out.eval(feed_dict={X: x, keep_prob: 1.0})[0]
print("in {}, predicted probabilities >> {}".format(path, pred))以上でtensorflowの使い方は一通り終了です。お互いおつです。
以上をまとめたコードは main_tensorflow_@@@.py です。使いやすさのために少し整形してます。
slimを使うときは main_tensorflow_slim.py 、 tensorflow.layersを使うときはmain_tensorflow_layers.py 、自分でlayerを定義するときはmain_tensorflow_raw.py
学習は
$ python main_tensorflow_slim.py --train
$ python main_tensorflow_layers.py --train
$ python main_tensorflow_raw.py --trainテストは
$ python main_tensorflow_slim.py --test
$ python main_tensorflow_layers.py --test
$ python main_tensorflow_raw.py --test