Tensorflow

TensorFlow 是谷歌開源的機器學習框架，相對于其它現有框架來說，其具有比較好的擴展性，但是也犧牲了它的速度。

下面介紹Tensorflow 的基本使用：

1, tensorflow 基本操作：

import tensorflow as tf
import numpy as np

乘法：

a = tf.placeholder("float") # 創建符號變量
b = tf.placeholder("float")

y = tf.mul(a, b) # 乘法操作，作用在符號變量上。
sess = tf.Session() # 創建會話，計算符號變量表達式
a1 = 4
b1 = 5
print "%f + %f = %f"%(4, 5,  sess.run(y, feed_dict={a: a1, b: b1})</pre> 
 
線性回歸

模型： 

 
 
  $$Y = W*X+b$$ 
 
# 生成訓練數據 + 噪聲，下面為了擬合 $$ Y = 2X $$ 
trX = np.linspace(-1, 1, 101)
trY = 2  trX + np.random.randn(trX.shape) * 0.33 # y=2x，但是加入了噪聲

X = tf.placeholder("float") #輸入輸出符號變量
Y = tf.placeholder("float")
定義模型
def model(X, w):
    return tf.mul(X, w) # 線性回歸只需要調用乘法操作即可。
模型權重 W 用變量表示
w = tf.Variable(0.0, name="weights") # 共享變量
y_model = model(X, w)
定義損失函數
cost = (tf.pow(Y-y_model, 2)) # 平方損失函數
構建優化器，最小化損失函數。
train_op = tf.train.GradientDescentOptimizer(0.01).minimize(cost)
構建會話
sess = tf.Session()
初始化所有的符號共享變量
init = tf.initialize_all_variables()
運行會話
sess.run(init)
迭代訓練
for i in range(100):
    for (x, y) in zip(trX, trY): 
        sess.run(train_op, feed_dict={X: x, Y: y})
打印權重w
print(sess.run(w))  </pre> 
 
邏輯回歸

模型： 

 
 
  $$y = sigmoid(X*W+b)$$ 
 
# 初始化權重w
def init_weights(shape):
    return tf.Variable(tf.random_normal(shape, stddev=0.01))

定義模型
def model(X, w):
    return tf.matmul(X, w)
獲取mnist 數據
mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)
trX, trY, teX, teY = mnist.train.images, mnist.train.labels, mnist.test.images, mnist.test.labels
定義占位符變量
X = tf.placeholder("float", [None, 784]) 
Y = tf.placeholder("float", [None, 10])
w = init_weights([784, 10]) 
py_x = model(X, w)
定義損失函數，交叉熵損失函數
cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(py_x, Y))
訓練操作，最小化損失函數
train_op = tf.train.GradientDescentOptimizer(0.05).minimize(cost)
預測操作，
predict_op = tf.argmax(py_x, 1)
定義會話
sess = tf.Session()
init = tf.initialize_all_variables()
sess.run(init)
調用多次梯度下降
for i in range(100):

# 訓練，每個batch，
for start, end in zip(range(0, len(trX), 128), range(128, len(trX), 128)):
    sess.run(train_op, feed_dict={X: trX[start:end], Y: trY[start:end]})
# 測試，每個epoch
print i, np.mean(np.argmax(teY, axis=1) ==
                 sess.run(predict_op, feed_dict={X: teX, Y: teY}))</pre> 

參考： 

 Tensorflow基本教程[https://github.com/nlintz/TensorFlow-Tutorials]
</div>