這篇文章主要為大家展示了“如何使用TensorFlow訓練二分類神經網絡模型”,內容簡而易懂,條理清晰,希望能夠幫助大家解決疑惑,下面讓小編帶領大家一起研究并學習一下“如何使用TensorFlow訓練二分類神經網絡模型”這篇文章吧。
具體問題是將如下圖所示雙月牙數據集分類。
使用到的工具:
python3.5 tensorflow1.2.1 numpy matplotlib
1.產生雙月環數據集
def produceData(r,w,d,num): r1 = r-w/2 r2 = r+w/2 #上半圓 theta1 = np.random.uniform(0, np.pi ,num) X_Col1 = np.random.uniform( r1*np.cos(theta1),r2*np.cos(theta1),num)[:, np.newaxis] X_Row1 = np.random.uniform(r1*np.sin(theta1),r2*np.sin(theta1),num)[:, np.newaxis] Y_label1 = np.ones(num) #類別標簽為1 #下半圓 theta2 = np.random.uniform(-np.pi, 0 ,num) X_Col2 = (np.random.uniform( r1*np.cos(theta2),r2*np.cos(theta2),num) + r)[:, np.newaxis] X_Row2 = (np.random.uniform(r1 * np.sin(theta2), r2 * np.sin(theta2), num) -d)[:,np.newaxis] Y_label2 = -np.ones(num) #類別標簽為-1,注意:由于采取雙曲正切函數作為激活函數,類別標簽不能為0 #合并 X_Col = np.vstack((X_Col1, X_Col2)) X_Row = np.vstack((X_Row1, X_Row2)) X = np.hstack((X_Col, X_Row)) Y_label = np.hstack((Y_label1,Y_label2)) Y_label.shape = (num*2 , 1) return X,Y_label
其中r為月環半徑,w為月環寬度,d為上下月環距離(與書中一致)
2.利用TensorFlow搭建神經網絡模型
2.1 神經網絡層添加
def add_layer(layername,inputs, in_size, out_size, activation_function=None): # add one more layer and return the output of this layer with tf.variable_scope(layername,reuse=None): Weights = tf.get_variable("weights",shape=[in_size, out_size], initializer=tf.truncated_normal_initializer(stddev=0.1)) biases = tf.get_variable("biases", shape=[1, out_size], initializer=tf.truncated_normal_initializer(stddev=0.1)) Wx_plus_b = tf.matmul(inputs, Weights) + biases if activation_function is None: outputs = Wx_plus_b else: outputs = activation_function(Wx_plus_b) return outputs
2.2 利用tensorflow建立神經網絡模型
輸入層大?。?
隱藏層大?。?0
輸出層大?。?
激活函數:雙曲正切函數
學習率:0.1(與書中略有不同)
(具體的搭建過程可參考莫煩的視頻,鏈接就不附上了自行搜索吧......)
###define placeholder for inputs to network xs = tf.placeholder(tf.float32, [None, 2]) ys = tf.placeholder(tf.float32, [None, 1]) ###添加隱藏層 l1 = add_layer("layer1",xs, 2, 20, activation_function=tf.tanh) ###添加輸出層 prediction = add_layer("layer2",l1, 20, 1, activation_function=tf.tanh) ###MSE 均方誤差 loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction), reduction_indices=[1])) ###優化器選取 學習率設置 此處學習率置為0.1 train_step = tf.train.GradientDescentOptimizer(0.1).minimize(loss) ###tensorflow變量初始化,打開會話 init = tf.global_variables_initializer()#tensorflow更新后初始化所有變量不再用tf.initialize_all_variables() sess = tf.Session() sess.run(init)
2.3 訓練模型
###訓練2000次 for i in range(2000): sess.run(train_step, feed_dict={xs: x_data, ys: y_label})
3.利用訓練好的網絡模型尋找分類決策邊界
3.1 產生二維空間隨機點
def produce_random_data(r,w,d,num): X1 = np.random.uniform(-r-w/2,2*r+w/2, num) X2 = np.random.uniform(-r - w / 2-d, r+w/2, num) X = np.vstack((X1, X2)) return X.transpose()
3.2 用訓練好的模型采集決策邊界附近的點
向網絡輸入一個二維空間隨機點,計算輸出值大于-0.5小于0.5即認為該點落在決策邊界附近(雙曲正切函數)
def collect_boundary_data(v_xs): global prediction X = np.empty([1,2]) X = list() for i in range(len(v_xs)): x_input = v_xs[i] x_input.shape = [1,2] y_pre = sess.run(prediction, feed_dict={xs: x_input}) if abs(y_pre - 0) < 0.5: X.append(v_xs[i]) return np.array(X)
3.3 用numpy工具將采集到的邊界附近點擬合成決策邊界曲線,用matplotlib.pyplot畫圖
###產生空間隨機數據 X_NUM = produce_random_data(10, 6, -4, 5000) ###邊界數據采樣 X_b = collect_boundary_data(X_NUM) ###畫出數據 fig = plt.figure() ax = fig.add_subplot(1, 1, 1) ###設置坐標軸名稱 plt.xlabel('x1') plt.ylabel('x2') ax.scatter(x_data[:, 0], x_data[:, 1], marker='x') ###用采樣的邊界數據擬合邊界曲線 7次曲線最佳 z1 = np.polyfit(X_b[:, 0], X_b[:, 1], 7) p1 = np.poly1d(z1) x = X_b[:, 0] x.sort() yvals = p1(x) plt.plot(x, yvals, 'r', label='boundray line') plt.legend(loc=4) #plt.ion() plt.show()
4.效果
以上是“如何使用TensorFlow訓練二分類神經網絡模型”這篇文章的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注億速云行業資訊頻道!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。