溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

tensorflow的ckpt及pb模型持久化方式及轉化詳解

發布時間:2020-09-07 12:28:02 來源:腳本之家 閱讀:740 作者:鄭大汪 欄目:開發技術

使用tensorflow訓練模型的時候,模型持久化對我們來說非常重要。

如果我們的模型比較復雜,需要的數據比較多,那么在模型的訓練時間會耗時很長。如果在訓練過程中出現了模型不可預期的錯誤,導致訓練意外終止,那么我們將會前功盡棄。為了解決這一問題,我們可以使用模型持久化(保存為ckpt文件格式)來保存我們在訓練過程中的臨時數據。、

如果我們訓練出的模型需要提供給用戶做離線預測,那么我們只需要完成前向傳播過程。這個時候我們就可以使用模型持久化(保存為pb文件格式)來只保存前向傳播過程中的變量并將變量固定下來,這時候用戶只需要提供一個輸入即可得到前向傳播的預測結果。

ckpt和pb持久化方式的區別在于ckpt文件將模型結構與模型權重分離保存,便于訓練過程;pb文件則是graph_def的序列化文件,便于發布和離線預測。官方提供freeze_grpah.py腳本來將ckpt文件轉為pb文件。

CKPT模型持久化

首先定義前向傳播過程;

聲明并得到一個Saver;

使用Saver.save()保存模型;

# coding=UTF-8 支持中文編碼格式
import tensorflow as tf
import shutil
import os.path
 
MODEL_DIR = "/home/zheng/PycharmProjects/ckptLoad/Models/"
MODEL_NAME = "model.ckpt"
 
#下面的過程你可以替換成CNN、RNN等你想做的訓練過程,這里只是簡單的一個計算公式
input_holder = tf.placeholder(tf.float32, shape=[1], name="input_holder") #輸入占位符,并指定名字,后續模型讀取可能會用的
W1 = tf.Variable(tf.constant(5.0, shape=[1]), name="W1")
B1 = tf.Variable(tf.constant(1.0, shape=[1]), name="B1")
_y = (input_holder * W1) + B1
predictions = tf.add(_y, 50, name="predictions") #輸出節點名字,后續模型讀取會用到,比50大返回true,否則返回false
 
init = tf.global_variables_initializer()
saver = tf.train.Saver() #聲明saver用于保存模型
 
with tf.Session() as sess:
 sess.run(init)
 print "predictions : ", sess.run(predictions, feed_dict={input_holder: [10.0]}) #輸入一個數據測試一下
 saver.save(sess, os.path.join(MODEL_DIR, MODEL_NAME)) #模型保存
 print("%d ops in the final graph." % len(tf.get_default_graph().as_graph_def().node)) #得到當前圖有幾個操作節點

predictions : [ 101.]
28 ops in the final graph.

注:代碼含義請參考注釋,需要注意的是可以自定義模型保存的路徑

ckpt模型持久化使用起來非常簡單,只需要我們聲明一個tf.train.Saver,然后調用save()函數,將會話模型保存到指定的目錄。執行代碼結果,會在我們指定模型目錄下出現4個文件

tensorflow的ckpt及pb模型持久化方式及轉化詳解

checkpoint : 記錄目錄下所有模型文件列表
ckpt.data : 保存模型中每個變量的取值
ckpt.meta : 保存整個計算圖的結構

ckpt模型加載

# -*- coding: utf-8 -*-)
import tensorflow as tf
from numpy.random import RandomState
 
# 定義訓練數據batch的大小
batch_size = 8
 
#下面的過程你可以替換成CNN、RNN等你想做的訓練過程,這里只是簡單的一個計算公式
input_holder = tf.placeholder(tf.float32, shape=[1], name="input_holder") #輸入占位符,并指定名字,后續模型讀取可能會用的
W1 = tf.Variable(tf.constant(5.0, shape=[1]), name="W1")
B1 = tf.Variable(tf.constant(1.0, shape=[1]), name="B1")
_y = (input_holder * W1) + B1
predictions = tf.add(_y, 50, name="predictions") #輸出節點名字,后續模型讀取會用到,比50大返回true,否則返回false
 
#saver=tf.train.Saver()
# creare a session,創建一個會話來運行TensorFlow程序
with tf.Session() as sess:
 
 saver = tf.train.import_meta_graph('/home/zheng/Models/model/model.meta')
 saver.restore(sess, tf.train.latest_checkpoint('/home/zheng/Models/model'))
 #saver.restore(sess, tf.train.latest_checkpoint('/home/zheng/Models/model'))
 # 初始化變量
 sess.run(tf.global_variables_initializer())
 print "predictions : ", sess.run(predictions, feed_dict={input_holder: [10.0]})

代碼結果,可以看到運行結果一樣

predictions : [ 101.]

PB模型持久化

定義運算過程

通過 get_default_graph().as_graph_def() 得到當前圖的計算節點信息

通過 graph_util.convert_variables_to_constants 將相關節點的values固定

通過 tf.gfile.GFile 進行模型持久化

# coding=UTF-8
import tensorflow as tf
import shutil
import os.path
from tensorflow.python.framework import graph_util
 
MODEL_DIR = "/home/zheng/PycharmProjects/pbLoad/Models/"
MODEL_NAME = "model"
 
 
#output_graph = "model/pb/add_model.pb"
 
#下面的過程你可以替換成CNN、RNN等你想做的訓練過程,這里只是簡單的一個計算公式
input_holder = tf.placeholder(tf.float32, shape=[1], name="input_holder")
W1 = tf.Variable(tf.constant(5.0, shape=[1]), name="W1")
B1 = tf.Variable(tf.constant(1.0, shape=[1]), name="B1")
_y = (input_holder * W1) + B1
predictions = tf.add(_y, 50, name="predictions")
init = tf.global_variables_initializer()
 
with tf.Session() as sess:
 sess.run(init)
 print "predictions : ", sess.run(predictions, feed_dict={input_holder: [10.0]})
 graph_def = tf.get_default_graph().as_graph_def() #得到當前的圖的 GraphDef 部分,
              #通過這個部分就可以完成重輸入層到
              #輸出層的計算過程
 
 output_graph_def = graph_util.convert_variables_to_constants( # 模型持久化,將變量值固定
  sess,
  graph_def,
  ["predictions"] #需要保存節點的名字
 )
 with tf.gfile.GFile(os.path.join(MODEL_DIR,MODEL_NAME), "wb") as f: # 保存模型
  f.write(output_graph_def.SerializeToString()) # 序列化輸出
 print("%d ops in the final graph." % len(output_graph_def.node))
 print (predictions)
 
# for op in tf.get_default_graph().get_operations(): 打印模型節點信息
#  print (op.name)

結果輸出

predictions : [ 101.]
Converted 2 variables to const ops.
9 ops in the final graph.
Tensor("predictions:0", shape=(1,), dtype=float32)

tensorflow的ckpt及pb模型持久化方式及轉化詳解

并在指定目錄下生成pb文件模型,保存了從輸入層到輸出層這個計算過程的計算圖和相關變量的值,我們得到這個模型后傳入一個輸入,既可以得到一個預估的輸出值

pb模型文件加載

# -*- coding: utf-8 -*-)
from tensorflow.python.platform import gfile
import tensorflow as tf
from numpy.random import RandomState
 
sess = tf.Session()
with gfile.FastGFile('./Models/model', 'rb') as f:
 graph_def = tf.GraphDef()
 graph_def.ParseFromString(f.read())
 sess.graph.as_default()
 tf.import_graph_def(graph_def, name='') # 導入計算圖
 
# 需要有一個初始化的過程
sess.run(tf.global_variables_initializer())
# 需要先復原變量
sess.run('W1:0')
sess.run('B1:0')
# 輸入
input_x = sess.graph.get_tensor_by_name('input_holder:0')
#input_y = sess.graph.get_tensor_by_name('y-input:0')
op = sess.graph.get_tensor_by_name('predictions:0')
ret = sess.run(op, feed_dict={input_x:[10]})
print(ret)

輸出結果

[ 101.]

我們可以看到結果一致。

ckpt格式轉pb格式

通過傳入 CKPT 模型的路徑得到模型的圖和變量數據
通過 import_meta_graph 導入模型中的圖
通過 saver.restore 從模型中恢復圖中各個變量的數據
通過 graph_util.convert_variables_to_constants 將模型持久化

# coding=UTF-8
import tensorflow as tf
import os.path
import argparse
from tensorflow.python.framework import graph_util
 
MODEL_DIR = "/home/zheng/PycharmProjects/ckptToPb/model/"
MODEL_NAME = "frozen_model"
 
def freeze_graph(model_folder):
 checkpoint = tf.train.get_checkpoint_state(model_folder) #檢查目錄下ckpt文件狀態是否可用
 input_checkpoint = checkpoint.model_checkpoint_path #得ckpt文件路徑
 output_graph = os.path.join(MODEL_DIR, MODEL_NAME) #PB模型保存路徑
 
 output_node_names = "predictions" #原模型輸出操作節點的名字
 saver = tf.train.import_meta_graph(input_checkpoint + '.meta', clear_devices=True) #得到圖、clear_devices :Whether or not to clear the device field for an `Operation` or `Tensor` during import.
 
 graph = tf.get_default_graph() #獲得默認的圖
 input_graph_def = graph.as_graph_def() #返回一個序列化的圖代表當前的圖
 
 with tf.Session() as sess:
  saver.restore(sess, input_checkpoint) #恢復圖并得到數據
 
  print "predictions : ", sess.run("predictions:0", feed_dict={"input_holder:0": [10.0]}) # 測試讀出來的模型是否正確,注意這里傳入的是輸出 和輸入 節點的 tensor的名字,不是操作節點的名字
 
  output_graph_def = graph_util.convert_variables_to_constants( #模型持久化,將變量值固定
   sess,
   input_graph_def,
   output_node_names.split(",") #如果有多個輸出節點,以逗號隔開
  )
  with tf.gfile.GFile(output_graph, "wb") as f: #保存模型
   f.write(output_graph_def.SerializeToString()) #序列化輸出
  print("%d ops in the final graph." % len(output_graph_def.node)) #得到當前圖有幾個操作節點
 
 
if __name__ == '__main__':
 #parser = argparse.ArgumentParser()
 #parser.add_argument("model_folder", type=str, help="input ckpt model dir") #命令行解析,help是提示符,type是輸入的類型,
 # 這里運行程序時需要帶上模型ckpt的路徑,不然會報 error: too few arguments
 #aggs = parser.parse_args()
 #freeze_graph(aggs.model_folder)
 freeze_graph("/home/zheng/PycharmProjects/ckptLoad/Models/") #模型目錄

注意改變ckpt模型目錄及pb文件保存目錄 。

tensorflow的ckpt及pb模型持久化方式及轉化詳解

運行結果為

predictions : [ 101.]
Converted 2 variables to const ops.
9 ops in the final graph.
 

總結:cpkt文件格式將模型保存為4個文件,pb文件格式為一個。ckpt模型持久化方式將圖結構與權重參數分開保存,多了模型更多的細節,適合模型訓練階段;而pb持久化方式完成了從輸入到輸出的前向傳播,完成了端到端的形式,更是個離線使用。

以上這篇tensorflow的ckpt及pb模型持久化方式及轉化詳解就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持億速云。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女