load pretrain | tf.train.init_from_checkpoint()

目录

原文发表于：2020 | 06 | 21

使用方法

tf.train.init_from_checkpoint(
    ckpt_dir_or_file,
    assignment_map
)

参数解释：

• ckpt_dir_or_file：.ckpt模型的路径
• assignment_map：字典类型，key为要恢复的变量名

常见错误

Assignment map with scope

ValueError: Assignment map with scope only name xxx should map to scope only xxx. Should be 'scope/': 'other_scope/'.

解决方案：

scope的层次数对齐，加上/。

注意事项

• hash_size和emb_size要对齐
• map的key是原始的变量，value是要被初始化的变量

抽象

{
    "warm_up": [
      {
        "ckpt_dir_or_file": "",
        "assignment_map": {
          "": ""
        }
      }
    ]
}