转自:http:///inger_h/article/details/52789339
在已经训练好模型的情况下,需要针对一个新任务做在线识别应该怎么做呢?
一种情况是,用已有的声学模型和新训练的语言模型。
语言模型可以同srilm等工具训练,但是
怎样将
语言模型与DNN
声学模型
结合一起来进行识别的。
SRILM可以用来训练ARPA格式的LM,假设
train.txt是语料,wordlist是词汇,
假设语言模型的字典和识别器的
字典一样,可以按如下办法训练LM
ngram-count -text train.txt -order 3 -limit-vocab -vocab wordlist -unk \ -map-unk "<unk>" -kndiscount -interpolate -lm srilm.o3g.kn.gz
然后通过下面的命令将
ARPA格式的LM转化成WFST格式
mkdir -p $lang_own cp -r $lang/* $lang_own gunzip -c $lm | utils/find_arpa_oovs.pl $lang_own/words.txt \ > $lang_own_tmp/oovs.txt || exit 1 gunzip -c $lm | \ grep -v '<s> <s>' | \ grep -v '</s> <s>' | \ grep -v '</s> </s>' | \ arpa2fst - | fstprint | \ utils/remove_oovs.pl $lang_own_tmp/oovs.txt | \ utils/eps2disambig.pl | utils/s2eps.pl | \ fstcompile --isymbols=$lang_own/words.txt --osymbols=$lang_own/words.txt \ --keep_isymbols=false --keep_osymbols=false | \ fstrmepsilon | fstarcsort --sort_type=ilabel > $lang_own/G.fst utils/validate_lang.pl --skip-determinization-check $lang_own || exit 1;最后生成新的语言模型在graph_own_dir
graph_own_dir=$model_dir/graph_own utils/mkgraph.sh $lang_own $model_dir $graph_own_dir || exit 1;
第二种情况是,利用一个新的字典和已有的声学模型
这种情况也比较多,例如
用户想改变字典,新增词汇。首先要
修改lexicon,例如通过新增加单词到原来的lexicon。
如果不知道新单词对应的pronounciation, 可以通过工具
grapheme-to-phoneme G2P转化自动生成lexicon .常见的G2P工具有
Sequitur and Phonetisaurus。
利用新的lexicon可以创建新的lang目录
utils/prepare_lang.sh \ --phone-symbol-table $lang/phones.txt \ $dict_own "<SPOKEN_NOISE>" $lang_own_tmp $lang_own新生成的lang就会在lang_own目录下。 -- phone-symbol-table选项十分重要,它保证了新lexicon里面的音素和原来识别器里面的音素是对应的。最后再生成语言模型。
graph_own_dir=$model_dir/graph_own utils/mkgraph.sh $lang_own $model_dir $graph_own_dir || exit 1;
第三种情况是,字典语料都不同,语言模型也重新训练。这个时候从准备字典开始就要重新做。
./local/
general_prep_dict.sh ./tv
utils/
prepare_lang.sh --phone-symbol-table data/lang/phones.txt tv3/dict/ "<UNK>" tv3/local/lang tv3/lang
local/
general_train_lm.sh tv
local/
general format_data.sh tv
utils/
mkgraph.sh tv/lang_dev/ exp/tri3b_dnn_2048x5/ tv/graph
注意: 有可能在prepare_lang的时候可能会出错,
这是因为准备字典时生成的lexicon.txt, non_silence_phone.txt,extra_questions.txt里面有
可能会含有原来声学模型训练时没有的因子,必须要保持两者一致。
Checking tv4/dict/extra_questions.txt ...
--> reading tv4/dict/extra_questions.txt
--> ERROR: phone "X5" is not in {, non}silence.txt (line 120, block 17)
--> ERROR validating dictionary directory tv4/dict (see detailed error messages above)
--> reading tv4/dict/extra_questions.txt
--> ERROR: phone "X5" is not in {, non}silence.txt (line 120, block 17)
--> ERROR validating dictionary directory tv4/dict (see detailed error messages above)
Checking tv3/dict/extra_questions.txt ...
--> reading tv3/dict/extra_questions.txt
--> tv3/dict/extra_questions.txt is OK
--> SUCCESS [validating dictionary directory tv3/dict]
Phone appears in the lexicon but not in the provided phones.txt: X5