基于弱監(jiān)督學習的實體關系抽取方法研究.pdf

1、大數(shù)據(jù)相關產(chǎn)業(yè)與技術的發(fā)展使得科技信息服務業(yè)面臨前所未有的機遇和挑戰(zhàn)，需要對現(xiàn)有的應用進行研究與改進，這些應用都廣泛而深入的依賴知識圖譜，如:搜索引擎、個人智能助手、機器翻譯和問答系統(tǒng)等。
　　作為從無結構文本中構建知識圖譜（或稱知識庫）的關鍵性步驟，上述應用從實體關系抽取中受益良多。而作為弱監(jiān)督學習實體關系抽取的兩種重要方法，Rel-LDA和Type-LDA，近年來頗受重視。但是，這兩個模型繼承了LDA模型的“詞袋假設”，存在諸

2、多限制。為打破這一限制，本文結合TNG模型的在多元語法特征方面的長處，提出了Rel-TNG和Type-TNG兩個模型，并詳細給出了兩個模型的吉布斯采樣算法。在此基礎上，本文基于GENIA和EPI語料進行了試驗。試驗結果表明，雖然本文提出的模型和Rel-LDA、Type-LDA兩個模型在表現(xiàn)方面的差異沒有統(tǒng)計顯著性，但是，當引入先驗數(shù)據(jù)，Rel-TNG和Type-TNG的表現(xiàn)明顯優(yōu)于前者
　　主題模型實體關系抽取大規(guī)模應用的主要障礙

3、是高昂的計算成本，在資源有限的情況下，這表現(xiàn)為模型訓練速度緩慢。究其根本原因，相關的成本產(chǎn)生于:不同CPU上變量的同步以保持一致性;多種候選關系時的采樣過程等。幸運的是，已有的一些研究可以大大降低計算成本。本文針對Rel-TNG和Type-TNG模型的大規(guī)模應用進行了具體分析，得出結論:1）Alias方法和稀疏性方法不適用于實體關系抽取主題模型;2）同步AD方法和異步AD方法作為近似方法，在模型的訓練質量上與原始的采樣方法存在可忽略的區(qū)