我有一個自由文本醫學敘述語料庫,我將用它來進行分類任務,現在大約有 4200 條記錄。首先,我希望使用 w2v 創建詞嵌入,但我有一個關于此任務的訓練測試拆分的問題。當我訓練 w2v 模型時,是否適合使用所有數據來創建模型?還是我應該只使用訓練數據來創建模型?真的,我的問題歸結為:我是獲取整個數據集,創建 w2v 模型,用模型轉換敘述,然后拆分,還是應該拆分,創建 w2v,然后獨立地轉換兩個集合?謝謝!編輯我在我的工作地點發現了一個由供應商建造的內部項目;他們創建拆分,并僅在訓練數據上創建 w2v 模型,然后在不同的工作中獨立轉換兩組;所以這是我上面指定的兩個選項中的后者。這就是我認為的情況,因為我不想在任何測試數據上污染 w2v 模型。
1 回答

梵蒂岡之花
TA貢獻1900條經驗 獲得超5個贊
NLP 中大多數此類問題的答案是“同時嘗試”:-)
測試與訓練數據的污染不相關,也不是生成詞向量的問題。這是您使用向量的模型中的一個相關問題。在我的用例中,我發現整個語料庫向量的性能更好。
詞向量的質量隨著更多的數據而提高。如果您不使用測試語料庫,則需要有一種方法來初始化詞匯外向量并了解它們可能對您的模型性能產生的影響。
添加回答
舉報
0/150
提交
取消