亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

在整個語料庫上訓練 W2V 模型是否合適?

在整個語料庫上訓練 W2V 模型是否合適?

烙印99 2022-05-11 15:13:32
我有一個自由文本醫學敘述語料庫,我將用它來進行分類任務,現在大約有 4200 條記錄。首先,我希望使用 w2v 創建詞嵌入,但我有一個關于此任務的訓練測試拆分的問題。當我訓練 w2v 模型時,是否適合使用所有數據來創建模型?還是我應該只使用訓練數據來創建模型?真的,我的問題歸結為:我是獲取整個數據集,創建 w2v 模型,用模型轉換敘述,然后拆分,還是應該拆分,創建 w2v,然后獨立地轉換兩個集合?謝謝!編輯我在我的工作地點發現了一個由供應商建造的內部項目;他們創建拆分,并僅在訓練數據上創建 w2v 模型,然后在不同的工作中獨立轉換兩組;所以這是我上面指定的兩個選項中的后者。這就是我認為的情況,因為我不想在任何測試數據上污染 w2v 模型。
查看完整描述

1 回答

?
梵蒂岡之花

TA貢獻1900條經驗 獲得超5個贊

NLP 中大多數此類問題的答案是“同時嘗試”:-)

測試與訓練數據的污染不相關,也不是生成詞向量的問題。這是您使用向量的模型中的一個相關問題。在我的用例中,我發現整個語料庫向量的性能更好。

詞向量的質量隨著更多的數據而提高。如果您不使用測試語料庫,則需要有一種方法來初始化詞匯外向量并了解它們可能對您的模型性能產生的影響。


查看完整回答
反對 回復 2022-05-11
  • 1 回答
  • 0 關注
  • 117 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號