https://jackhuang0125.netlify.app/categories/meeting/ Recent content in Meeting on Yang's World Hugo -- 0.140.2 zh-TW Thu, 16 Jul 2026 23:00:00 +0800 https://jackhuang0125.netlify.app/posts/20250717_meeting/ Thu, 16 Jul 2026 23:00:00 +0800 https://jackhuang0125.netlify.app/posts/20250717_meeting/ <p><strong>GAP 補上辭意的訊息來強化語意的合理性</strong></p> <p>1️⃣ 加入 <strong>Word Embedding（詞向量）相似性</strong></p> <table> <thead> <tr> <th>工具</th> <th>用途</th> </tr> </thead> <tbody> <tr> <td>Word2Vec / GloVe / FastText</td> <td>表示詞意分布的向量空間</td> </tr> <tr> <td>Cosine Similarity</td> <td>衡量兩詞語意相似性</td> </tr> </tbody> </table> <h3 id="做法">做法：</h3> <p>1️. GAP 排完後，對每個群的 token：</p> <ul> <li>計算該群內所有詞的 <strong>embedding 平均</strong></li> <li>檢查這些詞彼此 cosine similarity 是否夠高</li> </ul> <p>2️. 若有明顯「語意不合」的詞：</p> <ul> <li>你可以手動微調或重新分群</li> <li>或將 GAP + embedding 結果結合成 <strong>新的相似矩陣</strong></li> </ul> <p>2️⃣ 建立 <strong>混合型相似矩陣</strong>（共現 × 詞意）</p> <p>將 GAP 的 col_prox（共現 correlation）與 Word2Vec 相似性做結合：</p> <p>$$ Final＿Similarity = \lambda \cdot GAP＿Col＿Prox + (1 - \lambda) \cdot Cosine＿Similarity $$</p> <ul> <li>$\lambda$：權重</li> <li>GAP 捕捉共現結構，詞向量補足語意距離</li> </ul> <p>用這個混合矩陣再進行 GAP 排序或分群，更穩健。</p> <p>3️⃣ 或者導入 <strong>詞典 / 知識圖譜</strong> 強化語意結構</p> https://jackhuang0125.netlify.app/posts/20250710_meeting/ Fri, 10 Jul 2026 16:00:00 +0800 https://jackhuang0125.netlify.app/posts/20250710_meeting/ <h3 id="generalized-association-plotsgap">Generalized Association Plots(GAP)</h3> <p>針對高維度的資料進行視覺化與排序的工具</p> <ol> <li>起始矩陣 D: 輸入任意一個 p by p 的 proximity matrix （如皮爾森相關係數矩陣）</li> <li>遞迴相關係數矩陣：</li> </ol> <ul> <li>$R^{(1)}=\phi(D)$</li> <li>$R^{(n+1)}=\phi(R^{(n)})$</li> </ul> <ol start="3"> <li>收斂：</li> </ol> <ul> <li>$R(n)$ 會收斂至 +1 和 -1 的矩陣 $R^{(\infty)}$</li> <li>收斂的過程當中會觀察到rank的降維和橢圓結構的變化（由橢圓壓縮至一直線）, 對於排序（seriation）和分群（clustering）很有用</li> </ul> <h4 id="應用在文本分析">應用在文本分析：</h4> <p>若對新聞文本進行主題建模分析，能透過建立文件 $\rightarrow$ Topic 或 Topic-Keyword 的近似矩陣，藉由 GAP 的排序與分群，有助於<strong>Topic 或 Document 之間結構的視覺化與理解</strong></p> <h3 id="procedure">Procedure</h3> <table> <thead> <tr> <th>步驟</th> <th>內容</th> <th>目的</th> </tr> </thead> <tbody> <tr> <td>1</td> <td>用 <strong>BBC News 5 類別資料（語料庫）</strong></td> <td>作為範例語料</td> </tr> <tr> <td>2</td> <td>每類取 <strong>前 15 個代表 token</strong></td> <td>建立小型 token 子集（75 tokens）</td> </tr> <tr> <td>3</td> <td>用 <strong>GAP 排序視覺化 75×75 矩陣</strong></td> <td>找到語意群聚結構</td> </tr> <tr> <td>4</td> <td><strong>人工確認分 5 群</strong></td> <td>將 token-to-topic 定義好</td> </tr> <tr> <td>5</td> <td>用 token 群建 <strong>LDA 的 η 先驗</strong></td> <td>導引 LDA 學出預期主題</td> </tr> </tbody> </table> <h3 id="question">Question</h3> <table> <thead> <tr> <th>問題</th> <th>你的回答</th> </tr> </thead> <tbody> <tr> <td>GAP 結果丟進 LDA 了嗎？</td> <td>是，透過 η 矩陣間接導入，不是直接丟 category</td> </tr> <tr> <td>η 怎麼設定？</td> <td>GAP 群內 η 大（如 0.3），其他小（如 0.01）</td> </tr> <tr> <td>GAP correlation 值有用來當機率嗎？</td> <td>沒有，只有分群結果用來指定 topic</td> </tr> <tr> <td>GAP 是否直接影響文件分類？</td> <td>沒有，只影響 LDA 主題-詞先驗</td> </tr> <tr> <td>是否做 baseline LDA 比較？</td> <td>尚未，之後會補做對比 baseline</td> </tr> </tbody> </table> <h3 id="advice">Advice</h3> <ul> <li>GAP → 幫助 η 結構設計</li> <li>baseline LDA vs GAP-informed LDA 結果對比</li> <li>LDA 原理本來無需分群，這裡是你的設計特色</li> <li>可以不用特別追求完美的理論公式，重點是架構合理、結果可解釋性夠</li> </ul>