Dive into our curated collection of articles, where we explore the latest trends, breakthroughs, and best practices in the world of Large Language Models and NLP. Stay informed, inspired, and ahead of the curve with our expert insights
在 Transformer 架構和 GPT 模型中，超參數是在訓練模型之前設定的參數，它們控制著模型的結構（如層數、隱藏單元的大小等）和訓練過程（如學習率、批次大小等）。這些參數不會在學習過程中被模型自動調整，而是需要由研究人員或開發人員事先決定。例如，在 GPT 模型中，超參數可以包括編碼層的數量、每個層中的注意力頭數量、學習率等。
關於 RAG（檢索增強生成）這個用來強化 LLM 推論品質的方法論是個非常熱門的議題，網路上已經有無數篇文章與論文在討論這主題，這篇會是我們一個新系列文章的開頭，先系統性的整理在實踐 RAG 時會遇到的主要失敗點，進而從如何一一克服這些問題來展開我們的系列文章。
在探索完 OpenAI 的「提示詞工程」最佳實務後，本篇文章將聚焦於 Google 的 Gemini 提供的官方「提示詞工程」建議。雖然兩者的基礎原則相似，但由於系統設計上的差異，為完善本系列並便於未來跨系統比較，我們將深入解析一下 Gemini 是否有其獨有的見解。
當一項新技術出現時，大家往往會對他如何用在增強既有任務上所產生讀影響更為關注，畢竟，這些改善是立即可見且容易理解的。然而，隨著時間的推移，如何用它來推動文明的邊界，也就是創造先前不可能的事物卻往往對世界產生更深遠的影響。然而，綜觀歷史，推動時代巨輪的關鍵軸承永遠都是來自後者。
如同文章的標題，這會是一篇持續更新的貼文，應該會持續十篇貼文的測試，嘗試去比較導外連結放置在貼文本體以及不放置在貼文本體時臉書所給予的使用者觸及量。
這篇文章的主要目標是在分享 GA4 的 Traffic Acquisition 中幾個主要需要理解的知識點，包含什麼是 Default Channel Group 跟 Custom Channel Group 以及 GA4 如何透過規則將流量分群。
這是 OpenAI 所提供的六大提示詞工程策略的筆記，文章中我除了會逐條的寫下自己針對每一條建議策略的實驗心得與筆記之外，我也會補充一些我常用的提示詞技巧在文章內。
從這一篇文章開始，我們將持續的分享 SEO 以及網站流量分析的系列文章，這不僅支持我們的 SEO 和 內容策略，也是我們 GenAI Ops 中關鍵數據的來源。透過這些分析，我們旨在改善與消費者的溝通，並體現我們對開放組織文化的承諾。
Llama 2 官方文件中的提示工程建議：從明確指示到角色提示，再到自我一致性與檢索增強，讓略懂的我為你揭示如何精進提示詞工程進而提升 LLM 的推論品質。
在這篇文章中簡單的分享一下我如何嘗試在 Mac 上建立一個穩定的本地 Python 測試環境。從安裝 Python 和必要的工具，到配置 #虛擬環境 和 #測試框架，當然！我的開發環境配置絕對不是完美無瑕的，但是一個不斷迭代的過程的開始，一個不斷探索最適配我們自家組織商業發展過程的開發環境探索。
ReAct prompt pattern 是一種結合推理和行動的框架，用於增強 LLM 推論結果的品質。此技術讓模型在產生推理過程的同時，執行特定任務，包括與外部資源如知識庫互動。ReAct 結合了 Chain-of-Thought 的優勢，在知識密集型任務和決策任務中表現出色，提升了模型的可解釋性和可靠性。它通過動態推理來維持和調整行動計劃，並在推理過程中整合外部信息提升生成內容的即時性。
目前因為不明原因，以下這一段被許多人認為是 OpenAI bug 的提示詞到目前為止依舊可以讓 ChatGPT、Bing Chat 以及 GPTs 回傳 system prompt 或是 default instruction，只要在對話的最開始輸入並送出，ChatGPT 就會回傳當下對話 session 所使用的 instructions，但不得不說透過閱讀這些非常用心撰寫的 instructions 確實是可以學到很多有用的技巧。
