Insights & Innovations

Dive into our curated collection of articles, where we explore the latest trends, breakthroughs, and best practices in the world of Large Language Models and NLP. Stay informed, inspired, and ahead of the curve with our expert insights

關於 Prompt engineering 我只是略懂:徹底解析什麼是超參數?

在 Transformer 架構和 GPT 模型中,超參數是在訓練模型之前設定的參數,它們控制著模型的結構(如層數、隱藏單元的大小等)和訓練過程(如學習率、批次大小等)。這些參數不會在學習過程中被模型自動調整,而是需要由研究人員或開發人員事先決定。例如,在 GPT 模型中,超參數可以包括編碼層的數量、每個層中的注意力頭數量、學習率等。

Read More »

企業級企業級 RAG(檢索增強生成)系統開發的實踐過程系列 – RAG 常遇到的失敗點

關於 RAG(檢索增強生成)這個用來強化 LLM 推論品質的方法論是個非常熱門的議題,網路上已經有無數篇文章與論文在討論這主題,這篇會是我們一個新系列文章的開頭,先系統性的整理在實踐 RAG 時會遇到的主要失敗點,進而從如何一一克服這些問題來展開我們的系列文章。

Read More »

Google Gemini 的提示詞工程(Prompt Engineering)

在探索完 OpenAI 的「提示詞工程」最佳實務後,本篇文章將聚焦於 Google 的 Gemini 提供的官方「提示詞工程」建議。雖然兩者的基礎原則相似,但由於系統設計上的差異,為完善本系列並便於未來跨系統比較,我們將深入解析一下 Gemini 是否有其獨有的見解。

Read More »

2024 農曆新年間閱讀到的有趣的想法

當一項新技術出現時,大家往往會對他如何用在增強既有任務上所產生讀影響更為關注,畢竟,這些改善是立即可見且容易理解的。然而,隨著時間的推移,如何用它來推動文明的邊界,也就是創造先前不可能的事物卻往往對世界產生更深遠的影響。然而,綜觀歷史,推動時代巨輪的關鍵軸承永遠都是來自後者。

Read More »

關於 GA4 我只是略懂:Landing page report

從這一篇文章開始,我們將持續的分享 SEO 以及網站流量分析的系列文章,這不僅支持我們的 SEO 和 內容策略,也是我們 GenAI Ops 中關鍵數據的來源。透過這些分析,我們旨在改善與消費者的溝通,並體現我們對開放組織文化的承諾。

Read More »

我的 Mac 本地端 Python LLM 測試環境設定

在這篇文章中簡單的分享一下我如何嘗試在 Mac 上建立一個穩定的本地 Python 測試環境。從安裝 Python 和必要的工具,到配置 #虛擬環境 和 #測試框架,當然!我的開發環境配置絕對不是完美無瑕的,但是一個不斷迭代的過程的開始,一個不斷探索最適配我們自家組織商業發展過程的開發環境探索。

Read More »

關於 Prompt engineering 我只是略懂:ReAct

ReAct prompt pattern 是一種結合推理和行動的框架,用於增強 LLM 推論結果的品質。此技術讓模型在產生推理過程的同時,執行特定任務,包括與外部資源如知識庫互動。ReAct 結合了 Chain-of-Thought 的優勢,在知識密集型任務和決策任務中表現出色,提升了模型的可解釋性和可靠性。它通過動態推理來維持和調整行動計劃,並在推理過程中整合外部信息提升生成內容的即時性。

Read More »