推測解碼在可負擔硬體上到底有沒有用？RTX 3090 / V100 / vLLM 的三組可重現 benchmark

Mon, 06 Jul 2026 09:00:00 +0800

在 llama.cpp + 消費級 Ampere 上，推測解碼對 MoE 沒有淨加速，即使草稿接受率 100%；同型的 3090 換到 vLLM + MTP 卻是 +27.5%。決定效益的是引擎與方法，不是硬體等級。

GitHub Pull Shark 徽章的計數規則

Sat, 04 Jul 2026 02:00:00 +0800

GitHub Pull Shark 怎麼計數:哪些 PR 會算、私有和自己 repo 算不算,以及為什麼 is:merged 搜到的數字接近但不等於徽章的真實計數。

Hello Hugo

Tue, 13 May 2025 22:23:01 +0800

👋 哈囉，我是蔡秀吉，有時會在新竹風城讀書，所以可以叫我風城秀吉！性格外向，熱愛表演，是一名業餘演員暨新媒體創作者，喜歡帶給大家歡樂！

✉️ hctsai@linux.com ｜ 🔗 [Facebook](https://www.facebook.com/thc1006) ｜ 📸 [Instagram](https://www.instagram.com/thc1006/) ｜ ▶️ [YouTube](https://www.youtube.com/@thc1006/)

About

出身屏東討海漁家，從小在鄉下（大鵬灣）長大。K-12 期間即步入江湖，於商展（siong-tián）當叫賣學徒，因此善於交際及（台語、客語）嘴上功夫。高中畢業後即北上讀書，曾短暫待過歌仔戲團學習表演藝術；現隱居琦哩岸山（在北榮旁邊念大學）。

從小就對美術繪畫充滿熱情，大學期間擔任學生會宣傳部，負責管理近萬人的 Facebook 粉專。工作內容主要結合平面設計、知識內容、（廠商）業務需求，進行數位行銷，以提高流量、觸及和提升品牌曝光率。

說到設計，我喜歡從更廣的面向來切入，包含考量（教育、創業、商業）目標、使用者需求及意見回饋，以確保講者到觀眾（端對端）的觀賞體驗與美感都能相同。同時，我也非常注重細節，對於負責的專案／作品有極高的自我要求，也曾接受 Building for Everyone | Google for Developer 的培訓，具備以多元共融（D&I）以及無障礙（Accessibility）的視角設計作品的能力。憑藉自身跨領域的背景和敏銳的觀察力，我能快速捕捉並吸收各方意見和回饋，幫助團隊做出更好的決策，讓作品更上一層樓。

Skills

Digital Content Creation & Design
User Experience & Research
Accessibility and Inclusion
Documentation
Time and Task Management
Social Media Marketing

秀吉的技術記事

推測解碼在可負擔硬體上到底有沒有用？RTX 3090 / V100 / vLLM 的三組可重現 benchmark

GitHub Pull Shark 徽章的計數規則

Hello Hugo

About

Skills