Skip to main content

用工具產生工具,做自己的 AI 開發助手

Posted in 雜談

🔗 https://github.com/hiroshiyui/ShioRamen - hiroshiyui/ShioRamen: A local AI coding assistant powered by llama.cpp. Runs entirely offline — no cloud API, no data leaving your machine.

Gemma 4 公告釋出後,我就想拿這個題目測試它聲稱的「函式呼叫」、「程式設計」兩項賣點,並且也想驗證自己對 AI Coding Assistant 的原理認知,所以就拿 Claude Code 幫我去生出另外一個同質產品。

26B 在我的電腦上(RTX3060 12G VRAM & 64GB DRAM for offloading)跑得有點吃力,還幫我亂改程式(俗稱的幻覺),讓我昨日原本最後是氣餒到直接刪專案。但是後來在輾轉反側間,心想先期我只是想驗證概念,沒有必要因噎廢食,所以我就放棄使用 26B 改用 E4B 了,結果還不錯。

我想如果不要太懶,像使用 Claude Code 那樣連專案初期的 skeleton 都出一張嘴叫它生出來,把範圍收斂一點,應該是還算夠用。就算不夠用,至少,我還有了一個在本地端的 LLM 可以練痟話 。

https://github.com/hiroshiyui/ShioRamen github.com
0 Likes 0 Boosts

Comments (2)

其實 rrcad 也是一項「用工具產生工具」的實踐。

用工具機生產更切合需求的工具,再用這些工具製造出更精密、可靠的產品,這種工業思維,很遺憾地周遭很少人有共鳴。

我就問說當年為什麼不讓我讀高職或五專?(苦笑)

忙完一個段落,才明白要充分發揮模型宣稱的能力,先決條件是 GPU 且是 VRAM 足夠大的 GPU。