OmniRoute — gateway เดียวรวมทุก AI provider สลับโมเดลเองตอนโควตาเต็ม งานไม่สะดุด
AI gateway open source: auto-fallback เมื่อเจอ rate limit, route ตามราคา/ความเร็ว/โควตา, dashboard ดูค่าใช้จ่าย — ใช้กับ Claude Code/Codex/Cursor ได้ MIT
เปิดตัว tool ↗เอาไปทำอะไรได้
อาการคลาสสิกของคนใช้ AI coding ทุกวัน: ทำงานเพลินๆ แล้วเจอ rate limit หรือโควตาหมดกลางคัน ต้องหยุดงานไปสลับบัญชี/สลับ provider เอง OmniRoute (ของ diegosouzapw, MIT, ตอนนี้ 4.6k stars ติด GitHub Trending) แก้ด้วยการเป็น AI gateway — รวมผู้ให้บริการ AI หลายเจ้าไว้หลัง endpoint เดียว แล้วให้ระบบสลับให้เองเมื่อตัวหลักมีปัญหา
ฝั่งซ้ายเสียบเครื่องมือ coding ที่ใช้อยู่ (Claude Code, Codex, Cursor, Cline, Copilot) ฝั่งขวาเสียบ provider ที่มี (OpenAI, Anthropic, Google, Ollama ฯลฯ) ตรงกลาง OmniRoute จัดการ:
- Auto-fallback — โมเดลหลักติด rate limit/โควตาหมด/ล่ม → เด้งไปตัวถัดไปอัตโนมัติ งานเดินต่อ
- Routing เลือกได้ — ตามความเร็ว ราคา หรือโควตาที่เหลือ (quota-aware)
- Dashboard — เห็นการใช้งาน ค่าใช้จ่าย และโควตาของทุก provider ที่เดียว
- ติดตั้งผ่าน Docker, ตัวระบบเป็น Python
ท่าใช้: เชื่อม API key/บัญชีที่มี แล้วตั้งโมเดลเป็น auto/coding — เจอปัญหาเมื่อไหร่มันเลือกตัวถัดไปให้เอง
ฟรีไหม
ตัว OmniRoute ฟรี open source เต็มตัว — ที่จ่ายคือค่าโมเดลตาม API key/subscription ของแต่ละ provider ที่เอามาเสียบเอง
ที่ผมโดนคือตรงนี้
นี่คือคำตอบเวอร์ชันซอฟต์แวร์ของปัญหาเดียวกับที่นาฬิกา ESP8266 (swc-digital ที่เพิ่งจดไป) แก้ด้วยฮาร์ดแวร์ — คนใช้ AI หลายบัญชีหลาย provider ทุกคนเจอเหมือนกันหมด: โควตาไม่เคยพอ และการสลับมือคืองานที่น่ารำคาญที่สุด ตัวนั้นทำจอไว้มองเห็นว่าใครใกล้เต็ม ตัวนี้ไปไกลกว่า คือสลับให้เลยโดยไม่ต้องมอง
จุดที่ต้องคิดก่อนใช้จริงกับงานเรา: การ route ข้ามโมเดลอัตโนมัติเหมาะกับงาน coding ทั่วไป แต่งานที่ผูกกับนิสัยเฉพาะของโมเดล (เช่น prompt ที่จูนมากับ Claude เป๊ะๆ อย่างสูตรในค่าย AA) การเด้งไปโมเดลอื่นกลางคันอาจได้ผลลัพธ์คนละโทน — ควรตั้ง fallback chain ให้อยู่ในตระกูลเดียวกันก่อน (Claude → Claude อีกบัญชี) แล้วค่อยข้ามค่ายเป็นทางเลือกสุดท้าย
อีกข้อจากต้นทางที่ควรย้ำ: ตัว gateway เห็นทุก prompt ที่วิ่งผ่าน — ติดตั้งเองในเครื่อง/VPS ตัวเองก็โอเค แต่อย่าใส่ secret ลง prompt โดยไม่มีมาตรการป้องกัน และเช็คเงื่อนไข free tier ของแต่ละ provider ด้วย บางเจ้าห้ามใช้ผ่าน proxy/gateway
🔗 GitHub — diegosouzapw/OmniRoute
ที่มา: เพจ getnotes