Twigg,有状态的大模型对话API,Twigg 是一个面向开发者的有状态 LLM 接口服务。普通的大模型 API 是无状态的，每次请求都得把完整对话历史重新发一遍，上下文管理、截断、切换模型全要自己写。Twigg 把这部分接了过去。用法很
作为开发者，你是否深受以下困扰？
Twigg 把这部分「脏活累活」接了过去。
把「无状态 API」升级为「有状态会话服务」，让开发者专注于业务逻辑而非上下文工程。
POST /v1/conversations
{
"model": "gpt-4o","system_prompt": "你是一个专业的代码审查助手...","tools":,// Function Calling 工具定义
"context_budget": { // Token 预算策略
"max_tokens": 128000,"reserve_for_response": 4096,"truncation_strategy": "sliding_window_with_summary"
},"metadata": {
"user_id": "user_123","project_id": "proj_abc"
}
}
# 响应: { "conversation_id": "conv_xyz789"。... }
POST /v1/conversations/conv_xyz789/events
{
至于role，'user',content: '帮我 Review 下这段 PR #456'
}
仅此一行。
{
event_id: 'evt_abc123',role: 'assistant',content: '代码审查完成...',tool_calls:,usage: {
prompt_tokens: /* ... */,completion_tokens: /* ... */。total_cost_usd: /* ... */
},context_stats:{
retained_events: /* ... */,truncated_events: /* ... */,summary_injected:true,}
}
# 对话进行到第 N 轮,突然想换个更便宜/更强/更私密的模型?PATCH /v1/conversations/conv_xyz789{"model":"claude-3-5-sonnet-latest"}
# 或切到本地部署的 Llama-3.1-70B{"model":"ollama/llama-3.1-70b","base_url":"http://localhost:11434/v1"}
✅ 历史完整保留 ✅ Prompt/Tools 自动转译 ✅ 自动适配 ✅ 零代码变更 ✅ 数据不出 Twigg 私有云/自建部署)
| 维度 | 传统方案 | Twigg Directional Lighting Solution™️✨ ⬇️⬇️⬇️⬇️ ➡️ ➡️ ➡️ 👉 👈 👆 👇 ☝️ ✌️ 🤞 🤟 🤘 🤙 🖐 ✋ 🖖👌 ☝ ◀ ▶ ◁ ▷ △ ▽ ▲ ▼ ◆ ◇ ● ○ ■ □ ★ ☆ ♠ ♣ ♥ ♦ ♤ ♧ ♡ ♢♪♫♬♭♮♯∞≤≥≠±÷×√∛∜∫∬∭∮∯∰∱∲ ∳ ∴ ∵ ∶ ∷ ∼ ≃ ≅ ≊ ≋ ≌ ≍ ≎ ≏ ≐ ≑ ≒ ≓ ≔ ≕ ≖≗≘≙≚≛≜≝≞≟≠≡≤≥…，按理说，﹢ ﹣ ﹤ ﹥ { } 〈〉《》《》「」『』〔〕〖〗〘〙〚〛«»‹›〝〞〟‘’‚‛“”„‟•…‧′″‴ ‵ ‶ ‷ ‸ ‹ › ※ ※※※ ※※※ ※※※ ※※ ※※※※※ ※※ ※ …，…，…，…，.. .. .. . . . .。，、 、 、 、 、 、 、 、 、 、 ヽ ヾ ゝ ゞ ・ · ¨ ¯ ´ ` ^ ~ ¯ ´ ` ^ ~ — ― ‾ ⁓ ⁔ ⁕ ⁖ ⁗ ⁘ ⁙ ⁚ ⁛⁜⁝⁞\ \| \| \|\| \|\|\| \|\|\|\| \/\ /\ /\/\/ \// /// //// ///// ====== ===== ==== === == = - - -- --- ---- ----- _ _ __ ___ ____ _____ ^ ^ ^^ ^^^ ^^^^ ~ ~ ~~ ~~~ ~~~~ ` ` `` ` '' '' ''' '''' "" "" """ """";，;，;，;，;，;:: :: ::: :::: ::的观点是，::::: || || ||| |||| ||||| \\ \\ \\\ \\\\ \\\\\ // // /// //// ///// ++ +++++ ++++++ +++++++ ** ** *** **** ***** ## ## ### ######### $$ $$ $$$ $$$$ $$$$$ %% %%% %%%% %%%%% && &&& &&&& &&&&& @@ @@@ @@@@ @@@@@!，! ，!，!，!，!，!，?，?，?，?，?，?，?，!，?，?，?，?，!@ #$ $% %^ &* *_)_+ += ={ }] | \ :;\" \"' '<>,.?/ ~ `，@ # $ % ^ & * _ - + = { } | \ :;\" ' `<>,.，/ Q W E R T Y U I O P A S D F G H J K L Z X C V B N M q w e r t y u i o p a s d f g h j k l z x c v b n m` `~!@#$%^&*_+-={};\':\",./<>，QWERTYUIOPASDFGHJKLZXCVBNM qwertyuiopasdfghjklzxcvbnm 中英文混排测试 A娱乐DEFGHIJKLMNOPQRSTUVWXYZ abcdefghijklmnopqrstuvwxyz 数字符号测试！＃＄％＆＊＋－＝［］｛｝；＇：「」，／？＼｜～｀ ０１２３４５６７８９ 全角半角混排１２３４５６７８９０ＡＢＣＤＥＦＧＨＩＪḰĿḾŃǾṔQŔŚŤǓVẂẌŸẐ áéíóúàèìòùâêîôûäëïöüãñõåøæçðþßĀĒĪŌŪāēīōū ĂĔĬŎŬăĕĭŏŭ ĄĘĮǪŲąęįǫų ČĎĚŇŘŠŤŽčďěňřšťž Đđ Ģģ Ķķ Ļļ Ņņ Ŗŗ Śś Ťť Źź Żż Žž Əə Əə Əə Əə Əə Əə ƏƏƏƏƏƏƏƏƏƏƏƏƎƎƎƎƎƎƎƎƎƎꓘꓘꓘꓘꓘꓘ ꓕꓕꓕ ꓕ ꓖ ꓖ ꓖ ꓗ ꓗ ꓗ ꓨ ꓨ ꓨ ꓚ ꓚ 꿻 ⟿ ⟿ ⟿ ⟿ ⟿ ⟿ ⟿ ⟨ ⟨ ⟨ ⟨ ⟨ ⟨ ⟩ ⟩ ⟩ ⟩ ⟩ ⟩ 《 《 《 《 《 《》》》》》》 】】】】】 〔 〔 〔 〔 〔 〔〕〕〕〕〕〕 « « « « « «» » » » » » ‹ ‹ ‹ ‹ › › › › ’ ’ ’ ’ ’ ’ “ “ “ “ ” ” ” ” „ „ „ „ † † † † ‡ ‡ ‡ • • • • · · · · · · …，…，…，…，…⋯ ⋯ ⋯ ⋯ ⋮ ⋮ ⋮ ⋱ ⋱ ━ ━ ━ ┃ ┃ ┃ ┄ ┄ ┄ ┅ ┅ ┆ ┆ ┆ ┇ ┇ ┈ ┈┉┉┊┊┋┋┌┌┍┍┎┎┏┐▉▉▉▉██████▊▊▊▊▉████■■■■●●●●◆◆◆◆◇◇◇◇◈◈◈◈☀☀☁☁☂☂☃☃☄☆☆★★☇☈☉☊☋ ☌ ☍ ☎ ☏ ☐ ☑ ☒ ☛ ☜ ✆ ✇ ✈ ✉ ✊ ✌ ✍ ✎ ✏ ᴀ ʙ ᴄ ᴅ ᴇ ɢ ʜ ɪ ᴊ ᴋ ʟ ᴍ ɴ ᴏ ᵠ ʳ s t u v w x y z Ạạ Ảả Ấấ Ầầ Ẩẩ Ẫẫ Ậậ Ấấ Ầầ Ẩẩ Ẫẫ Ậậ ẤấẦầẨẩẪẫẬậắằẳẵặắằẳẵặắằẳẵặắằẳẵặắằẳẵặắằẳẵặắằẳẵặắằẳẵặắ那些那些那些那些那些那些那些那些那些那些那些那些那些那些那些那些那些那些那些那些那... }} |
|---|