Ettore Di Giacinto
ee96e5e08d
chore: refactor endpoints to use same inferencing path, add automatic retrial mechanism in case of errors ( #9029 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-03-16 21:31:02 +01:00
Ettore Di Giacinto
5fd42399d4
feat: support streaming mode for tool calls in agent mode, fix interleaved thinking stream ( #9023 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-03-16 00:50:19 +01:00
Ettore Di Giacinto
8818452d85
feat(ui): MCP Apps, mcp streaming and client-side support ( #8947 )
...
* Revert "fix: Add timeout-based wait for model deletion completion (#8756 )"
This reverts commit 9e1b0d0c82mudler@localai.io >
* feat: add mcp prompts and resources
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* feat(ui): add client-side MCP
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* feat(ui): allow to authenticate MCP servers
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* feat(ui): add MCP Apps
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* chore: update AGENTS
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* chore: allow to collapse navbar, save state in storage
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* feat(ui): add MCP button also to home page
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* fix(chat): populate string content
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
---------
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-03-11 07:30:49 +01:00
Ettore Di Giacinto
b2f81bfa2e
feat(functions): add peg-based parsing and allow backends to return tool calls directly ( #8838 )
...
* feat(functions): add peg-based parsing
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* feat: support returning toolcalls directly from backends
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* chore: do run PEG only if backend didn't send deltas
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
---------
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-03-08 22:21:57 +01:00
Ettore Di Giacinto
ac48867b7d
feat: add agentic management ( #8820 )
...
* feat: add standalone and agentic functionalities
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* expose agents via responses api
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
---------
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-03-07 00:03:08 +01:00
BitToby
96efa4fce0
feat: add WebSocket mode support for the response api ( #8676 )
...
* feat: add WebSocket mode support for the response api
Signed-off-by: bittoby <218712309+bittoby@users.noreply.github.com >
* test: add e2e tests for WebSocket Responses API
Signed-off-by: bittoby <218712309+bittoby@users.noreply.github.com >
---------
Signed-off-by: bittoby <218712309+bittoby@users.noreply.github.com >
2026-03-06 10:36:59 +00:00
Ettore Di Giacinto
580517f9db
feat: pass-by metadata to predict options ( #8795 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-03-05 22:50:10 +01:00
Ettore Di Giacinto
c7c4a20a9e
fix: retry when LLM returns empty messages ( #8704 )
...
* debug
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* retry instead of re-computing a response
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
---------
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-03-01 21:32:38 +01:00
Ettore Di Giacinto
51902df7ba
fix: merge openresponses messages ( #8615 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-02-21 09:56:43 +01:00
Ettore Di Giacinto
b471619ad9
chore(deps): bump cogito and add new options to the agent config ( #8601 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-02-18 22:10:26 +01:00
Ettore Di Giacinto
1c4e5aa5c0
chore: bump cogito ( #8568 )
...
Adapt to new API and drop call to Ask()
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-02-14 22:52:22 +01:00
Ettore Di Giacinto
c491c6ca90
feat(openresponses): Support reasoning blocks ( #8133 )
...
* feat(openresponses): support reasoning blocks
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* allow to disable reasoning, refactor common logic
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* Add option to only strip reasoning
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* Add configurations for custom reasoning tokens
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
---------
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-01-21 00:11:45 +01:00
Ettore Di Giacinto
3387bfaee0
feat(api): add support for open responses specification ( #8063 )
...
* feat: openresponses
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* Add ttl settings, fix tests
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* fix: register cors middleware by default
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* satisfy schema
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* Logitbias and logprobs
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* Add grammar
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* SSE compliance
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* tool JSON conversion
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* support background mode
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* swagger
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* drop code. This is handled in the handler
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* Small refactorings
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* background mode for MCP
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
---------
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2026-01-17 22:11:47 +01:00
