Ettore Di Giacinto
|
b034cff149
|
feat: improve RAM estimation by using values from summary (#5525)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2025-06-05 19:16:26 +02:00 |
|
Ettore Di Giacinto
|
159388cce8
|
chore: memoize detected GPUs (#5385)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2025-05-18 08:55:44 +02:00 |
|
Ettore Di Giacinto
|
72111c597d
|
fix(gpu): do not assume gpu being returned has node and mem (#5310)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2025-05-03 19:00:24 +02:00 |
|
Ettore Di Giacinto
|
5c6cd50ed6
|
feat(llama.cpp): estimate vram usage (#5299)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2025-05-02 17:40:26 +02:00 |
|
Ettore Di Giacinto
|
9628860c0e
|
feat(llama.cpp/clip): inject gpu options if we detect GPUs (#5243)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2025-04-26 00:04:47 +02:00 |
|
Ettore Di Giacinto
|
bdd6769b2d
|
feat(default): use number of physical cores as default (#2483)
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2024-06-04 15:23:29 +02:00 |
|
Ettore Di Giacinto
|
b69ff46c7e
|
feat(startup): show CPU/GPU information with --debug (#2241)
Signed-off-by: mudler <mudler@localai.io>
|
2024-05-05 09:10:23 +02:00 |
|