Ettore Di Giacinto 2b2d6673ff exllama(v2): fix exllamav1, add exllamav2 (#1384) ...

* fix(exllama): fix exllama deps with anaconda

Signed-off-by: Ettore Di Giacinto <mudler@localai.io>

* feat(exllamav2): add exllamav2 backend

Signed-off-by: Ettore Di Giacinto <mudler@localai.io>

---------

Signed-off-by: Ettore Di Giacinto <mudler@localai.io>

2023-12-05 08:15:37 +01:00

406 B

Executable File

Raw Blame History

View Raw