Love. Death. Transformers.

20 March 2023 09:18

LLAMA в 4bit заказывали?
тут обернули llamu в 4бит и теперь она кушает 4гб на инференс для 7B модели, и 32гб для 65б модели, а теперь еще и нативно на мак

npx dalai alpaca install 7B
site