Questa implementazione di llama è molto veloce anche con la sola CPU

  • trem@feddit.it
    link
    fedilink
    Italiano
    arrow-up
    1
    ·
    1 year ago

    L’ho provato un paio di giorni fa, non è malaccio. Mistral non l’ho ancora provato, solo llama2. Dovrebbe avere qualche vantaggio?