[gull] LLM tournant en consultation sur votre propre machine
Philippe Strauss
philippe at straussaudio.ch
Wed Jul 26 14:15:23 CEST 2023
Ce site:
https://replicate.com/blog/run-llama-locally
donne des liens simples pour installer un LLM sur sa propre machine, je
vous recommande d'installer la version "CPU only" afin de comparer la
vitesse d'un LLM moyen à des tâches du quotidien, et ceci qu'en mode
lecture, pas apprentissage, c'est déjà super gourmand en resrources
les LLM.
écologiquement parlant à utiliser avec modération, ces perroquets++
--
Philippe Strauss
https://straussaudio.ch
More information about the gull
mailing list