[gull] LLM tournant en consultation sur votre propre machine

Philippe Strauss philippe at straussaudio.ch
Wed Jul 26 14:15:23 CEST 2023


Ce site:

https://replicate.com/blog/run-llama-locally

donne des liens simples pour installer un LLM sur sa propre machine, je 
vous recommande d'installer la version "CPU only" afin de comparer la 
vitesse d'un LLM moyen à des tâches du quotidien, et ceci qu'en mode 
lecture, pas apprentissage, c'est déjà super gourmand en resrources 
les LLM.
écologiquement parlant à utiliser avec modération, ces perroquets++
--
Philippe Strauss
https://straussaudio.ch




More information about the gull mailing list