À ce stade, je ne voulais plus dépendre d'un service en ligne pour la moindre question. Faire tourner un modèle de langage chez soi semblait le prolongement naturel de tout ce que j'avais lu sur l'auto-hébergement.
Ce chapitre est le premier vrai pas-à-pas de ce carnet : le choix du matériel, l'installation du moteur d'inférence, le choix d'un modèle raisonnable pour la puissance disponible, et surtout les nombreux réglages qui font la différence entre un outil inutilisable et un outil qui tient la route au quotidien.
J'y détaille aussi les limites, honnêtement : la vitesse de génération, la consommation électrique, et les questions pour lesquelles je repasse encore, parfois, par un service en ligne.