Obtenir une IA locale très facilement et gratuitement

Avoir une IA gratuite en local, sans installer un tas de trucs compliqué, c'est possible avec Faraday, il suffit juste de choisir son systeme d'exploitation (mac ou windows) de télécharger le programme, de le lancer, puis de chosiir le model d'IA désiré et de lancer une conversation. Il est ùmême possiblke de lui choisir une personnalité. Il faut cependant minimum 8go de ram pour le faire fonctionner. Il est possible de lui parler en français.
Il n'est pas relié à internet, même s'il vous dit qu'il peut faire des recherches pour vous, ce n'est pas exact ^^ (il laissera un simple [insert lien] à la place du lien qu'il est sensé vous indiquer)
Il peux aussi vous dire qu'il peux faire des modifications pour vous et configurer des trucs pour vous, mais en fait il imagine tout ça, il ne peux que vous renseigner d'après sa base de donnée.

Il n'a pas la performance d'un chat GPT, il semble parfois se prendre pour un humain, il répète souvent les mêmes choses, et on ne peut pas l'entraîner comme oobabooga. Cependant il a le mérite d'être très simple d'utilisation, et très rapide d'installation. Qui plus est il est entièrement gratuit.

Pour faire parler l'assistant en français il faut lui demander s'il parle français.

Je vous conseille d'installer la version "WizardLM 1.0 13B" qui est plus performante que la version "WizardLM 7B" (le model par défaut), elle est cependant plus lourde, elle fait un peu plus de 9gb contre 4gb pour l'autre, mais elle ne se prends pas pour un humain (l'autre est en mode "jeu de rôle"), elle semble plus proche de chatGPT. Il existe également beaucoup d'autres models à télécharger via le programme, notamment un model à 30b mais qui risque de ralentir grandement votre ordinateur, et il y a même un model à 65b (le plus performant mais qui risque de ne pas fonctionner sur la plupart des ordinateurs car trop volumineux et gourmand de ressources). Je vous laisse donc faire vos propres essais avec ces models. Personnellement je ne l'ai installée que ce matin, donc je n'ai pas encore vraiment exploré ses capacités. Les models s'installent sur le disque principal, où vous avez vos documents (pas trouvé la possibilité d'installer sur un autre disque). Si vous avez une petite configuration je vous conseille néanmoins de télécharger un petit model de 7b.

J'attends vos retours ^^

Merci !

Je suis en train d'installer (télécharger) le WizardLM 1.0 13B (Q5_1)
Ce qui me laisse le temps de t'écrire quelques mots.
Une réflexion que je me fais depuis quelques temps : Il faudrait que je m'intéresse à Hugging face.
Cette installation me permet de l'aborder par la tranche ^^

Sais-tu comment ajouter des documents personnels à la base de connaissances ?


à bientôt après les premiers essais !

MDR :

Pour information, au delà du confort de lecture et d'écriture en français (à la cédille près), il faut bien savoir que TOUS ces modèles ont été entrainés très majoritairement en anglais.
De ce fait, en conversant en anglais on obtiendra des réponses souvent plus larges, précises ou complettes, une meilleure compréhension et moins de malentendus.
C'est également valable pour les ChatGPT et les Bing AI.

Pour la traduction j'utilise https://www.deepl.com/translator
Qui est loin au dessus de https://translate.google.fr/

2ème essai pas vraiment concluant :

Bonne nuit à bientôt !

Lydia a écrit:Sais-tu comment ajouter des documents personnels à la base de connaissances ?

Non, je ne crois pas qu'on puisse lui apprendre des choses. L'application est très récente, je pense qu'il faut attendre des mises à jour pour que cette option arrive

Pour les accents et la mise en forme, j'ai la même chose que toi, c'est un soucis de caractère. Certains models bug moins de ce côté.


Je suis en train de tester plusieurs models. Le model Hermés me parait prometteur. Je leur posent la même question : écris un poème, en français, en 5 lignes, et qui rime avec "et", avec pour thème le vent

Voici les résultats avec les models que j'ai installé (sans modification de la mise en page) :

WizardLM 1.0 13B (Q5_1) a écrit:Le vent souffle librement sur les champs,Et balance ses cheveux au-dessus des champs;Il caresse les visages et agite les draps,Pousse les bateaux vers les horizons lointains;Le vent regarde passer les jours et les nuits,Qui s'envolent comme les oiseaux du ciel.

Wizard Mega 13B (Q5_0) a écrit:
Le vent souffle, faisant onduler la nature,
Dans les feuilles tremblotantes son message parvient,
Brise glacÃe qui siffle entre les branches,
Renouvellement des forêts et des plaines

Airoboros 13B (Q4_0) a écrit:Le vent souffle librement au-dessus des champsEt nous pousse vers notre avenirIl est toujours prÃsent soit calme ou furieuxIl inspire la beautà et lâche nos voiles

Hermes 13B (Q5_1) a écrit:Le vent souffle dans la nuit / Comme une flœte tout au long du parc / Les feuilles sifflent doucement / Et les étoiles brillent fortement //
Le temps passe si vite / Comme un oiseau prêt à sa migration / Les jours sont courts comme un geste discret / Et la vie est très courte mais quoi faire ?

Wizard Vicuna 13B a écrit:
(il a fallu que je lui dise de continuer après chaque phrase)
Le vent souffle sans cesse, Ã travers la campagne
...Et d'une voix mystique il crie son nom"...
...Les feuilles quittent leurs branches, Et dans les airs elles volent ...
..Êtes-vous prêt ? Je vous invite à jouer !
...A travers les champs on entend craquer la balle

Manticore Pygmalion Chat 13B (Q5_1) a écrit:
Le vent souffle fort, sur les collines,
Il gonfle les draps et secoue les fils,
Au loin on entend son bruit impérieux,
Lorsque le soleil se couche, il nous quitte,
Et le monde est calme, comme un oiseau endormi.

Pygmalion 13B (Q5_0) a écrit:
Oui, je comprends! Tu veux le poeme complètement en français ou seulement les cinq premiers mots ? J’ai déjà fait des recherches, mais si tu préfères que j’aie une nouvelle recherche, dis-le en plaissance !
(après ma réponse)
Bon! Voici plusieurs options de monologues dans la langue française, avec "vent". Je te donne ceux qui sont sous forme d'"air" :*air courant *air du nord *air vif*l'air frais *l'air chaud *l'air froid*l'air tiède *l'air brumeux *l'air humide*l'air sec *l'air tranquille *l'air rauque*l'air pur *l'air pollué *l'air *fragranceJe vais mainten faire quelques autres. Si tu veux quelque chose spécifique encore, dis bonjour.

(complètement à l'ouest celui là   )



C'est tout pour ce soir