Bonjour,
Depuis quelque temps, on voit passer pleins de posts à propos de l'IA sur Linuxfr.
De mon côté, en ce moment, j'ai plein de mails à envoyer à droite à gauche, du coup je m'appuie sur des sites Internet qui proposent justement de générer des courriers complets à partir de quelques idées saisies en vrac.
Évidemment, cela fait gagner un temps fou, mais j'ai zéro confiance pour la confidentialité, Donc ma question est:
Est-ce que à tout hasard, on peut installer quelque chose d'équivalent en local chez soi?
# Llama ?
Posté par Stinouff . Évalué à 5 (+3/-0).
Salut,
Je faisais tourner Llama en local, je ne sais plus exactement quelle version. C'était juste sur le CPU, donc les réponses étaient lentes (deux mots par seconde ?). Ça fonctionnait correctement sinon.
# Re: IA Pratique
Posté par Moonz . Évalué à 7 (+5/-0). Dernière modification le 01 mars 2025 à 18:34.
En 100% local et libre, je conseillerai Jan, qui fournit une interface, un .AppImage et un .deb, et une installation simple de modèles ouverts.
llama.cpp si tu veux travailler en ligne de commande, intégrer avec des scripts, etc, mais on est déjà moins dans la pure découverte raide.
# y'a gpt4all
Posté par fearan . Évalué à 7 (+4/-0).
et koboldcpp
depuis peu koboldcpp permet de tourner avec vulkan, donc avec les cartes AMD :)
le plus limitant étant la RAM de la carte graphique
Il ne faut pas décorner les boeufs avant d'avoir semé le vent
# un optimiseur de Dockerfile
Posté par palm123 (site web personnel) . Évalué à 1 (+0/-1). Dernière modification le 02 mars 2025 à 09:46.
j'ai vu passer cela, par l'équipe de Dagger (Solomon Hykes, à l'origine de Docker)
https://github.com/dagger/agents/tree/main/dockerfile-optimizer
je suis en train d'installer Dagger version développement
sinon j'ai écrit un mini script pour moi qui va sur Youtube, extrait la bande audio, et traduit bien mieux les sous-titres, et range dans le dossier de l'auteur de la vidéo le texte, avec le même nom que la vidéo mais en txt au lieu de mp3
j'utilise yt-dlp
bizarrement pour avoir le nom du fichier créé par yt-dlp on n'a pas de solution géniale, voir
https://github.com/yt-dlp/yt-dlp/issues/12469
en 2 ème paramètre, je passe la langue, fr par défaut
je laisse le choix, en 3 ème paramètre, soit utiliser whisper que j'ai installé sur mon PC, dans ce cas, mon PC est à 100% CPU pendant 20 minutes, soit utiliser lemonfoxapi (il y en a plein d'autres), c'est payant et ça dure 1 à 2 minutes
on peut donner un nom de fichier à la bande audio d'une vidéo YouTube, basée sur le nom de l'auteur, le titre de la vidéo (et plein d'autres choses)
le script ( à vos critiques !)
exemple
sh download-yt.sh "https://www.youtube.com/watch?v=dJNeD-lm77g" en
le résultat, dans le fichier
FM_William_Graif/FM_William_Graif-I_made_the_Budapest_Gambit_100x_MORE_AGGRESSIVE.txt
ウィズコロナ
[^] # Commentaire supprimé
Posté par gUI (Mastodon) . Évalué à 3 (+0/-0). Dernière modification le 02 mars 2025 à 16:27.
Ce commentaire a été supprimé par l’équipe de modération.
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.