Plus exactement le rename est considéré comme 'atomique' donc normalement l'ordinateur t'assure que tu as soit l'ancien soit le nouveau (ne fonctionne qu'en local pas par NFS).
Oui, mais c'est faux. Ton disque dure et ses caches ne garantissent rien du tout en cas de perte d'alimentation (d'où l'utilisation du flag "barrier=1" de ext3 pour diminuer le risque mais aussi les perfs ).
La seul que j'ai trouvé est qu'il doit y avoir des cas ou tu t'en fout et que tu veux juste de la performance.
Mais globalement, ces gesticulations pour écrire des données pour avoir l'atomicité est un peu bizarre.
En fait, il faudrait une fonction "soft" de sync, une fonction qui dit que l'écriture à effectivement eu lieu sans changer de priorité comme le fait sync() (done() ?). Le but serait de se foutre de la basse latence, mais de garder les performances et l'atomicité.
Il y a une période ou beaucoup se foutait des virus sur leur machine car il n'avait rien d'important dessus. Maintenant on a des réseaux de PC zombie.
Ce que je veux dire par là, c'est qu'une technique complexe peut facilement s'industrialiser. Imagines un kit de récupération de PC portable en veille qui récupère les numeros de CB dans la mémoire des navigateur ouvert.
Il faut faire la copie dans le même répertoire sinon, cela ne sert à rien.
L'important est la taille de la fenêtre de temps où tu n'as ni l'ancien fichier, ni le nouveau. Le rename est considéré comme très court, donc en cas de crash, tu as sois l'ancien, sois le nouveau fichier.
Dans ton cas, ta fenêtre inclus tous le "write", et c'est exactement ce que l'on veut éviter.
On a compris que :
open("MonFichier.temp")
write("MonFichier.temp")
fsync("MonFichier.temp")
close("MonFichier.temp")
rename("MonFichier.temp", "MonFichier").
devait être utilisé. Et si c'est lent il faut le mettre dans un thread.
Par contre, que faut-il faire pour une modification de fichier ? Comment avoir l'atomicité ? C'est fournis de base par le FS ou pas ?
En gros, si j'écris sur une partie d'un fichier, est-ce que j'aurais juste une partie modifiée en cas de crash ? Est-ce que mon fichier sera corrompu ?
Pourquoi les gens qui n'ont rien à dire se sentent obligés de l'ouvrir ?
J'ai eu un problème que j'ai mis du temps à résoudre. Je compte sur les moteur de recherche pour indexer cette information. En cherchant sur google, on ne trouve comme solution, qu'utiliser la version de dev d'ubuntu, je pense que cela peut intéresser du monde.
Et ce n'est pas une question, mais une information qui peut avoir sa place dans un journal !
Dans "computer architecture a quantitative approach", un ordinateur bien balancé est censé avoir 1 Mo de Ram et 1 Mo/s d'IO pour chaque mips de cpu.
"A balanced computer system needs about 1 MB of main memory capacity and 1 megabit per second of I/O bandwidth per MIPS of CPU performance."
On en est très très loin actuellement. Les SSD rattrapent à peine le retard.
Mais ce qui "tue" le plus, c'est cette mauvaise habitude de séparer les cpu de calcul avec les machines de stockage disque, de préférence en passant par le backbone général qui plafonne à 1Go pour tout le monde.
La latence réseau fait écrouler ces fameuses IO/s. Les serveurs disques ne devraient servir que pour la sauvegarde.
Je me demande si il existe un successeur à NFS qui est capable de faire de la réplication mais en privilégiant au maximum la machine local qui lit et écrit les données (GFS ?).
C'est vrai dans le cas habituel. Mais quiconque se penche réellement sur HADOPI et tous ses travers pervers ne peut pas être pour !
Pour lopsi et sa censure administrative de la pédophilie aussi. On va créer une censure ministériel pour 9 site en 2008, 4 en 2007 (cf l'interview sur pcinpact d'un responsable technique). Cela va couter encore 50 à 100 Millions d'€, et l'expérience australienne montre surtout qu'il va s'agir de faire taire les opposants politiques.
C'est plus une tablette firefox qu'une Linux tablette :)
Il rajoute un socle chargeur type porte photo et cela peut faire cadre photo numérique tout en se chargeant. Et si cela coute 200€, cela sera plus grand et moins chère que la plus part des cadres photo numériques du marché...
Cela me rappel ces scènes ou l'exécutif se lamente devant l'absence de Google français. La blague de l'époque était de dire qu'en France, Google serait resté dans son garage.
Mais des Google français, il en existe : Iliad, Dailymotion ou encore OVH.
Mais, on empêche la croissance du 1er, pour préserver les marges des petits copains, on tape sur le 2ième pour ne pas se fâcher avec les autres vieux média, on complique la vie du 3ième avec des lois liberticides, ce qui pousse à envisager de déménager hors de France certain datacenters.
Je rajouterai que la compétence existe là-bas mais elle se paye.
J'ai aussi vu les responsables du "suivi" d'un projet, tout refaire en catastrophe, car cela ne correspondait à rien de demandé. Donc, le boulot est fait en double, mais jamais le boss qui pensait "faire des économies" ne le reconnaitra.
J'ai l'impression que les calculs de coût pour la Chine ou l'Inde pour une tache tèchnique sont fait sur des bases de personne n'ayant pas le même genre de compétence que ce qui serait fait en France (genre un "ingénieur", est un technicien supérieur là-bas, sinon il faut des équivalent Master of Science).
Attention, l'image en question aura des creux et des vallées codés sur 1 octets. Il faudra ensuite faire de la reconnaissance d'image pour savoir que le tas plus clair au milieu de 5 pixels de large, est un seul bit et non 2.
J'ai l'impression que tu crois que tu peux avoir un fichier contenant les bits du disques dure avec 87% de probabilité de justesse. Tu as avant tout une image gigantesque où chaque bit prend plusieurs pixels séparés par des sillons de bruit.
Vous sous estimez totalement le problème de localisation des données et du coté irréaliste d'un scan avec un microscope à force atomique ou magnétique d'une surface de cette taille.
Comme tu as l'air de l'oublier, ces hommes là sont loin d'être idiot et vont la ou leur avenir semble meilleur. Certe, ce n'est pas bon pour leur pays, mais ils s'en foutent pas mal, vu que leur pays ne leur fournis rien et surtout pas un boulot.
[^] # Re: Forme canonique d'écriture de fichier
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Le noyau Linux 2.6.30 est disponible. Évalué à 1.
Oui, mais c'est faux. Ton disque dure et ses caches ne garantissent rien du tout en cas de perte d'alimentation (d'où l'utilisation du flag "barrier=1" de ext3 pour diminuer le risque mais aussi les perfs ).
"La première sécurité est la liberté"
[^] # Re: Forme canonique d'écriture de fichier
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Le noyau Linux 2.6.30 est disponible. Évalué à 2.
La seul que j'ai trouvé est qu'il doit y avoir des cas ou tu t'en fout et que tu veux juste de la performance.
Mais globalement, ces gesticulations pour écrire des données pour avoir l'atomicité est un peu bizarre.
En fait, il faudrait une fonction "soft" de sync, une fonction qui dit que l'écriture à effectivement eu lieu sans changer de priorité comme le fait sync() (done() ?). Le but serait de se foutre de la basse latence, mais de garder les performances et l'atomicité.
"La première sécurité est la liberté"
[^] # Re: Nettoyage de mémoire
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Le noyau Linux 2.6.30 est disponible. Évalué à 3.
Le pire cas est à "chaud". Si on regarde une courbe du temps de perte de la charge par rapport à la température, c'est une belle exponentiel.
A 20°C, de mémoire, cela tourne autour de la seconde, largement de quoi survivre à un reset.
Il y a des techniques ou l'on verse de l'azote liquide sur les mémoires pour conserver l'état plusieurs minutes.
(pour mémoire la DRAM, ce sont des condos avec des fuites, à froid, il y a moins de fuites)
"La première sécurité est la liberté"
[^] # Re: Nettoyage de mémoire
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Le noyau Linux 2.6.30 est disponible. Évalué à 5.
Ce que je veux dire par là, c'est qu'une technique complexe peut facilement s'industrialiser. Imagines un kit de récupération de PC portable en veille qui récupère les numeros de CB dans la mémoire des navigateur ouvert.
"La première sécurité est la liberté"
[^] # Re: Forme canonique d'écriture de fichier
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Le noyau Linux 2.6.30 est disponible. Évalué à 2.
"La première sécurité est la liberté"
[^] # Re: Forme canonique d'écriture de fichier
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Le noyau Linux 2.6.30 est disponible. Évalué à 7.
L'important est la taille de la fenêtre de temps où tu n'as ni l'ancien fichier, ni le nouveau. Le rename est considéré comme très court, donc en cas de crash, tu as sois l'ancien, sois le nouveau fichier.
Dans ton cas, ta fenêtre inclus tous le "write", et c'est exactement ce que l'on veut éviter.
"La première sécurité est la liberté"
[^] # Re: launchd
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Toutes les distributions veulent démarrer plus vite. Évalué à 3.
Mais en suspend to RAM, il ne devrait rester d'alimenter que les chips DRAM en mode self-refresh.
Ce qui est intéressant, c'est qu'entre un lp-ddram d'un téléphone et les puces DDRAM des PC, la conso du refresh doit aller de 1 à 100 :)
Donc, même pour un PC, selon le type de mémoire, la durée de la veille change beaucoup.
"La première sécurité est la liberté"
[^] # Re: Old school
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Le noyau Linux 2.6.30 est disponible. Évalué à 3.
"La première sécurité est la liberté"
[^] # Re: Old school
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Le noyau Linux 2.6.30 est disponible. Évalué à 2.
"La première sécurité est la liberté"
# Forme canonique d'écriture de fichier
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Le noyau Linux 2.6.30 est disponible. Évalué à 5.
open("MonFichier.temp")
write("MonFichier.temp")
fsync("MonFichier.temp")
close("MonFichier.temp")
rename("MonFichier.temp", "MonFichier").
devait être utilisé. Et si c'est lent il faut le mettre dans un thread.
Par contre, que faut-il faire pour une modification de fichier ? Comment avoir l'atomicité ? C'est fournis de base par le FS ou pas ?
En gros, si j'écris sur une partie d'un fichier, est-ce que j'aurais juste une partie modifiée en cas de crash ? Est-ce que mon fichier sera corrompu ?
Qu'est-ce que la bonne méthode ?
"La première sécurité est la liberté"
# suspend to disk
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Toutes les distributions veulent démarrer plus vite. Évalué à 7.
J'imagine que relancer une image suspend to disk doit être plus rapide qu'un reboot.
"La première sécurité est la liberté"
[^] # Re: Forums
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Faire fonctionner le wifi d'un eee pc 1000HE pour mandriva 2009.1. Évalué à 1.
"La première sécurité est la liberté"
[^] # Re: Forums
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Faire fonctionner le wifi d'un eee pc 1000HE pour mandriva 2009.1. Évalué à 7.
J'ai eu un problème que j'ai mis du temps à résoudre. Je compte sur les moteur de recherche pour indexer cette information. En cherchant sur google, on ne trouve comme solution, qu'utiliser la version de dev d'ubuntu, je pense que cela peut intéresser du monde.
Et ce n'est pas une question, mais une information qui peut avoir sa place dans un journal !
"La première sécurité est la liberté"
# et boulette
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Faire fonctionner le wifi d'un eee pc 1000HE pour mandriva 2009.1. Évalué à 3.
Une fois compilé, il suffit de le remplacer dans l'arbre des modules (find est ton amis)
"La première sécurité est la liberté"
# Les ios
Posté par Nicolas Boulay (site web personnel) . En réponse à la dépêche Conférénce sur la métrologie des entrées/sorties. Évalué à 9.
"A balanced computer system needs about 1 MB of main memory capacity and 1 megabit per second of I/O bandwidth per MIPS of CPU performance."
On en est très très loin actuellement. Les SSD rattrapent à peine le retard.
Mais ce qui "tue" le plus, c'est cette mauvaise habitude de séparer les cpu de calcul avec les machines de stockage disque, de préférence en passant par le backbone général qui plafonne à 1Go pour tout le monde.
La latence réseau fait écrouler ces fameuses IO/s. Les serveurs disques ne devraient servir que pour la sauvegarde.
Je me demande si il existe un successeur à NFS qui est capable de faire de la réplication mais en privilégiant au maximum la machine local qui lit et écrit les données (GFS ?).
"La première sécurité est la liberté"
[^] # Re: Boulet
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Iliad entreprise IT française la plus performante en 2008 selon Business Week. Évalué à 5.
La comparaison avec google, c'est que OVH est en train de devenir numero 1, européen.
Dalymotion est numero 2 mondial... ce n'est pas rien.
"La première sécurité est la liberté"
[^] # Re: La rengaine habituelle...
Posté par Nicolas Boulay (site web personnel) . En réponse au journal [HADOPI] Lettre ouverte à Jean-Marie Cavada. Évalué à 10.
Pour lopsi et sa censure administrative de la pédophilie aussi. On va créer une censure ministériel pour 9 site en 2008, 4 en 2007 (cf l'interview sur pcinpact d'un responsable technique). Cela va couter encore 50 à 100 Millions d'€, et l'expérience australienne montre surtout qu'il va s'agir de faire taire les opposants politiques.
"La première sécurité est la liberté"
# tablet firefox :)
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Un nouveau concept, le prototype de Techcrunch.. Évalué à 9.
Il rajoute un socle chargeur type porte photo et cela peut faire cadre photo numérique tout en se chargeant. Et si cela coute 200€, cela sera plus grand et moins chère que la plus part des cadres photo numériques du marché...
"La première sécurité est la liberté"
[^] # Re: Boulet
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Iliad entreprise IT française la plus performante en 2008 selon Business Week. Évalué à 10.
Mais des Google français, il en existe : Iliad, Dailymotion ou encore OVH.
Mais, on empêche la croissance du 1er, pour préserver les marges des petits copains, on tape sur le 2ième pour ne pas se fâcher avec les autres vieux média, on complique la vie du 3ième avec des lois liberticides, ce qui pousse à envisager de déménager hors de France certain datacenters.
"La première sécurité est la liberté"
[^] # Re: Compétence, confiance et tout ça...
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Signes avant-coureurs d'une externalisation ?. Évalué à 4.
J'ai aussi vu les responsables du "suivi" d'un projet, tout refaire en catastrophe, car cela ne correspondait à rien de demandé. Donc, le boulot est fait en double, mais jamais le boss qui pensait "faire des économies" ne le reconnaitra.
J'ai l'impression que les calculs de coût pour la Chine ou l'Inde pour une tache tèchnique sont fait sur des bases de personne n'ayant pas le même genre de compétence que ce qui serait fait en France (genre un "ingénieur", est un technicien supérieur là-bas, sinon il faut des équivalent Master of Science).
"La première sécurité est la liberté"
[^] # Re: Simplicité
Posté par Nicolas Boulay (site web personnel) . En réponse au journal De l'utilité de formater plusieurs fois son disque dur. Évalué à 5.
J'ai l'impression que tu crois que tu peux avoir un fichier contenant les bits du disques dure avec 87% de probabilité de justesse. Tu as avant tout une image gigantesque où chaque bit prend plusieurs pixels séparés par des sillons de bruit.
"La première sécurité est la liberté"
[^] # Re: Simplicité
Posté par Nicolas Boulay (site web personnel) . En réponse au journal De l'utilité de formater plusieurs fois son disque dur. Évalué à 4.
"La première sécurité est la liberté"
[^] # Re: Simplicité
Posté par Nicolas Boulay (site web personnel) . En réponse au journal De l'utilité de formater plusieurs fois son disque dur. Évalué à 1.
"La première sécurité est la liberté"
[^] # Re: Les mots ont un sens (ou pas)
Posté par Nicolas Boulay (site web personnel) . En réponse au journal [HS] Notre échelle de valeurs. Évalué à 2.
"La première sécurité est la liberté"
[^] # Re: Question...
Posté par Nicolas Boulay (site web personnel) . En réponse au journal Le mobile en France, c'est pas cher !. Évalué à 7.
"La première sécurité est la liberté"