[gull] déserialiser une valeur double (ieee 754) avec be64toh

Philippe Strauss philippe at strauss-acoustics.ch
Fri Mar 2 19:31:23 CET 2012


non mais c'est pas un bug, c'est normal pour une représentation en float32.

c'est peut-être plus à voir du côté des implémentations de %f trichant la moindre sur les séries genre .xx999999 etc, je dis ceci au hasard mais cela ne m'étonnerait point.

Le 2 mars 2012 à 19:28, François Bianco a écrit :

> Daniel,
> 
> Je me répond à moi même : oui c'est la représentation des nombres en float32 
> qui pose problème :
> 
> x = [1.01, 2.1, 0.03, 0.04, 0.05]
> y = array(x, dtype=float32)
> print(y)
> 
> array([ 1.00999999,  2.0999999 ,  0.03      ,  0.04      ,  0.05      ], 
> dtype=float32)
> 
> 
> Alors que :
> 
> y = array(x, dtype=float64)
> print(y)
> array([ 1.01,  2.1 ,  0.03,  0.04,  0.05])
> 
> François
> _______________________________________________
> gull mailing list
> gull at forum.linux-gull.ch
> http://forum.linux-gull.ch/mailman/listinfo/gull

--
Philippe Strauss
http://www.strauss-acoustics.ch/







More information about the gull mailing list