Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

PixelMap save/load fails because of float<->char conversion in file headers #1

Open
gchabert opened this issue Jan 7, 2015 · 0 comments
Assignees

Comments

@gchabert
Copy link

gchabert commented Jan 7, 2015

Le fait de convertir certaines valeurs flottantes dans le header en caractères dans le save() et de les reconvertir en flottant dans load() fait qu'on peut perdre la valeur initiale.
C'est particulièrement flagrant dans test_init2DPixelMap où la valeur LEAF_SIZE est fixée à 0.1 (non représentable exactement en binaire, donc constituée d'une longue mantisse, tronquée par la conversion). J'obtiens 0.100002 après le save/load.

@gchabert gchabert transferred this issue from ibex-team/ibex-lib Mar 25, 2020
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants