Realbasic et les nombres

[predateur]

Bonjour,

J'ai 2 questions :

Est-il possible qu'un grand nombre ne soit pas inscrit en notation scientifique dans realbasic car quand je décompose ce nombre, ca va pas? Si oui comment ?

Merci

 

[mfay]

Heu, c'est quoi la 2nde question ?

 

[predateur]

En fait ya les 2 questions dans le msg :

Q 1 : Est-il possible qu'un grand nombre ne soit pas inscrit en notation scientifique dans realbasic car quand je décompose ce nombre, ca va pas?

Q 2 : Si oui comment ?

Voila jespere que g repondu a ta question

 

[mfay]

En interne, un grand nombre est en FLOAT. Et pour le voir, j'utilise la fonction FORMAT. En testant, je vais même jusqu'à une puissance de 300. avec aux environs de 16 chiffres significatifs. Ca me parait pas trop mal.

Le problème de ce genre de format, c'est qu'il y a toujours une imprécision après ces 16 chiffres significatifs. Ce qui fait qu'un nombre que l'on croit rond et précis, se trouve en fait affublé d'un certain nombre de décimales un peu embêtantes.

Ca se voit bien avec ce genre de test :
PNombre = 2.2
EditField1.Text = format( PNombre, "##0.000000000000000000000000000000000000000e000")

En fait, il n'y a que les multiples de 2 qui tombent parfaitement juste.