Forums Últimos mensajes - Powered by IBM
 
Tags Palabras claves

Error en Excel....

01/12/2005 - 22:26 por gyrsoft | Informe spam
Ayuda Hacer una pregunta
Hola a todos, escribo lo siguiente porque descubri un error en Excel al
estar haciendo unas formulas para convertir de numero a letras. No es que
salga un error pero no calcula bien cuando trabajo con decimales. Hice lo
siguiente: Hice una serie de 1 decimal hasta el 100.00 y en los primeros
10 decimales estaba bien pero al aumentar al digito cada numero entero mas
1 decimal (hasta el decimo) se empieza a notar ligeramente un desfase en
el 1.01-1.1 y es mas evidente despues de los numeros del 2.01 en adelante
(pero solo cuando son los primeros 10 decimales). Si en el formato de la
celda le agregamos 16 digitos en los decimales, podremos observar el
error). Me di cuenta pues yo use la formula =largo(celdax) para poder
sacar los decimales y saber cuando eran décimas o centesimas y cual fue mu
sorpresa que en las cantidades descritas me aparecian como resultado 18
(lo cual indicaba un largo muy extrano, porque deberian ser 2). Se los
envio para ver si existe un parche que corrija dicho error. Saludos...
Para mas información, escribanme a mi correo para enviarles el archivo
donde tengo documentado el error.
email Siga el debateRespuesta 6 respuestasRespuesta Tengo una respuesta
DRAGON AGE™: INQUISITION – Matadragones
 

Leer las respuestas

#1 Héctor Miguel
02/12/2005 - 06:25 | Informe spam
hola, Roberto !

... descubri un error en Excel al estar haciendo unas formulas para convertir de numero a letras
... no calcula bien cuando trabajo con decimales [...]



=> esos 'problemas' de precision son en realidad originados por lo siguiente:
1.- Excel, al igual que [casi?] todos los programas de 'precision', así como los CPU, etc., etc., etc.
utilizan el 'punto flotante de precision doble' [Double], siguiendo los estandares de la organizacion:
IEEE [Institute of Electrical and Electronic Engineers].
2.- Los numeros son 'guardados' de manera diferente de como 'se ven' [segun el formato en la hoja]
en variables de 8 bits, que guarda numeros con una precision aproximada de 15 posiciones decimales
3.- Ademas, un procesador NO 'puede' guardar numeros fraccionarios mas grandes con absoluta precision.

=> [creo que te 'conviene', primero...] revisar informacion adicional en:

XL Como Corregir Errores al Redondear en Aritmetica de Punto Flotante
http://support.microsoft.com/defaul...s%3b214118
XL2002 Los Valores Guardados en Hojas de Cálculo XML, no Coinciden con los Valores que Aparecen en Excel
http://support.microsoft.com/defaul...s%3b328996
XL Aritmetica de Punto Flotante Puede Proporcionar Resultados Inexactos
http://support.microsoft.com/defaul...b;ES;78113
IEEE Standard 754 Floating Point Numbers
http://www.research.microsoft.com/~hollasch/cgindex/coding/ieeefloat.html?&gssnb=1
La pagina del IEEE (Institute of Electric and Electronic Engineers)
http://www.ieee.org/

saludos,
hector.

Preguntas similares

 

Busqueda sugerida :