Realizé el ejercicio en excell:
| 144,130.39 | / 1.1200000 | 128,687.84821 |
| 144,130.39 | / 1.1225243 | 128,398.45872 |
Lo que observo es que al utilizar 7 decimales efectivamente da 128398,46 pero, al usar 2 decimales da 128,687.84
Revisa entonces la cantidad de decimales, porque en realidad ambos resultados son correctos, solo que depende de la cantidad de decimales que uses en el divisor.
Sd2
Gabriel Martinez.
El 26 de julio de 2010 12:16, Cecilia Tato <ctato@arghot.com> escribió:
Hola,uso GX 90, Java win, MySql.Tengo un problema con un cálculo y se origina en una división.No entiendo la causa, ni como solucionarlo, quisiera saber si a alguien ya le pasó.Uso Aritmética Decimal.Tengo el siguiente cálculo:Importe final = (Importe - Importe / índice) * porcentaje / 100Importe: N(12.2)-Indice: N(5.2)Porcentaje: N(5.2)Importe final = N(12.2)-pongo 2 ejemplos:(144130,39 - 144130,39 / 1,12) * 5 / 100 = da 786,60 - me debería dar 772,13(178400,50 - 178400,50 / 1,46) * 5 / 100 = da 2792,58 - me debería dar 2810,42Separé el cálculo y vi que el problema estaba en la división:144130,39 / 1,12 = da 128398,46 - me debería dar 128687,84178400,50 /1,46 = da 122548,99 - me debería dar 122192,12Probé usando trunc, usando round, pasando el Indice a un atributo de igual largo que los otros campos y siempre el cálculo me da igual, pero diferente de lo que calculo yo.Si a alguien le pasó algo similar o hay algo que no estoy considerando, les agradezco me digangraciasCecilia Tato.
--
Has recibido este mensaje porque estás suscrito al grupo "GeneXus" de Grupos de Google.
Para publicar una entrada en este grupo, envía un correo electrónico a genexus@googlegroups.com.
Para anular tu suscripción a este grupo, envía un correo electrónico a genexus+unsubscribe@googlegroups.com
Para tener acceso a más opciones, visita el grupo en http://groups.google.com/group/genexus?hl=es.
0 Response to "Re: [java-l] Problema con división en Java win 2 capas."
Publicar un comentario