Saltar al contenido

Poner decimales según la resolución que tenga el equipo


rafernan

Recommended Posts

yo tengo un excel, en el que a partir de la resolución que tenga un equipo quiero que traslade el número de decimales contretos

el tema es que me he dado cuenta que cuando la resolución  es 1 o 0,1 lo hace bien, pero cuando es 0,2 o 0,5 no lo hace bien dado que redondea. he probado con resolución de 0,005 y no lo hace bien tampoco.

la función utilizada es esta DECIMAL($B3;-LOG10(B$2);VERDADERO), ¿cómopuedo hacer para mejorarla?

  resolución            
valor indicado 1 0,1 0,2 0,5 1 0,1 0,2 0,5
10005 1001 1005,1 50,2 1000,5 1001 1005,1 50 1001
1001 1002 1006,4 51,4 1111 1002 1006,4 51 1111
1004 1003 1007,5 52,6 111,5 1003 1007,5 53 112
1008 1004 1008,6 54,8 105 1004 1008,6 55 105
1005 1006 1009,7 56,2 147,5 1006 1009,7 56 148
1007 1008 1010,8 58,4 145,5 1008 1010,8 58 146
          lo calcula bien con resolución de 1 y 0,1

lo calcula mal con resoluciones 0,2 y 0,5 porque redondea

         

numero decimalesv03.xlsx

Enlace a comentario
Compartir con otras webs

Perdón pero sigo sin entender la lógica.

Cita
1001 1005,1 1005,2 1000,5

De donde sale el 1005? y por que vuelve a bajar a 1000?

Por que las fórmulas de las columnas F en adelante hacen referencia a las columnas B a E? no deberían referenciar a los valores indicados? (columna A)

 

Enlace a comentario
Compartir con otras webs

quizás no me explico bien.

yo lo que quiero es que si la resolución es 1/ 0,1/ 0,2/ 0,5/0,0005 o cualquier valor...  (fila 2), al escribir un valor en la columna b; en la columna f me deje tantos decimales como pone en la celda b2 y que no redondee.
si se fija los valores escritos en la columna b y c, se traladan a la columna f y g y si lo hace bien, pero cuando es la resolución de 0,2, o 0,05 (valores escritos en la fila d y e), los valores que traslada enla columan h e i, lo hace mal, poque quita un decimal y redondea.

Adjunto

 

 

 

numero decimalesv05.xlsx

Enlace a comentario
Compartir con otras webs

Hola de nuevo! Si tomamos este concepto de resolución:

Cita

Resolución

La resolución es la mínima variación de la magnitud medida que da lugar a una variación perceptible de la indicación del correspondiente valor. Dicho de otra forma, la resolución nos indica el valor mínimo a partir del cual notaremos una variación o salto en la medida de aquello que estemos midiendo. 

Los valores sí deberían ser redondeados, de acuerdo a la escala de la resolución; por ejemplo, si medimos 1006,5 con una resolución de 0,2 nos daría como resultado 1006,6 (o en su defecto 1006,4). Por favor revisa los valores que detallo en el adjunto y comenta si son incorrectos así puedo modificarlos (cambié varios valores de las columnas B a E, ya que me son más útiles para comparar resultados).

No se si es posible mostrar los resultados esos sin efectivamente redondear los números.

Saludos!

numero decimalesv05.xlsx

Enlace a comentario
Compartir con otras webs

Cristian 1985

@Cristian 1985, he hecho pruebas y me pone todo almohadillas. vuelvo a adjuntar

@John Jairo V, he realizado 3 ejemplos en el excel que adjunto, funciona bien, pero cuando por ejemplo con resolución de 0,05gramos, el resultado es correcto para los 2 primeros casos, pero para los segundos, al terminar la medición en 0, quitar los decimales ( y eso no me valdria).

1,02 1,02
1,08 1,08
3,50 3,5
4,00 4

numero decimalesv06.xlsx

Enlace a comentario
Compartir con otras webs

La fórmula de Jhon debería servirte, solo agregale el formato texto:

Cita

=TEXTO(REDOND.MULT(DB3;F$2);"0,00") ==> agrega un 0 más dentro de las comillas si necesitas 3 decimales

La fórmula MULTIPLO.SUPERIOR.MAT que había propuesto sirve de Excel 2013 en adelante.

Enlace a comentario
Compartir con otras webs

Archivado

Este tema está ahora archivado y está cerrado a más respuestas.

×
×
  • Crear nuevo...

Información importante

Echa un vistazo a nuestra política de cookies para ayudarte a tener una mejor experiencia de navegación. Puedes ajustar aquí la configuración. Pulsa el botón Aceptar, si estás de acuerdo.