simple math

Heh please dont laugh heh i barely use a calculator as i dont deal with long numbers... how would one convert this into a decimal?


5.2083333333333333333333333333333e-5


do i simply add 5 zeros ? like:

.0000052083333333333333333333333333333

Or does it mean the fist number is in the 5th position like

.000052083333333333333333333333333333

Yes my math is suckish hence why i use a PC

AtomSoft said:

Heh please dont laugh heh i barely use a calculator as i dont deal with long numbers... how would one convert this into a decimal?


5.2083333333333333333333333333333e-5


do i simply add 5 zeros ? like:

.0000052083333333333333333333333333333

Or does it mean the fist number is in the 5th position like

.000052083333333333333333333333333333

Yes my math is suckish hence why i use a PC

Click to expand...

.000052

if in doubt use windows calculator:

menu: View/scientific

then enter:
5
.
2
Exp
+/-
5
=

Or if you like the maths:

1 = 1e0
0.1 = 1e-1
0.01 = 1e-2

and so on

so my ... 0.000052 was correct., Its the placement of first digit


so.... 3.333e-6 would be

.000003333

awesome!!! thanks

(p.s. you made a typo .00052)

I was trying to calculate how long it takes to send 1 bit through USART @ 19200bps

So i did:

1 / 19200 = 5.2083333333333333333333333333333e-5 = .0000521

0.000 052 = 0 seconds 0 milliseconds 52 microseconds

so VarBit = 52uS

Now x8 for a byte:
4.1666666666666666666666666666667e-4 = .000416 = 416 uS for a byte.

VarByte = 416uS

Now VarBit *2 = 1.0416666666666666666666666666667e-4
I did *2 because you have a start and stop bit also

Var2Bits = .000104 = 104uS

Var2Bits + VarByte = 520uS for a complete uart session. If at 19200bps.

AtomSoft said:

(p.s. you made a typo .00052)

Click to expand...

corrected!