[Date Prev][Date Next][Thread Prev][Thread Next][Date Index][Thread Index]

Re: sqrt(4/9) != 2/3

Try typing something like:

a=.242342342342342342360728309470
a+3
In my experience it will tack on a lot of 9's to the end of 3.2423...

I think this is a related bug, am I right?

On Wed, 2 Feb 2000, Nils Barth wrote:

> Package: drgenius
> Version: 0.5.0
> 
> The sqrt function doesn't work properly on rational numbers that are
> perfect squares.
> For example,
> 
> genius> sqrt(4/9)
> = 0.66666666666666666666666666666666666666666666666666666666666666666666666666667
> 
> while it should return 2/3.
> 
> -- 
>   -nils
>