搜索结果
"tag:"math""
| 标题及摘要 | 日期/时间 | |
|---|---|---|
|
1
|
javascript中的不损失精度数学计算函数
//除法函数，用来得到精确的除法结果 //说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 //调用：accDiv(arg1,arg2) //返回值：arg1除以arg2的精确结果 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2... |
2010-7-27 11:32:00 |
|
2
|
java中的高精度数学计算函数
Math类： java.lang.Math类中包含基本的数字操作，如指数、对数、平方根和三角函数。 java.math是一个包，提供用于执行任意精度整数(BigInteger)算法和任意精度小数(BigDecimal)算法的类。 java.lang.Math类中包含E和PI两个静态常量，以及进行科学计算的类(static)方法，可以直接通过类名调用。 public static final Double E = 2.7182818284590452354 public static final Dou... |
2010-7-27 11:31:00 |
|
3
|
JAVA中高精度Double运算
Java中的简单浮点数类型float和double不能够进行运算。不光是Java，在其它很多编程语言中也有这样的问题。在大多数情况下，计算的结果是准确的，但是多试几次（可以做一个循环）就可以试出类似上面的错误。现在终于理解为什么要有BCD码了。 |
2007-6-2 19:50:45 |