类BigInteger和BigDecimal,详见JDK API
您还没有登录,请您登录后再发表评论
高精度数字仪表doc,高精度数字仪表
第四讲 高精度计算 由于计算机具有运算速度快,计算精度高的特点,许多过去由人来完成的烦琐、复杂的数学计算,现在都可以由计算机来代替,人可以从计算中解放出来,做更具有创造性的工作。 计算机计算结果的精度...
你是否因为JS端的小数计算的精度不足而发愁过呢 其实有个不错的资源可以利用。 引用附件的JS,就可以轻松搞定JS的计算问题了。 使用例 <!-- function //+ alert(new BigDecimal("10").add(new BigDecimal("3E+...
高精度的数字电位器X9C103的中文说明文档
基于单片机的高精度数字直流电流源_时振伟论文
通过分析电源供电方式对测量精度的影响,采用间歇式恒流源对称重传感器供电,...试验结果表明:高精度数字化称重传感器系统具有称重精度高、温度漂移小、灵敏度高的特点,为模拟称重信号的高精度数字化提供了一种解决方案.
高精度数字PWM的实现_数字_抖动 高精度数字PWM的实现_数字_抖动
利用单片机和AD574构成的高精度数字电压表
基于单片机的高精度数字直流电流源__高精度_基于单片机的高精度数字直流电流源_论文.zip
但是在任何一种计算机上,计算中能够使用的数字都是有一定范围的,超过了范围,就没法得到精确的结果。 你现在接受了一个任务,要编写一个高精度计算器的核心部分。所谓高精度计算器,就是可以计算很大很大的数据的...
基于FPGA和霍尔效应的高精度数字式角度测量系统.pdf
一种基于FPGA的高精度数字鉴相器.pdf
基于FPGA和单片机的高精度数字频率计的设计与实现.pdf
高精度的算法,一般的方式是用一个很长的数组去记录数据,数组的每一位记录固定位数的数字,记录顺序是低位到高位。计算方式则通常采用模拟立竖式计算。计算方式有一些优化方法,比如FFT快速傅里叶变换优化乘法,...
经过实际项目检验的C++算法类,绝对可用。用法如下 char sz1[256]=""; char sz2[256]=""; puts("请输入两个数字:"); while(scanf("%s%s",sz1,sz2)!=-1) { CHighPrecisionCalculate n1(sz1); ...
基于FPGA的高精度数字频率计的设计,非常适合毕设,论文。有用。
芯片内置5byte非易失性存储单元供用户使用,3byte 用于高低温报警及配置精度,另外2byte用于保存用户自定义信息,非易失存储写周期需50ms。在 -10°C到+85°C范围内最大误差为±0.5°C,在全温度范围内最大误差为±1...
低功耗高精度数字温度计的设计.pdf低功耗高精度数字温度计的设计.pdf低功耗高精度数字温度计的设计.pdf
SMC 90-ZSE40口/90-ISE40系列高精度数字式压力开关(英文)pdf,SMC 90-ZSE40口/90-ISE40系列高精度数字式压力开关(英文)
针对高精度数字稳定平台稳定跟踪目标、快速隔离扰动的要求,设计一款基于浮点型DSP控制器TMS320F28335的数字稳定平台系统。选用高精度测量元件提高系统测量精度;引入电流环提高系统控制精度、动态特性及隔离扰动...
相关推荐
高精度数字仪表doc,高精度数字仪表
第四讲 高精度计算 由于计算机具有运算速度快,计算精度高的特点,许多过去由人来完成的烦琐、复杂的数学计算,现在都可以由计算机来代替,人可以从计算中解放出来,做更具有创造性的工作。 计算机计算结果的精度...
你是否因为JS端的小数计算的精度不足而发愁过呢 其实有个不错的资源可以利用。 引用附件的JS,就可以轻松搞定JS的计算问题了。 使用例 <!-- function //+ alert(new BigDecimal("10").add(new BigDecimal("3E+...
高精度的数字电位器X9C103的中文说明文档
基于单片机的高精度数字直流电流源_时振伟论文
通过分析电源供电方式对测量精度的影响,采用间歇式恒流源对称重传感器供电,...试验结果表明:高精度数字化称重传感器系统具有称重精度高、温度漂移小、灵敏度高的特点,为模拟称重信号的高精度数字化提供了一种解决方案.
高精度数字PWM的实现_数字_抖动 高精度数字PWM的实现_数字_抖动
利用单片机和AD574构成的高精度数字电压表
基于单片机的高精度数字直流电流源__高精度_基于单片机的高精度数字直流电流源_论文.zip
但是在任何一种计算机上,计算中能够使用的数字都是有一定范围的,超过了范围,就没法得到精确的结果。 你现在接受了一个任务,要编写一个高精度计算器的核心部分。所谓高精度计算器,就是可以计算很大很大的数据的...
基于FPGA和霍尔效应的高精度数字式角度测量系统.pdf
一种基于FPGA的高精度数字鉴相器.pdf
基于FPGA和单片机的高精度数字频率计的设计与实现.pdf
高精度的算法,一般的方式是用一个很长的数组去记录数据,数组的每一位记录固定位数的数字,记录顺序是低位到高位。计算方式则通常采用模拟立竖式计算。计算方式有一些优化方法,比如FFT快速傅里叶变换优化乘法,...
经过实际项目检验的C++算法类,绝对可用。用法如下 char sz1[256]=""; char sz2[256]=""; puts("请输入两个数字:"); while(scanf("%s%s",sz1,sz2)!=-1) { CHighPrecisionCalculate n1(sz1); ...
基于FPGA的高精度数字频率计的设计,非常适合毕设,论文。有用。
芯片内置5byte非易失性存储单元供用户使用,3byte 用于高低温报警及配置精度,另外2byte用于保存用户自定义信息,非易失存储写周期需50ms。在 -10°C到+85°C范围内最大误差为±0.5°C,在全温度范围内最大误差为±1...
低功耗高精度数字温度计的设计.pdf低功耗高精度数字温度计的设计.pdf低功耗高精度数字温度计的设计.pdf
SMC 90-ZSE40口/90-ISE40系列高精度数字式压力开关(英文)pdf,SMC 90-ZSE40口/90-ISE40系列高精度数字式压力开关(英文)
针对高精度数字稳定平台稳定跟踪目标、快速隔离扰动的要求,设计一款基于浮点型DSP控制器TMS320F28335的数字稳定平台系统。选用高精度测量元件提高系统测量精度;引入电流环提高系统控制精度、动态特性及隔离扰动...