精华内容
下载资源
问答
  • 1)使用.tostring(“0.00”) double data = 5.996;...2)对于1)中的方式将double类型的数据写入到Excel表格时会变为文字类型,写入Excel中的数据保留位有效数字的方式 HSSFWorkbook workbook; ...

    1)使用.ToString(“0.00”)

    	 double data = 5.996;
         Console.WriteLine(data.ToString("0.00"));//结果输出为6.00
    

    2)对于1)中的方式将double类型的数据写入到Excel表格时会变为文字类型,写入Excel中的数据保留两位有效数字的方式

    		  HSSFWorkbook workbook;
              if (File.Exists(fileName))
             {
                    using (FileStream stream = File.OpenRead(fileName))
                    {
                        workbook = new HSSFWorkbook(stream);
                    }
             }
             else
            {
                    workbook = new HSSFWorkbook();
             }
    
    		ICellStyle style = wb.CreateCellStyle();
            style.DataFormat = HSSFDataFormat.GetBuiltinFormat("0.00");
    
    展开全文
  • 很简单的一小段代码,保存两位有效数字,欢迎指正。。
  • JAVA保留2位有效数字

    万次阅读 2018-03-09 09:15:13
    double d3 = bg.setScale(2, BigDecimal.ROUND_HALF_UP).doubleValue(); System.out.println(d3); //方法四:通过NumberFormat类实现 NumberFormat nf = NumberFormat.getNumberInstance(); nf....

    转自http://blog.csdn.net/y999666/article/details/52332352

    public class Test {
        public static void main(String[] args) {
            double d = 756.2345566;
    
            //方法一:最简便的方法,调用DecimalFormat类
            DecimalFormat df = new DecimalFormat(".00");
            System.out.println(df.format(d));
    
            //方法二:直接通过String类的format函数实现
            System.out.println(String.format("%.2f", d));
    
            //方法三:通过BigDecimal类实现
            BigDecimal bg = new BigDecimal(d);
            double d3 = bg.setScale(2, BigDecimal.ROUND_HALF_UP).doubleValue();
            System.out.println(d3);
    
            //方法四:通过NumberFormat类实现
            NumberFormat nf = NumberFormat.getNumberInstance();
            nf.setMaximumFractionDigits(2);
            System.out.println(nf.format(d));
    
        }
    }

    展开全文
  • /// 保留位有效数字,而不是2位小数 /// </summary> /// <param name="DNumber"></param> /// <returns></returns> private string ConvertNumber(double DNumber) { int ...
         /// <summary>
        /// 保留两位有效数字,而不是2位小数
        /// </summary>
        /// <param name="DNumber"></param>
        /// <returns></returns>
        private string  ConvertNumber(double DNumber)
        {            
            int EffectiveCount = 2;                     //保留有效数字位数
            string SNumber = DNumber.ToString();
            char[] CNumberArr = SNumber.ToCharArray();
            int DotIndex = SNumber.IndexOf('.');        //不知道怎么索引“double”类型,选择了一个笨方法
    
            double Value = 0;                          //输出值
            int TempPrecision = 0;                      //记录小数点后,第一个不为 0 的位置
            for (int i = DotIndex + 1; i < SNumber.Length; i++)
            {
                TempPrecision++;
                if (CNumberArr[i] != '0')
                {
                    Value = Math.Round(DNumber, TempPrecision + EffectiveCount - 1);
                    break;
                }
            }
            return DBConvert.ConvertToString(Value);
        }
    
    展开全文
  • 保留小数 两种简单地使用方式 其实就是一种 第一种:**cout<<setiosflags(ios::fixed)<<setprecision(n)<<num;这里的n就是要保留小数 第二种:**cout<<fixed<<setpreci....

    格式化输出做题遇到的问题

    必要头文件

    #include<iomanip>
    

    1. 保留几位小数

    两种简单地使用方式 其实就是一种
    第一种:cout<<setiosflags(ios::fixed)<<setprecision( n)<<num;这里的n就是要保留几位小数
    第二种:cout<<fixed<<setprecision(n)<<num;其实就是第一种的简写

    看代码:

    #include<iostream>
    #include<iomanip>
    using namespace std;
    int main()
    {
    	double num = 3.1415926535;
    	cout << "原数:" << num << endl;                                         //3.1415926535
    
    	cout << "保留两位小数:" << endl;
    	//{
    	     cout << setiosflags(ios::fixed) << setprecision(2) << num << endl;//3.14
    		 cout << fixed << setprecision(2) << num << endl;                  //3.14
        //}
             cout << setiosflags(ios::fixed) << setprecision(6) << num << endl;//3.141590
    		 cout << fixed << setprecision(7) << num << endl;                  //3.1415900
    		                                            //显然当保留位数大于实际位数是它会补零
    	system("pause");
    	return 0;
    }
    

    结果:

    原数:3.14159
    保留两位小数:
    3.14
    3.14
    3.141590
    3.1415900

    那么问题来了,是不是每次输出都要写一次这种格式
    当然------------------------------------------------------不是

    LOOK 下边

    #include<iostream>
    #include<iomanip>
    using namespace std;
    int main()
    {
    	double num = 3.1415926535;
    	cout << "原数:" << num << endl;                                         //3.1415926535
    
    	cout << "保留两位小数:" << endl;
    	//{
    	     cout << setiosflags(ios::fixed) << setprecision(2) << num << endl;//3.14
    		 cout <<  num << endl;                                             //3.14
        //}
    	system("pause");
    	return 0;
    }
    

    结果:

    原数:3.14159
    保留两位小数:
    3.14
    3.14

    2. 保留几位有效数字

    cout<<setprecision(n)<<num;这里相比上边保留小数位少了一部分 记住就好 n代表要保留的位数

    看代码:

    #include<iomanip>
    using namespace std;
    int main()
    {
    	double num = 3.14159;
    	cout << "原数:" << num << endl;
    
    	cout << "保留两位有效数字:" << endl;
    	//{
    	     cout <<setprecision(2) << num << endl;                       //3.1
        //}
    
    	cout << "保留三位有效数字:" << endl;
    	 //{
    		 cout << setprecision(3) << num << endl;                      //3.14
    	 //}
    
    	cout << "保留四位有效数字:" << endl;
    	 //{
    		 cout << setprecision(4) << num << endl;                     //3.142
    	 //}
    
    	cout << "保留五位有效数字:" << endl;
         //{
    		 cout << setprecision(10) << num << endl;                  //3.14159  注意这里并不会补零
         //}
    	system("pause");
    	return 0;
    }
    

    结果:

    原数:3.14159
    保留两位有效数字:
    3.1
    保留三位有效数字:
    3.14
    保留四位有效数字:
    3.142
    保留五位有效数字:
    3.14159

    补充:占位输出

    setw(n):占n位
    setfill(‘填充字符’):

    展开全文
  •   演示代码如下: #include <iostream> #include <iomanip> using namespace std; int main() { double a = 123.345;... "保留位有效数字:" << setprecision(2) << a <&
  • c语言保留n位有效数字问题

    千次阅读 2021-01-15 19:58:07
    之前写过一个,打的时候还是忘了 再写一遍 #include <iomanip> cout << setiosflags(ios::fixed) << setprecision(6);...作用是:规定输出小数点的位数,不够补零。...(2) 规定小数点为n,可以表示
  • js保留有效数字

    千次阅读 2019-01-28 11:00:56
    JavaScript中数字保留有效数字位数的方法有三种:toFixed,toExponential,toPrecision,这三种方法都会把数字转成字符串。 1.toFixed()根据小数点后的指定位数将数字转为字符串,不会使用指数计数法。 2....
  • Python中如何保留n位有效数字

    千次阅读 2021-03-16 20:26:47
    1 有效数字的定义 参考自百度百科-有效数字 2 将不大于1的小数保留n为有效数字 np.format_float_positional(x, precision=2, unique=True, fractional=False, trim='-')
  • C++输出保留位有效数字保留小数点后两位

    万次阅读 多人点赞 2019-05-06 20:08:41
    C++输出保留两位有效数字和保留小数点后两位 #include <iomanip> //保留小数点后2位 cout << setiosflags(ios::fixed) <...//保留2位有效数字 cout << setprecision(2) <&...
  • 保留位有效数字

    千次阅读 2017-09-25 19:43:07
    今天在工作中遇到一个问题,double类型数字如何保留位有效数字,百度了一下会有很多答案,然后自己就找了一段相对简单的一段,拿出来分享给大家: 将数字进行格式化,比如取2位小数,这是最常见的。Java 提供 ...
  • 保留位有效数字----java

    千次阅读 2019-11-13 17:08:27
    * 数字格式化 - 最少保留{num}位有效数字 - 保留 {min}~{max} 为小数 - format02 */ public static String formatSignificantDigit(Double price) { int min = 2; int max= 8; int num = 3; boolean sign = ...
  •  double f1 = bg.setScale(2, BigDecimal.ROUND_HALF_UP).doubleValue();  System.out.println(f1);  }    /**  * 法二:  * DecimalFormat转换最简便  */  public void m2() {  DecimalFormat ...
  • python如何将列表中的每个数字都保留位有效数字

    万次阅读 多人点赞 2020-04-15 00:03:04
    如何将list中的每个数字都保留位有效数字 关键:首先,将list转为numpy数组,然后对numpy进行操作,最后对操作完成的numpy再转为数组。直接附代码 list_ori = list(pixel_real_recognition_value) #原始列表 mid_...
  • C++如何保留位有效数字!!!!

    万次阅读 2018-01-30 21:12:12
    #include #include //注意这个头文件 using namespace std;...double t = 2.1356899889898; cout.precision(2); //第一种方法 cout.setf(ios::fixed); cout cout cout system("pause
  • js计算精度问题-保留位有效数字

    千次阅读 2020-07-10 16:04:18
    场景:js 四舍五入保留位有效数字 首先想到的是.toFixed(),方法第一个实参就是保留小数点几位 在google浏览器下, (10.175).toFixed(2)//10.18 (100.175).toFixed(2)// 100.17 看了官方文档,在各个浏览器的...
  • 用round(a,n) a代表变量,n代表想保留的小数点的个数;比如:
  • C++怎么保留有效数字

    2021-01-01 22:44:15
    C++ 开头加头文件 #include 输出几位有效数字 将n以a位有效数字输出 就写cout<<...要是c以2位有效数字输出 就写到 cout<<fixed<<setprecision(2)<<c; 就输出成了1.23 ...
  • java保留位有效数字

    万次阅读 2015-06-02 21:32:22
    java保留小数问题: 方式一: 四舍五入  double f = 111231.5585;  BigDecimal b = new BigDecimal(f);  double f1 = b.setScale(2, BigDecimal.ROUND_HALF_UP).doubleValue();  保留...
  • 小数点后保留位有效数字(c++)

    千次阅读 2018-03-05 20:23:00
    #include &lt;iostream&gt; #include &lt;iomanip&gt; //不要忘记写!! using namespace std; int main(){ double sum; sum=(30000-1250*14)*0.005;...setprecision(2)&lt...
  • 我sql中Cast(round(((MBBB.{0}-YBB.{0})/YBB.{0})*100,2) as nvarchar(20))+'%' 最后得到的是 0.00000000000%,没有得到0.00%格式,请大神指教
  • QString str = QString::number(Sys_Setting.JS, ‘f’, 4); float Sys_Setting.JS=str.toFloat();
  • 小数点后保留位有效数字

    千次阅读 2016-01-22 11:48:01
    遇到对数据的处理时,需要保留位有效数字。/** * * @param number 需要格式化的数 * @param digits 小数点后保留的位数 * @return */ public static String numberFormat(double number, int digits) ...
  • 保留小数的几种方式: 方式一: 四舍五入 [java] view plaincopyprint? double f = 111231.5585; BigDecimal b = new BigDecimal(f); double f1 = b.setScale(2, BigDecimal.ROUND_HALF_UP)....
  • 目录一、问题引出与求证二、问题查阅与解决三、MATLAB如何修改计算结果保留有效数字四、拓展——数值显示四、后记 一、问题引出与求证 今天,利用MATLAB编写乘同余法产生随机数相关代码时,遇到一个问题: (下图...
  • 小数点后保留位有效数字 C++

    万次阅读 2016-09-10 13:10:06
    #include #include using namespace std; int main() { cout(3); return 0; }  
  • R语言设置数值输出,包括保留至小数点后几保留有效数字
  • /** * * @param {Int,Float} ...* @param {Int} effLen 有效长度 * @param {Int} deciLen 保留小数点 */ validateNumber (value, effLen, deciLen) { if (!value) { return { isValid: false, msg: null }...
  • javascript 保留位有效数字

    千次阅读 2013-05-14 13:45:24
    <!... ... ,keyword2,keyword3"> ; charset=UTF-8"> ...--...//保留小数 alert(ForDight(123.99999,2));//保留小数 } 四舍五入" onclick="f2()"/>
  • 浮点数的有效数字位数

    千次阅读 多人点赞 2019-01-28 01:49:54
    过去有一种很普遍的说法是单精度浮点数的有效数字是6到7。同时也有一个很普遍的问题就是:“6到7是什么意思?到底是6还是7?”。现在似乎主流认知已经变成了单精度浮点数的有效数字就是7。事实究竟是怎么...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 121,176
精华内容 48,470
关键字:

2位有效数字保留