精华内容
下载资源
问答
  • DECIMAL简介 DECIMAL从MySQL 5.1引入,列的声明语法... D是小数点右边的位数(小数位)。范围是0到30,并且不能大于M,可不指定,默认值是0。 例如字段 salary DECIMAL(5,2),能够存储具有五位数字和两位小数的任何值,

    DECIMAL简介

    DECIMAL从MySQL 5.1引入,列的声明语法是DECIMAL(M,D)。NUMERIC与DECIMAL同义,如果字段类型定义为NUMERIC,则将自动转成DECIMAL。

    对于声明语法DECIMAL(M,D),自变量的值范围如下:

    • M是最大位数(精度),范围是1到65。可不指定,默认值是10。 D是小数点右边的位数(小数位)。范围是0到30,并且不能大于M,可不指定,默认值是0。
    • 例如字段 salary DECIMAL(5,2),能够存储具有五位数字和两位小数的任何值,因此可以存储在salary列中的值的范围是从-999.99到999.99。
    展开全文
  • Ansys的*VREAD命令行之后一般应接着定义读入的数字...上述操作可以将不定字符长度的数据转换成具有固定字符长度(包含正负号)的数据。具体的字符和小数位数可以自行设置。上例为字符长度为9,小数位数为2的数据

    Ansys的*VREAD命令行之后一般应接着定义读入的数字格式(关于*VREAD的用法详见http://htbbzzg.blog.163.com/blog/static/697252062010102983735628/)。以一个简单的语句为例:


    *vread,load(1,1),load_Fxy,txt,jik,1,NODENUM     !读取load_Fxy.txt文件(NODENUM行,1列),load_Fxy需要放入ansys运行的文件夹内。
    (2F3.03F11.0)   !每行读 5 个数,前两个含 个字符,后 3 个含 11 个字符宽度。


    但经常遇到的情况是,load_Fxy.txt中的数据格式并不统一。

    Excel为此提供了解决方案,具体操作为:

    全选——》开始——》数字——》自定义——》在“类型”框中输入:+00000.00;-00000.00;00000.00;@

    上述操作可以将不定字符长度的数据转换成具有固定字符长度(包含正负号)的数据。具体的字符和小数位数可以自行设置。上例为字符长度为9,小数位数为2的数据。

    展开全文
  • 精度、小数位数和长度

    千次阅读 2012-10-31 23:02:59
    在 SQL Server 中,numeric 和 decimal 数据类型的默认最大精度为 38。在 SQL Server 早期版本中,默认最大精度为 28。 数字数据类型的长度是存储此数所占用的字节数。字符串或 Unicode 数据类型的长度...

    精度、小数位数和长度

    精度是数字中的数字个数。小数位数是数中小数点右边的数字个数。例如,数 123.45 的精度是 5,小数位数是 2。

    在 SQL Server 中,numeric 和 decimal 数据类型的默认最大精度为 38。在 SQL Server 早期版本中,默认最大精度为 28。

    数字数据类型的长度是存储此数所占用的字节数。字符串或 Unicode 数据类型的长度是字符个数。binary、varbinary和 image 数据类型的长度是字节数。例如,int 数据类型可以有 10 位数,用 4 个字节存储,不接受小数点。int 数据类型的精度是 10,长度是 4,小数位数是 0。

    当两个 char、varchar、binary 或 varbinary 表达式串联时,所生成表达式的长度是两个源表达式长度之和,或是8,000 字符,以二者中少者计。

    当两个 nchar 或 nvarchar 表达式串联时,所生成表达式的长度是两个源表达式长度之和,或是 4,000 字符,以二者中少者计。

    使用 UNION、EXCEPT 或 INTERSECT 对数据类型相同但长度不同的两个表达式进行比较时,得到的长度为两个表达式中较大的长度。

    除了 decimal 类型之外,数字数据类型的精度和小数位数是固定的。如果算术运算符有两个相同类型的表达式,结果就为该数据类型,并且具有对此类型定义的精度和小数位数。如果运算符有两个不同数字数据类型的表达式,则由数据类型优先级决定结果的数据类型。结果具有为该数据类型定义的精度和小数位数。

    下表定义了当运算结果是 decimal 类型时,如何计算结果的精度和小数位数。当下列任一条件成立时,结果为decimal:

    ·         两个表达式都是 decimal 类型。

    ·         一个表达式是 decimal 类型,而另一个是比 decimal 优先级低的数据类型。

    操作数表达式由表达式 e1(精度为 p1,小数位数为 s1)和表达式 e2(精度为 p2,小数位数为 s2)来表示。非decimal 类型的任何表达式的精度和小数位数,是对此表达式数据类型定义的精度和小数位数。



    SQLServer精度数据(decimal和numeric)在算术运算时的自动转换规则

     假定运算数分别为@d1(精度为p1,小数位数为s1),@d2(精度为p2,小数位数为s2), 则SQL内部的转换规则如下(我们知道精度的最大值是38,当运算结果的精度大于38时,SQL将会截短小数部分,以保证整数部分不会被截断。):

     1.      @d1+@d2

    运算结果的精度 =max(s1,s2)+max(p1-s1,p2-s2)+1 --注:当值大于38时,取38

    运算结果的小数位数

    l        当精度值不大于38时 = max(s1,s2)--也就是取小数位数较大者

    l        当精度值大于38时 = 38 -max(p1-s1,p2-s2)

     2.      @d1-@d2 (与相加完全相同,略)

     3.      @d1*@d2

    运算结果的精度 =p1 + p2 + 1  --注:当值大于38时,取38

    运算结果的小数位数

    l        当精度值不大于38(或s1+s2<=6)时 = s1 + s2 --也就是取两者小数位数之和

    l        当精度值大于38时 =max(6, s1+s2-(p1+p2+1-38))

     4.      @d1/@d2

    运算结果的精度 =p1 - s1 + s2 + max(6, s1 + p2 + 1)  --注:当值大于38时,取38

    运算结果的小数位数

    l        当精度值不大于38时 =max(6, s1 + p2 + 1)

    l        当精度值大于38时 =max(6, s1+p2+1-(精度-38))

     5.      SUM(@d1)

    运算结果的精度 =38 --也就是取最大精度

    运算结果的小数位数:s1--也就是小数位数保持不变

     6.      AVG(@d1)

    计算结果 =SUM(@d1) / NUMERIC(10,0)

     参考文献

    1)       精度、小数位数和长度 http://msdn.microsoft.com/zh-cn/library/ms190476(v=sql.110).aspx

    2)       http://blog.sina.com.cn/s/blog_749e42850100sbdf.html

    3)       http://connect.microsoft.com/SQLServer/feedback/details/125782/must-keep-the-max-precise#details

    4)       http://topic.csdn.net/u/20090511/11/b666f243-2457-4a7b-8599-9e7630f85561.html

    5)       http://blog.csdn.net/coleling/article/details/6406904

    6)       SQL Server精度数据(decimal和numeric)在算术运算时的自动转换规则

     

    展开全文
  • 当两个具有不同数据类型、排序规则、精度、小数位数或长度的表达式通过运算符进行组合时: 通过将数据类型的优先顺序规则应用到输入表达式的数据类型来确定所得值的数据类型。有关更多信息,请参见数据类型的优先...
  • Integer 数据类型

    千次阅读 2018-01-20 22:19:50
    Integer 数据类型 简介 JavaScript 所有数字都保存成 64 浮点数,这决定了整数的精确程度只能到 53 个二进制。大于这个范围的整数,JavaScript 是无法精确表示的,这使得 JavaScript 不适合进行科学和金融...

    Integer 数据类型

    简介

    JavaScript 所有数字都保存成 64 位浮点数,这决定了整数的精确程度只能到 53 个二进制位。大于这个范围的整数,JavaScript 是无法精确表示的,这使得 JavaScript 不适合进行科学和金融方面的精确计算。

    现在有一个提案,引入了新的数据类型 Integer(整数),来解决这个问题。整数类型的数据只用来表示整数,没有位数的限制,任何位数的整数都可以精确表示。

    为了与 Number 类型区别,Integer 类型的数据必须使用后缀n表示。

     
    1. 1n + 2n // 3n

    二进制、八进制、十六进制的表示法,都要加上后缀n

     
    1. 0b1101n // 二进制
    2. 0o777n // 八进制
    3. 0xFFn // 十六进制

    typeof运算符对于 Integer 类型的数据返回integer

     
    1. typeof 123n
    2. // 'integer'

    JavaScript 原生提供Integer对象,用来生成 Integer 类型的数值。转换规则基本与Number()一致。

     
    1. Integer(123) // 123n
    2. Integer('123') // 123n
    3. Integer(false) // 0n
    4. Integer(true) // 1n

    以下的用法会报错。

     
    1. new Integer() // TypeError
    2. Integer(undefined) //TypeError
    3. Integer(null) // TypeError
    4. Integer('123n') // SyntaxError
    5. Integer('abc') // SyntaxError

    运算

    在数学运算方面,Integer 类型的+-***这四个二元运算符,与 Number 类型的行为一致。除法运算/会舍去小数部分,返回一个整数。

     
    1. 9n / 5n
    2. // 1n

    几乎所有的 Number 运算符都可以用在 Integer,但是有两个除外:不带符号的右移位运算符>>>和一元的求正运算符+,使用时会报错。前者是因为>>>要求最高位补 0,但是 Integer 类型没有最高位,导致这个运算符无意义。后者是因为一元运算符+在 asm.js 里面总是返回 Number 类型或者报错。

    Integer 类型不能与 Number 类型进行混合运算。

     
    1. 1n + 1
    2. // 报错

    这是因为无论返回的是 Integer 或 Number,都会导致丢失信息。比如(2n**53n + 1n) + 0.5这个表达式,如果返回 Integer 类型,0.5这个小数部分会丢失;如果返回 Number 类型,会超过 53 位精确数字,精度下降。

    相等运算符(==)会改变数据类型,也是不允许混合使用。

     
    1. 0n == 0
    2. // 报错 TypeError
    3. 0n == false
    4. // 报错 TypeError

    精确相等运算符(===)不会改变数据类型,因此可以混合使用。

     
    1. 0n === 0
    2. // false
    展开全文
  • Java数据类型

    万次阅读 2019-01-26 18:30:15
    java数据类型一、基本数据类型1、整型2、浮点型3、字符型4、布尔型 Java语言规范中提供了两种数据类型:基本数据类型和复核数据类型。 基本数据类型:byte、short、int、long、float、double、char、boolean。 ...
  • Access数据类型和SQL数据类型

    千次阅读 2014-03-21 15:10:48
    根据以下条件决定字段应使用哪种数据类型数据类型:决定字段可拥有的数据类型的字段特征。数据类型包括 Boolean、Integer、Long、Currency、Single、Double、Date、String 和 Variant(默认)。
  • 介绍了MySQL的常用数据类型的基本特性,以及数据类型的选择优化。
  • sqlite 数据类型 ... 一般数据采用的固定的静态数据类型,而SQLite采用的是动态...SQLite具有以下五种数据类型: 1.NULL:空值。 2.INTEGER:带符号的整型,具体取决有存入数字的范围大小。 3.REAL:浮点数字
  • python中转换小数 介绍 (Introduction) In Python, data types are used to classify one particular type of data, determining the values that you can assign to the type and the operations you can perform ...
  • 数据类型和常量

    千次阅读 2012-11-08 09:14:14
    你已经遇到过Objective-C的基本数据类型int。回顾一下,声明为int类型的变量只能用于保存整型值,也就是不包含小数位数的值。 Objective-C还提供了另外3种基本数据类型:float、double和char。声明为float类型的...
  • 截取浮点数的小数位数

    千次阅读 2014-03-20 17:26:17
    如果我只取小数点后3,那么我可以这样做: a = floor(a*1000)/1000; floor函数的作用是返回一个小于传入参数的最大整数,所以对于正数来说,就是抹去小数点后的部分。 它具有多种形式: double floor ( double x )...
  • SQL:2016标准概念之数据类型

    千次阅读 2018-04-10 17:26:54
    基本信息 ...本文介绍ISO/IEC 9075:2016中对SQL数据类型的规范描述。 基本信息 每个数据值都属于某种数据类型数据类型分为预定义类型、构造类型和自定义类型。每个数据类型都有一个名称。...
  • Hive支持关系型数据库中的大多数基本数据类型,同时支持关系型数据库中很少出现的3种集合数据类型,下面我们将简短地介绍一下这样做的原因。    其中一个需要考虑的因素就是这些数据类型是如何在文本文件中进行...
  • 精度、小数位数和长度(SQLSERVER)。

    千次阅读 2009-04-14 17:58:00
    在 SQL Server 中,numeric 和 decimal 数据类型的默认最大精度为 38。在 SQL Server 早期版本中,默认最大精度为 28。数字数据类型的长度是存储此数所占用的字节数。字符串或 Unicode 数据类型的长度是字符个数。...
  • 当然,不同的程序语言都具有不同的特点,所定义的数据类型的种类和名称都或多或少有些不同。SQLServer 提供了 25 种数据类型:  ·Binary [(n)]  ·Varbinary [(n)]  ·Char [(n)]  ·...
  • Java库,用于基于long的快速定点算术,最多支持18个小数位。 Javadoc API 特征 定点算术,小数点位数为0到18 基于无标长值的实现 发生算术溢出时引发异常的选项 规模 变量的类型定义比例(通配符类型除外) ...
  • PostgreSQL数据类型

    千次阅读 2015-04-11 17:19:23
    本章讨论PostgreSQL数据类型。在创建表的同时,要求每列都要指定数据类型,即什么样的数据要存储在表中的字段。 这使几个好处: 一致性: 对相同的数据类型的列的操作给出了一致的结果,通常是最快的。 验证: 正确...
  • C#数据类型

    千次阅读 多人点赞 2012-04-23 19:11:16
    C#的数据类型可以分为3类:数值类型,引用类型,指针类型。指针类型仅在不安全代码中使用。  值类型包括简单类型(如字符型,浮点型和整数型等),集合类型和结构型。引用类型包括类类型,接口类型,代表类型和数组...
  • MySQL数据类型中DECIMAL的用法实例详解 在MySQL数据类型中,例如INT,FLOAT,DOUBLE,CHAR,DECIMAL等,它们都有各自的作用,下面我们就...如果想精确到千分之一,那就不要定义使该类型仅有两位小数。 浮点值的这种处理在My
  • Linux C数据类型

    千次阅读 2018-05-05 11:01:00
    一、Linux C数据类型所谓的“数据类型”就是该数据自身的一种属性,用于说明数据的类型,以告诉编译程序,要在内存中为该数据分配多少个字节的存储空间。不同类型的数据所占用的存储区域大小不同,这个区域的字节数...
  • 这样的字符串转换为一个数值,这就需要数据类型转换。 一、隐式转换和显示转换 隐式转换就是程序运行期间自行转换类型,不需要人为干预;而显示转换要求编译前指定由哪种类型转换成哪种类型,在代码书写中很容易识...
  • python六大数据类型详解

    万次阅读 多人点赞 2019-10-13 21:07:18
    史上最全数据类型详解,详细介绍了Python3 中六个标准的数据类型:Number(数值)、String(字符串)、List(列表)、Tuple(元组)、Set(集合)、Dictionary(字典)。六大数据类型的方法和常规操作。
  • Schema与数据类型优化

    千次阅读 2019-11-17 17:40:21
    选择合适的数据类型 简单的几个原则: 更小的更好: 一般情况下,应该尽量使用可以存储数据的最小数据类型。更小的数据类型通常更快,占用更少的磁盘、内存和CPU缓存。 schema设计之初,应该估算出字段的数据能...
  • MSSQLServer数据类型详解

    千次阅读 2014-02-27 10:21:38
    所谓数据类型就是以数据的表现方式和存储方式来划分的数据的种类。在SQL Server 中每个变量、参数、表达式等都有数据类型。系统提供的数据类型分为几大类。 其中,BIGINT、SQL_VARIANT 和TABLE 是SQL Server 2000...
  • MySQL 中的数据类型介绍

    万次阅读 多人点赞 2016-04-29 20:24:03
    要了解一个数据库,我们也必须了解其支持的数据类型。 MySQL支持所有标准的SQL数据类型,主要分3类: ·数值类型 ·字符串类型 ·时间日期类型 另一类是几何数据类型,用的不多,也没多介绍。
  • 关于 Access 数据库数据类型

    千次阅读 2017-08-16 20:52:26
    关于 Access 数据库数据类型根据以下条件决定字段应使用哪种数据类型数据类型:决定字段可拥有的数据类型的字段特征。数据类型包括 Boolean、Integer、Long、Currency、Single、Double、Date、String 和 Variant...
  • MySQL数据类型DECIMAL用法

    千次阅读 2018-10-16 20:34:45
    MySQL数据类型DECIMAL用法 MySQL DECIMAL数据类型用于在数据库中存储精确的数值。我们经常将DECIMAL数据类型用于保留准确精确度的列,例如会计系统中的货币数据。 要定义数据类型为DECIMAL的列,请使用以下语法:...
  • C#—数据类型

    千次阅读 热门讨论 2015-09-09 17:54:16
    C#中的数据类型主要有两类,为值类型和引用类型,这是C#中最常用的两种数据类型,其次,C#是有指针数据类型的,但是指针类型只能在声明为不安全代码中使用。  定义:表示实际数据,作为临时变量时,存储在栈内存中...
  • MySQL基本概念--数据类型

    千次阅读 2014-03-04 23:43:41
    1. mysql的数据类型  在mysql中有如下几种数据类型:  (1)数值型  数值是诸如32 或153.4 这样的值。mysql 支持科学表示法,科学表示法由整数或浮点数后跟“e”或“e”、一个符号(“+”或“-”)和一个...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 45,141
精华内容 18,056
关键字:

具有小数位的数据类型