`

MySQL float 类型的精度

阅读更多
MySQL float 类型的精度
总结:




要得到1位或2位精确小数的话,整数不能高于 32767

即:f<32767.99

因为 2E15=32768

所以最多只能正确处理0~32767的整数,


要得到3位 精确 小数的话,整数不能高于16383

即:f< 16383 .999

因为 2E14=16384





要得到4位 精确 小数,整数不能高于2047

即:f< 2047 .9999

而 2E11=2048



要得到5位 精确 小数,整数不能高于127

即:f< 127 .99999

而 2E7=128



要得到6位 精确 小数,整数不能高于15

即:f<15 .999999

而 2E4=16


要得到7位 精确 小数,整数不能高于0

即:f< 0 .9999999

而 2E0=0


要得到8位以上的 精确 小数,是不可能的

即:f不存在


笔者得到了一些数据,不过得不到它变化的规律,还请高人指点
分享到:
评论

相关推荐

    mysql下float类型使用一些误差详解

    我想很多朋友都不怎么会在mysql中使用float类型,特别是用到金钱时我们可能会用双精度来做,我们知道mysql的float类型是单精度浮点类型不小心就会导致数据误差

    MYSQL 数据类型

    ==================== 数值列类型 ==================== TINYINT 非常小的整数 SMALLINT 较小整数 MEDIUMINT 中等大小整数 INTEGER 标准整数 BIGINT 较大整数 FLOAT 单精度浮点数

    Java与MySQL中小数保存问题解析.pptx.pptx

    在Java和MySQL中,小数的精度可能会受到限制,如float类型的小数只能精确到6-7位,double类型也只能精确到15-16位。 浮点数运算问题 在进行浮点数运算时,可能会出现精度丢失的问题,例如0.1+0.2的结果并不等于0.3...

    MySQL中decimal类型用法的简单介绍

    对于精度比较高的东西,比如money,建议使用decimal类型,不要考虑float,double, 因为他们容易产生误差,numeric和decimal同义,numeric将自动转成decimal。 DECIMAL从MySQL 5.1引入,列的声明语法是DECIMAL(M,D)。

    Mysql数据库设计.pdf

    较⼩的整数 有符号值:-32768 MEDIUMINT 3字节 中等⼤⼩的整数 有符号值: INT 4字节 标准整数 有符号值: BIGINT 8字节 ⼤整数 有符号值: FLOAT 4字节 单精度浮点数 有符号值: DOUBLE 8字节 双精度浮点数 有符号...

    MYSQL安装包官方试用版

    当创建表时,在某些条件下,MySQL可以将一个列从变长类型改为固定长度的类型或反之亦然。详细信息参见13.1.5.1节,“沉寂的列规格变更”。 数值类型存储需求 列类型 存储需求 TINYINT 1个字节 SMALLINT 2个...

    MySQL基础知识.md

    |FLOAT|4|单精度浮点数|| |DOUBLE|8|双精度浮点数|| |ENUM||单选,比如性别|ENUM('男','女')| |SET||多选|SET('A','B','C')| |DATE|3|日期|YYYY-MM-DD| |TIME|3|时间点或持续时间|HH:MM:SS| |YEAR|1|年份值|...

    分析MySQL的数据类型以及建库策略

    小数类,即浮点数类型,根据精度的不同,有FLOAT和DOUBLE两种。日期和时间类型比较简单,无非是DATE、TIME、DATETIME、TIMESTAMP和YEAR等几个类型。枚举类型,最多可以定义65535种不同的字符串从中做出选择,只能...

    深入了解mysql的4种常用、重要的数据类型

    为了实现这一目标,它需要我们在数据库系统的常用数据类型有充分的认识。...浮动取决于不同精度的类型可以是float或double。它们的优点是小数的精度,FLOAT可以表示非常小的值,可以是最小的值约1.1

    MySql数据类型

    参数m是定点类型数字的大个数(精度),范围为0~65,d小数点右侧数字的个数,范围为0~30,但不得超过m。对定点数的计算能精确到65位数字。  4.字符串(char,varchar,xxxtext)  5.二进制数据(xxxBlob)  ...

    浅谈MySQL中float、double、decimal三个浮点类型的区别与总结

    ==float== 4 bytes (-3.402 823 466 E+38,-1.175 494 351 E-38),0,(1.175 494 351 E-38,3.402 823 466 351 E+38) 0,(1.175 494 351 E-38,3.402 823 466 E+38) 单精度 浮点数值 ==double== 8 bytes (-1.797 ...

    MySQL 数据类型和建库策略

    一、数字类型。数字类型按照我的分类方法分为三类:整数类、小数... 小数类,即浮点数类型,根据精度的不同,有FLOAT(单精度)和DOUBLE(双精度)两种。它们的优势是精确度,FLOAT可以表示绝对值非常小、小到约 1.17E

    MySQL的数据类型和建库策略分析详解

    一、数字类型。数字类型按照我的分类方法分为三类:整数类、小数... 小数类,即浮点数类型,根据精度的不同,有FLOAT(单精度)和DOUBLE(双精度)两种。它们的优势是精确度,FLOAT可以表示绝对值非常小、小到约 1.1

    MySQL-②创建表

    1. 打开数据库 ...3. MySQL支持的主要数据类型  int 整型  char(n) 定长字符型  varchar(n) 变长字符型  float(m,d) 单精度型,m表示总位数,d表示小数位数  decimal(m,d) 双精度型  date 日期型 4. 查

    大厂喜欢问的面试题50道

    浮点数以8位精度存储在FLOAT中,并且有四个字节。   浮点数存储在DOUBLE中,精度为18位,有八个字节。  5、区分CHAR_LENGTH和LENGTH?CHAR_LENGTH是字符数,而LENGTH是字节数。Latin字符的这两个数据是相同的...

    mysql执行时间为负数的原因分析

    今天看到有人把phpmyadmin中的执行时间出现负数的情况视为phpmyadmin的bug, 其实这种情况的本质是php中浮点数(float)的精度问题。

    人工智能-项目实践-向量搜索-基于faiss的向量搜索与管理.zip

    faiss 中数据使用 float16 半精度计算,节约存储和计算资源 良好的数据落盘机制,减少应用崩溃,关机断电带来的数据丢失情况 向量的添加和删除可实时生效 可创建和管理多个向量库 说明 faiss 是一个性能强大的向量...

    python模块

    * decimal:python中的float使用双精度的二进制浮点编码来表示的,这种编码导致了小数不能被精确的表示,例如0.1实际上内存中为0.100000000000000001,还有3*0.1 == 0.3 为False. decimal就是为了解决类似的问题的,...

    PHP获取毫秒级时间戳的方法

    分享给大家供大家参考。具体分析如下: ...获取。如果是要与java写的某些程序进行高精度的毫秒级的对接通信,则需要使用PHP输出毫秒级的时间。...为获取更为精准的毫秒级时间戳可以使用下面的代码: ...return (float)sprin

Global site tag (gtag.js) - Google Analytics