全部产品

FLOAT 数据类型

更新时间:2020-03-27 10:31:35

FLOAT 数据类型是具有精度(precision)的 NUMBER 数据类型的子类型,需要占 4~40 字节存储空间。它的精度是按二进制有效位数计算的,范围为 1~126,小数位数不可自定义。FLOAT 类型为变长、非精确数值类型。

语法

  1. FLOAT [(p)]

参数

参数 定义 范围 说明
p 精度 1~126 定义数值精度,按二进制有效位数计算,转换为十进制精度要乘以 0.30103。

说明

  • 二进制精度转换为十进制精度的换算关系: 二进制精度 = int(十进制精度 x 0.30103)
  • 十进制精度转换为二进制精度的换算关系: 十进制精度 = int(二进制精度 x 3.32193)

示例

示例 1:使用 FLOAT 设置二进制精度为 2,转换为十进制精度 int(2 x 0.30103) = 0.6,结果向下取整,则FLOAT(2)的十进制精度为 0。

  1. FLOAT(2)

示例 2:创建 test 表,并向里面插入数据。其中 col1 列是 NUMBER 类型,col2 列是 FLOAT 类型。NUMBER(5,2)表示十进制精度的定点数,有效位数为 5,结果保留小数点后 2 位。FLOAT(5) 的二进制精度为 5,转换为十进制精度为int(5 x 0.30103) = 1.50515,向下取整后十进制精度为 1。如 col2 列的 123.45 用科学计数法表示为 1.2345 x 102,1.2345 小数点后保留 1 位,四舍五入变为 1.2,查询结果显示为 1.2 x 10 2 = 120。执行以下语句:

  1. CREATE TABLE test (col1 NUMBER(5,2), col2 FLOAT(5));
  2. INSERT INTO test VALUES (1.23, 1.23);
  3. INSERT INTO test VALUES (7.89, 7.89);
  4. INSERT INTO test VALUES (12.79, 12.79);
  5. INSERT INTO test VALUES (123.45, 123.45);

执行以下语句查看 test 表:

  1. SELECT * FROM test;

返回结果如下:

  1. +-----------+----------+
  2. | col1 | col2 |
  3. +-----------+----------+
  4. | 1.23 | 1.2 |
  5. +-----------+----------+
  6. | 7.89 | 7.9 |
  7. +-----------+----------+
  8. | 12.79 | 13 |
  9. +-----------+----------+
  10. | 123.45 | 120 |
  11. +-----------+----------+

说明:当转换 ANSI FLOAT 数据时,您可以使用 OceanBase 数据库内部使用的 FLOAT 数据类型。但是 OceanBase 建议您改用 BINARY_FLOATBINARY_DOUBLE 浮点数字。