文档章节

float精度计算测试

醉人的笑容你有没有
 醉人的笑容你有没有
发布于 01/20 00:35
字数 84
阅读 336
收藏 0
package main

import (
	"fmt"
	"github.com/go-ozzo/ozzo-dbx"
	_ "github.com/go-sql-driver/mysql"
)


type DecimalDemo struct {
	Id int
	Amount float64
}




func main() {
	db, _ := dbx.Open("mysql", "root:password@/test")

	var a float64 = 0.0003
	var b float64 = 0.0002

	var c float64 = a - b
	fmt.Println("c:", c)

	var d float64 = a * b

	demo := &DecimalDemo{
		Id:0,
		Amount:d,
	}
	db.Model(demo).Insert()
}

© 著作权归作者所有

醉人的笑容你有没有
粉丝 3
博文 28
码字总数 26875
作品 0
崇明
私信 提问
加载中

评论(0)

MySQL类型float double decimal的区别

float数值类型用于表示单精度浮点数值,而double数值类型用于表示双精度浮点数值, float和double都是浮点型,而decimal是定点型; MySQL 浮点型和定点型可以用类型名称后加(M,D)来表示, ...

韩立伟
2017/06/30
0
0
.Net 避免 float 转 double 丢失精度的办法

第一部分:float 转 double 丢失精度 类型 精度 位宽 C# 后缀 可以表示的数值范围 .Net 类名 float 7 位 32bit F -3.4 × 10^38 ~ +3.4 × 10^38 System.Single double 15~16 位 64bit D ...

qaqz111
2016/07/28
484
0
你所不知道的 BigDecimal

本文首发于个人微信公众号《andyqian》, 期待你的关注! 前言 在Java中,我们通常使用 BigDecimal 类型来表示金额,特别是在金融,财务系统中,使用的特别多。例如:转账金额,手续费等等。今...

andyqian
2019/07/18
87
0
float和double有什么区别?

我已经读过双精度和单精度之间的区别。 但是,在大多数情况下, 和 似乎是可互换的,即,使用一个或另一个似乎不影响结果。 真的是这样吗? 花车和双打何时可以互换? 它们之间有什么区别? ...

javail
02/12
6
0
java中浮点型数据的大小比较问题

一. 精度 举例:double result = 1.0 - 0.9; 这个结果不用说了吧,都知道了,0.09999999999999998 float和double类型主要是为了科学计算和工程计算而设计的。他们执行二进制浮点运算,这是为...

wangtx
2016/12/28
1.8K
0

没有更多内容

加载失败,请刷新页面

加载更多

天津哪里可以开建材发票-腾讯新闻网

天津哪里可以开建材发票【152 * 9б 28 * 21 б9】陈生,诚、信、合、作,保、真、售、后、保、障、长、期、有、效。adb的全称为Android Debug Bridge,...

16534163966
5分钟前
5
0
北京哪里可以开海关缴款书发票-腾讯新闻网

北京哪里可以开海关缴款书发票【152 * 9б 28 * 21 б9】陈生,诚、信、合、作,保、真、售、后、保、障、长、期、有、效。adb的全称为Android Debug B...

15983684413
6分钟前
17
0
北京哪里可以开粮油发票-腾讯新闻网

北京哪里可以开粮油发票【152 * 9б 28 * 21 б9】陈生,诚、信、合、作,保、真、售、后、保、障、长、期、有、效。adb的全称为Android Debug Bridge,...

16534163727
7分钟前
21
0
北京哪里可以开文化传播发票-腾讯新闻网

北京哪里可以开文化传播发票【152 * 9б 28 * 21 б9】陈生,诚、信、合、作,保、真、售、后、保、障、长、期、有、效。adb的全称为Android Debug Bri...

17035270196
8分钟前
27
0
北京哪里可以开电线电缆发票-腾讯新闻网

北京哪里可以开电线电缆发票【152 * 9б 28 * 21 б9】陈生,诚、信、合、作,保、真、售、后、保、障、长、期、有、效。adb的全称为Android Debug Bri...

15232501104
9分钟前
31
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部