golang 比较浮点数的大小方式

2024-03-29 19:35:32

Golang浮点数比较和运算会出现误差。

浮点数储存至内存中时，2的-1、-2……-n次方不能精确的表示小数部分，所以再把这个数从地址中取出来进行计算就出现了偏差。

package main
import (
	"errors"
	"fmt"
	"github.com/shopspring/decimal"
)
func FloatCompare(f1, f2 interface{}) (n int, err error) {
	var f1Dec, f2Dec decimal.Decimal
	switch f1.(type) {
	case float64:
		f1Dec = decimal.NewFromFloat(f1.(float64))
		switch f2.(type) {
		case float64:
			f2Dec = decimal.NewFromFloat(f2.(float64))
		case string:
			f2Dec, err = decimal.NewFromString(f2.(string))
			if err != nil {
				return 2, err
			}
		default:
			return 2, errors.New("FloatCompare() expecting to receive float64 or string")
		}
	case string:
		f1Dec, err = decimal.NewFromString(f1.(string))
		if err != nil {
			return 2, err
		}
		switch f2.(type) {
		case float64:
			f2Dec = decimal.NewFromFloat(f2.(float64))
		case string:
			f2Dec, err = decimal.NewFromString(f2.(string))
			if err != nil {
				return 2, err
			}
		default:
			return 2, errors.New("FloatCompare() expecting to receive float64 or string")
		}
	default:
		return 2, errors.New("FloatCompare() expecting to receive float64 or string")
	}
	return f1Dec.Cmp(f2Dec), nil
}
func main() {
	a:=4.0
	b:="4"
	fmt.Println(FloatCompare(a,b))
}

补充：golang 判断2个浮点型数字是否相同

判断2个浮点型数字是否相同的方法（假定整数部分+小数点后3位相同，则视为相同）

首先将2个浮点型数字转换为string数据

将float类型的数据转换成string

func Decimal(value float32) string {
   value1 := fmt.Sprintf("%.6f", value)
   return value1
}

比较两个由float型数据转化成string的数据是否相同是否相同

func Compare(val1,val2 string) bool {
   indexf :=strings.Index(val1,".") + 4
   indexs :=strings.Index(val2,".") + 4
   if indexs != indexf {
      return false
   }else {
      if val1[0:indexf] == val2[0:indexs]{
         return true
      }else {
         return false
      }
   }
}

补充：golang 浮点数操作

数据库中金额元存储的数据结构使用的是decimal(15,2)，golang中使用float64保存变量内容。通过转换将 float64 -> int64

最简单的方式：int64(float64 * 100)，但是由于浮点数在计算机内的表示方式问题导致有一部分数据会出现问题，

例如：

var v = 67.6
fmt.Println(int64(v *100)) 输出结果为：6759

解决方法：

使用"github.com/shopspring/decimal"包，将对浮点数进行精确计算，例如：

f1 := decimal.NewFromFloat(v)
f2 := decimal.NewFromFloat(100)
fmt.Println(f1.Mul(f2).IntPart()) 输出结果为6760

以上为个人经验，希望能给大家一个参考，也希望大家多多支持我们。如有错误或未考虑完全的地方，望不吝赐教。

go浮点数转字符串保留小数点后N位的完美解决方法

最近在项目中碰到很多次float转string,同时要求保留小数点后几位,并且去掉小数点后0的场景虽然问题很简单,但是隔了挺久没处理这种场景就有些生疏了,自己也搜了一下,很多回答都不太满意.这里贴一下自己的做法,如果有更好的解决办法的话,还请多多指教 // 主要逻辑就是先乘,trunc之后再除回去,就达到了保留N位小数的效果 func FormatFloat(num float64, decimal int) string { // 默认乘1 d := float64(1) if decima
解决golang post文件时Content-Type出现的问题

同事用php写了一个接口,要上传文件,让我做下测试,直接用curl命令调用成功,然后想用golang写个示例, 源码如下: package main import ( "bytes" "fmt" "io/ioutil" "mime/multipart" "net/http" ) func main() { uri := "http://xxxxxxxxxxxx/api/fileattr"
解决Golang中goroutine执行速度的问题

突然想到了之前一直没留意的for循环中开goroutine的执行顺序问题,就找了段代码试了试,试了几次后发现几个有意思的地方,我暂时没有精力往更深处挖掘,希望有golang大神能简单说一说这几个地方是怎么回事. 代码: package main import "fmt" func Count(ch chan int) { fmt.Println("Count doing") ch <- 1 fmt.Println("Counting") }
golang中json小谈之字符串转浮点数的操作

有时会有这种需求,将一个json数据形如: {"x":"golang", "y":"520.1314"} 中的y反序列化为浮点类型,如果这样写: package main import ( "encoding/json" "fmt" ) type JsonTest struct { X string `json:"x"` Y float64 `json:"y
golang 打印error的堆栈信息操作

众所周知,目前的golang error只关注Error()信息,而不关注它的堆栈路径,对错误的定位大多数通过 log.SetFlags(log.Llongfile| log.LstdFlags) log.Println(e) 一旦代码分层,为了定位错误,可能出现每一个层次的同一个error,都得log好几次,比如: func DB()error{ return errors.New("time out") } func Dao()error{ if er:= DB();er!=nil
对Golang中的FORM相关字段理解

Form 字段通过调用Request结构体提供的方法,我们可以将URL.Body.或者以上两者的数据提取到该结构体的Form.PostForm和MultipartForm等字段中. (1)调用ParseForm方法或者ParseMultipartForm方法,对请求进行分析 (2)访问相应的字段事例: package main import ( "net/http" "fmt" ) func process(w http.ResponseWriter, r *h
解决golang结构体tag编译错误的问题

写了一个带标签的结构体 type server struct{ XMLName xml.Name 'xml:"server"' } 解决编译错误field tag must be a string,后来发现是后面标签上引号不正确,不应该是回车键旁边的单引号,而是数字键1旁边的单引号 type server struct{ XMLName xml.Name `xml:"server"` } 补充:golang中struct成员变量的标签(Tag)说明和获取方式在处
golang 实现Location跳转方式

golang作为互联网时代的C语言,对网络的支持是非常友好的,最近想做个短网址转发使用,自然想到用Golang开发. 闲话少说,直接上源码: package main import ( "fmt" "log" "net/http" ) func login(w http.ResponseWriter, r *http.Request) { fmt.Print(fmt.Sprintf("%v+", r)) w.Header().
golang 比较浮点数的大小方式

Golang浮点数比较和运算会出现误差. 浮点数储存至内存中时,2的-1.-2---n次方不能精确的表示小数部分,所以再把这个数从地址中取出来进行计算就出现了偏差. package main import ( "errors" "fmt" "github.com/shopspring/decimal" ) func FloatCompare(f1, f2 interface{}) (n int, err error) { var f1Dec, f
Golang 处理浮点数遇到的精度问题(使用decimal)

目录一.浮点数是什么? 1.指数方案 2.规范化指数形式 3.IEEE754标准二.出现精度问题的情况 1.浮点数加减运算 2.float64与float32之间转换 3.int64和float64,int32和float32转换 4.float64位直接乘100 三.decimal解决精度问题 1.浮点数加减运算 2.float64与float32之间转换 3.float64位直接乘100 总结一.浮点数是什么? 浮点数,是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意
pytorch nn.Conv2d()中的padding以及输出大小方式

我就废话不多说了,直接上代码吧! conv1=nn.Conv2d(1,2,kernel_size=3,padding=1) conv2=nn.Conv2d(1,2,kernel_size=3) inputs=torch.Tensor([[[[1,2,3], [4,5,6], [7,8,9]]]]) print("input size: ",inputs.shape) outputs1=conv1(inputs) print("output1 size: ",outp
Keras设定GPU使用内存大小方式(Tensorflow backend)

通过设置Keras的Tensorflow后端的全局变量达到. import os import tensorflow as tf import keras.backend.tensorflow_backend as KTF def get_session(gpu_fraction=0.3): '''Assume that you have 6GB of GPU memory and want to allocate ~2GB''' num_threads = os.environ.get('OM
pytorch查看通道数维数尺寸大小方式

查看tensor x.shape # 尺寸 x.size() # 形状 x.ndim # 维数例如 import torch parser = argparse.ArgumentParser(description='PyTorch') parser.add_argument('--img_w', default=144, type=int, metavar='imgw', help='img width') parser.add_argument('--img_h', default=288
pytorch 计算ConvTranspose1d输出特征大小方式

问题:如何经过convTransposed1d输出指定大小的特征? import torch from torch import nn import torch.nn.functional as F conv1 = nn.Conv1d(1, 2, 3, padding=1) conv2 = nn.Conv1d(in_channels=2, out_channels=4, kernel_size=3, padding=1) #转置卷积 dconv1 = nn.ConvTranspose1d(4,
golang 对象深拷贝的常见方式及性能

目录关于golang拷贝的概念完整代码总结关于golang拷贝的概念 Go语言中所有赋值操作都是值传递,如果结构中不含指针,则直接赋值就是深度拷贝:如果结构中含有指针(包括自定义指针,以及切片,map等使用了指针的内置类型),则数据源和拷贝之间对应指针会共同指向同一块内存,这时深度拷贝需要特别处理.目前,有三种方法,一是用gob序列化成字节序列再反序列化生成克隆对象:二是先转换成json字节序列,再解析字节序列生成克隆对象:三是针对具体情况,定制化拷贝.前两种方法虽然比较通用但是因为使用
golang 随机数的两种方式

golang支持两种随机数生成方式: math/rand // 伪随机 crypto/rand // 真随机 math/rand伪随机生成的数字是确定的,不论在什么机器.什么时间,只要执行的随机代码一样,那么生成的随机数就一样.为了尽量随机性,那么我们可以每次使用不同的seed来启动程序,就可以保证每次启动都产生新的随机数,聪明的你肯定想到了使用时间戳 func main() { fmt.Println(rand.Intn(100)) //设置随机数种子,由于种子
Golang反射模块reflect使用方式示例详解

Golang的反射功能,在很多场景都会用到,最基础的莫过于rpc.orm跟json的编解码,更复杂的可能会到做另外一门语言的虚拟机.通过反射模块,我们可以在编程语言的runtime运行时期间去访问内部产生对象的信息.了解反射模块的实现,对我们了解Golang对象机制本身,也是莫大的帮助. 今天,恰逢阳康+新年,就决定来探究一下Golang的反射模块——reflect. 从最基础的开始,reflect模块,以获取整数对象的类型信息为例,我们可以这么用: func TestReflect_Integ
浅谈GoLang几种读文件方式的比较

GoLang提供了很多读文件的方式,一般来说常用的有三种.使用Read加上buffer,使用bufio库和ioutil 库. 那他们的效率如何呢?用一个简单的程序来评测一下: package main import( "fmt" "os" "flag" "io" "io/ioutil" "bufio" "time" ) func read1(path string)s

golang 比较浮点数的大小方式

Golang浮点数比较和运算会出现误差。

将float类型的数据转换成string

比较两个由float型数据转化成string的数据是否相同是否相同

例如：

解决方法：

相关推荐

随机推荐