您当前的位置: 首页 >  c#

苍狼王unity学院

暂无认证

  • 0浏览

    0关注

    305博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文

C#的String转换成float防止精度丢失问题

苍狼王unity学院 发布时间:2022-09-19 16:04:52 ,浏览量:0

 

1、精度问题:

float x = float.Parse(s);

在提交小数的时候会出现精度丢失问题,

举个例子,unity中的Position中的x,y,z为2.073282,-1.106536,转换成float肯定会丢失值

  f loat:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)

 double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)

 decimal:数字型,128bit,28个有效位 float  与计算机中数值表示方法有关,不是准确数据. decimal 是准确数据,不会出现这个问题

 

2、解决办法

2cf9ee044a2c485fac417f40ed0b97b4.jpg

 

关注
打赏
1665389160
查看更多评论
立即登录/注册

微信扫码登录

0.0417s