免费视频|新人指南|投诉删帖|广告合作|地信网APP下载

查看: 1542|回复: 9
收起左侧

[求助] 公顷计算合计数与平米计算合计数不相同?

[复制链接]

3

主题

260

铜板

1

好友

技术员

Rank: 3Rank: 3

积分
58
发表于 2022-3-29 14:37 | 显示全部楼层 |阅读模式
本帖最后由 tag3 于 2022-3-29 14:47 编辑

计算面积字段精度16,保留2位小数。分别计算了平米与公顷,两个数据有些出入,但是精度提高到18,保留6位后,计算平米和公顷就一样。又遇到这种情况的吗?2000坐标,PCS: CGCS2000 3 Degree GK Zone 40
公顷.jpg
平米.jpg
精度挺高到18 保留6位.jpg

324

主题

56万

铜板

1172

好友

等待验证会员

Rank: 1

积分
349368

宣传勋章爱心勋章组织勋章官方团队冰雪节勋章

发表于 2022-3-29 14:40 | 显示全部楼层
欢迎论坛的高手解答,会奖励相应的威望和铜板哦
回复 支持 反对

使用道具 举报

2

主题

6432

铜板

1

好友

VIP会员

Rank: 23Rank: 23Rank: 23Rank: 23Rank: 23Rank: 23Rank: 23

积分
176

精华勋章爱心勋章地信元老活跃勋章10周年纪念勋章

发表于 2022-3-29 14:55 | 显示全部楼层
这就是放大1万呗,但是你的小数点2位数只是100倍,不是一个数量级。就好比960万平方公里的国土面积,1个省1个省的加起来会比这个大一点哦

评分

参与人数 1威望 +20 铜板 +50 收起 理由
远方~ + 20 + 50 地信网的成长离不开您的支持!

查看全部评分

回复 支持 反对

使用道具 举报

4

主题

1065

铜板

4

好友

助理工程师

Rank: 5Rank: 5

积分
116
发表于 2022-3-29 15:00 | 显示全部楼层
建议公顷使用字段计算器计算平方米字段过来数值会更加相近一些,如果只是保留到米公顷就保留4位小数点

评分

参与人数 1威望 +20 铜板 +50 收起 理由
jimi21 + 20 + 50 感谢回复!

查看全部评分

回复 支持 反对

使用道具 举报

1

主题

394

铜板

2

好友

技术员

Rank: 3Rank: 3

积分
83
发表于 2022-3-29 15:54 | 显示全部楼层
每个小面的面积差一点,累积起来就差很多了
回复 支持 反对

使用道具 举报

35

主题

4824

铜板

20

好友

高级工程师

Rank: 9Rank: 9Rank: 9

积分
1060
发表于 2022-3-29 16:09 | 显示全部楼层
四舍五入的问题,精度不同,数量大,累加了以后就会导致有误差
回复 支持 反对

使用道具 举报

1

主题

4万

铜板

3

好友

资深会员

Rank: 18Rank: 18Rank: 18Rank: 18Rank: 18

积分
3380
发表于 2022-3-30 08:47 | 显示全部楼层
级别不一样外加精度不一样,当然容易出问题
回复 支持 反对

使用道具 举报

2

主题

1万

铜板

12

好友

高级工程师

Rank: 9Rank: 9Rank: 9

积分
1126
发表于 2022-3-30 10:44 | 显示全部楼层
计算成公顷的时候,四舍五入了。  如果你要数据准确的话,那就是公顷保留6位小数,平方米保留2位小数。这样出来就一样了。
回复 支持 反对

使用道具 举报

6

主题

2万

铜板

19

好友

地信院士

Rank: 15Rank: 15Rank: 15Rank: 15Rank: 15

积分
2826

宣传勋章爱心勋章灌水勋章

发表于 2022-3-30 11:05 | 显示全部楼层
计算精度控制的问题,10万精度和1万精度,统计结果截然不同的
回复 支持 反对

使用道具 举报

2

主题

633

铜板

1

好友

技术员

Rank: 3Rank: 3

积分
47
发表于 2022-3-31 11:45 | 显示全部楼层
还是精度不同
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

在线客服
快速回复 返回顶部 返回列表