本帖最后由 M龙三 于 2020-9-14 18:51 编辑
对比结果:两组坐标是相同的,即MGT6几何量算器正确反映点线面的坐标。 也许有人会发现:个别数据小数点后第十三位存在误差! 这里要解释一下:Mapgis目前点线面的坐标数据类型为双精度浮点数(double)。双精度浮点数(double)是计算机使用的一种数据类型,使用64位(8字节)来存储一个浮点数,双精度有15位十进制有效数字。如213.644653320313000和213.644653320312000,其有效位为213.644653320313和213.644653320312,最后一位为计算机四舍五入的结果。如下图的误差计算213.644653320312000-213.644653320313000=-0.000000000001才正确,但Excel的误差计算结果为-0.000000000000512,原因就是超出了双精度浮点数(double)的表示范围。 |