查看: 1382|回复: 4
收起左侧

[IT6000应用问题] IT6000浮点数输入BUG

AC800 2021-4-23 11:33:13 | 显示全部楼层 |阅读模式
邀请回答

马上注册,享受更多特权

您需要 登录 才可以下载或查看,没有帐号?立即注册   

x
IT6070E,连接H3U,触摸屏上输入一个浮点数1234.5678,结果触摸屏显示1234.5677,PLC显示1234.568
输入0.5678、12.5678、123.5678都没问题,输入1234.5678、5555.5555就不对了


image.png

image.png

image.png





上一篇:IT7000触摸屏使用标签功能还要买加密狗,无语了
下一篇:关于IT6000使用中出现死机的问题

已有 0 人打赏作者

回复 邀请回答送花

使用道具 举报

AC800 2021-4-23 13:57:35 | 显示全部楼层
本帖最后由 梅是爱 于 2021-4-25 13:41 编辑

查了一下,这个不是触摸屏的bug,而是32bit float的特性:32位浮点数的精度是"7位有效数"

回复 送花

使用道具 举报

yxwbbwc 2021-4-23 16:28:01 | 显示全部楼层
PLC浮点数精度为7位有效数字,超出的话会丢失精度

点评

单精度浮点数(32位浮点数)精度为7位有效数字,双精度浮点数(64位浮点数)精度为15位有效数字。三菱PLC是支持双精度浮点数的,可惜汇川还不支持  发表于 2021-4-25 13:45
回复 送花

使用道具 举报

91521 2021-4-23 22:42:48 | 显示全部楼层
只知道用比例最后一位数据会对不上
回复 送花

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册   

本版积分规则

有技术问题,就上汇川技术社区

INOVANCE汇川技术 公众号

扫码下载掌上汇川APP

全国服务热线:8:30-17:30

4000-300124

苏州地址:江苏省苏州市吴中区越溪友翔路16号

深圳地址:深圳市龙华新区观澜街道高新技术产业园汇川技术总部大厦

Copyright © 2003-2100 汇川技术 Powered by Discuz! X3.4 ( 苏ICP备12002088号 )
快速回复 返回列表 返回顶部