CATIA中数据精度处理

一、长度四舍五入取整

例：L = 20.1mm

       20mm = int (L / 1m * 1000 + 0.5) * 1mm

       L = 20.7mm

       21mm = int (L / 1m * 1000 + 0.5) * 1mm

二、长度向下取整

例：L = 20.1mm

       20mm = floor (L / 1m * 1000) * 1mm

三、长度向上取整

例：L = 20.1mm

       20mm = ceil (L / 1m * 1000) * 1mm

四、长度按一定精度向上进位

例：L = 20.1mm

       R = 0.5(精度）

       20.5mm = ceil (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度）

       21mm = ceil (L / 1m * 1000 / R) * 1mm * R

 

五、长度按一定精度向下进位

例：L = 20.1mm

       R = 0.5(精度）

       20mm = floor (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度）

       20.5mm = floor (L / 1m * 1000 / R) * 1mm * R

 

注：CATIA中长度的默认单位为1m，所以，要乘以1000，对单位进行转化