您的位置:首页 > 编程语言 > MATLAB

matlab精度控制

2014-09-18 15:55 211 查看
转载请注明出处:http://blog.csdn.net/yf210yf

1.数值型 roundn—任意位位置四舍五入

>>a=123.4567890;
>>a=roundn(a,-4)
a =   123.4568


其中roundn函数功能如下:

y = ROUNDN(x) rounds the input data x to the nearest hundredth. %不指定n,精确到百分位

y = ROUNDN(x,n) rounds the input data x at the specified power %精确到小数点后指定位数n

2.符号型

digits(4)
vpa(....)


必须说明:vpa命令不能识别整数与小数,只算总位数,因此对它来说小数整数无论哪个都占一位,例如对9.3154保留两位小数时就得写成:

>>a=9.3154;
>>digits(3)
>>b=vpa(a)
b=      9.32


其中b为符号型变量;

3.字符型

>>a=12.34567;
>>b = sprintf('%8.2f',a)
b =    12.35


其中b为字符型变量。

Format命令

控制显示模式,直到下一个format出现前,这条format命令一直有效。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: