快速业务通道

Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG

作者 佚名技术 来源 程序设计 浏览 发布时间 2012-06-29

在写完fract除法之后,偶然发现在vdsp的一个头文件中提供了fract16除法运算的函数,这个文件就是VisualDSP 5.0\Blackfin\include\fract_math.h:

/* Produces a result which is the fractional division of f1 by f2. Not a builtin
* as written in C code. */
#pragma inline
#pragma always_inline
static fract16 div_s(fract16 _a, fract16 _b) {
  int x = (int)_a;
  int y = (int)_b;
  fract16 rtn;
  int i;
  int aq;
  if (x==0) {
    rtn = 0;
  }
  else if (x>=y) {
    rtn = 0x7fff;
  }
  else {
    x <<= 16;
    x = divs(x, y, &aq);
    for (i=0; i<15; i++) {
      x = divq(x, y, &aq);
    }
    rtn = (fract16) x;
  }
  return rtn;
}

这个内联函数和vdsp文档中提供的示例函数完全一样,也就是说,它存在一个《Vdsp(bf561)中的浮点运算(14):fract16除法》中提到的缺陷,如果你用它计算一个正的小数和一个负的小数的除法,它将毫不客气地返回1。

比如用它计算 0.2 / -0.4,这个是不应该出现饱和的!

出现这个问题的原因在于

int x = (int)_a;
int y = (int)_b;

然后就进行了x和y的比较,由于进行的是整数的比较,正数显然永远大于负数,所以就造成了这样的问题。

以0.2 / -0.4为例:

0.2转换为以十六进制表示的数为0x1999,而-0.4则为0xCCCC,当这两个值赋给x和y后分别变成了0x00001999和0xffffcccc,也就是6553和-13108,哈哈,正数大于负数,小学生都知道!

期待下一个update可以修正。

凌众科技专业提供服务器租用、服务器托管、企业邮局、虚拟主机等服务,公司网站:http://www.lingzhong.cn 为了给广大客户了解更多的技术信息,本技术文章收集来源于网络,凌众科技尊重文章作者的版权,如果有涉及你的版权有必要删除你的文章,请和我们联系。以上信息与文章正文是不可分割的一部分,如果您要转载本文章,请保留以上信息,谢谢!

分享到: 更多

Copyright ©1999-2011 厦门凌众科技有限公司 厦门优通互联科技开发有限公司 All rights reserved

地址(ADD):厦门软件园二期望海路63号701E(东南融通旁) 邮编(ZIP):361008

电话:0592-5908028 传真:0592-5908039 咨询信箱:web@lingzhong.cn 咨询OICQ:173723134

《中华人民共和国增值电信业务经营许可证》闽B2-20100024  ICP备案:闽ICP备05037997号