解决了个困扰了2天的问题,定点运算问题

所属分类: 软件编程 / C 语言 阅读数: 50
收藏 0 赞 0 分享

分母变小了,相当于左移了

复制代码 代码如下:
a=1-b/c;
|b|<pow(2,23)
|c|=pow(2,26)

|a|<1

在运算个过程中,需要把该运算转换成定点运算。
想了2天,都没有想出怎么可以保证a的精度,因为a可能很小,如果简单的

复制代码 代码如下:
a<<=8;

是无法保证a的精度的。

今天快要下班时,突然有灵机一动:

复制代码 代码如下:
c>>=6;
b<<=8;
a=1<<14-b/c; //相当于 a<<14,保证了a的精度

分子不能左移太多位,分母右移,解决问题了。
发散思维说起来很容易,做起来不容易呀!

以上就是本文的全部内容,希望能给大家一个参考,也希望大家多多支持脚本之家。

更多精彩内容其他人还在看

C++学生信息管理系统

这篇文章主要为大家想详细介绍了C++学生信息管理系统的实现代码,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
收藏 0 赞 0 分享

C++俄罗斯方块游戏 无需图形库的俄罗斯方块

这篇文章主要为大家详细介绍了无需图形库的C++俄罗斯方块游戏,重温经典游戏,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
收藏 0 赞 0 分享

浮点数在计算机中存储方式是怎样的

这篇文章介绍了浮点数在计算机中是如何存储的,讲解的比较详细,有需要的朋友可以参考一下。
收藏 0 赞 0 分享

DSP中浮点转定点运算--浮点与定点概述

本文主要介绍DSP中浮点与定点概述,很值得学习一下,需要的朋友可以参考一下。
收藏 0 赞 0 分享

DSP中浮点转定点运算--浮点数的存储格式

本文主要介绍DSP中浮点数的存储格式,很值得学习一下,需要的朋友可以参考一下。
收藏 0 赞 0 分享

DSP中浮点转定点运算--定点数的加减乘除运算

本文主要介绍DSP中定点数的加减乘除运算,很值得学习一下,需要的朋友可以参考一下。
收藏 0 赞 0 分享

解决了个困扰了2天的问题,定点运算问题

本文主要讲解定点运算问题,需要的朋友可以参考一下。
收藏 0 赞 0 分享

DSP中浮点转定点运算--定点数模拟浮点数运算及常见的策略

本文主要讲解DSP中定点数模拟浮点数运算及常见的策略,具有参考价值,需要的朋友可以参考一下。
收藏 0 赞 0 分享

DSP中浮点转定点运算--举例及编程中的心得

本文主要讲解DSP浮点转定点运算举例及编程中的心得 ,具有参考价值,需要的朋友可以参考一下。
收藏 0 赞 0 分享

从汇编看c++中的多态详解

下面小编就为大家带来一篇从汇编看c++中的多态详解。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
收藏 0 赞 0 分享
查看更多