0.1+0.2 为什么不等于 0.3?浮点数底层存储全套知识点梳理
已完结
0.1+0.2 为什么不等于 0.3?浮点数底层存储全套知识点梳理

课程简介

通过1个小时的课程,讲解计算机小数的两种存储方式,浮点数和定点数存储原理,从而理解模型量化、压缩的基本原理。

章节目录
互动留言

1/1 计算机小数存储原理

在写程序时,我们经常会处理小数这种数据。这节课,将会给同学们讲解下,在计算机中小数存储的两种方式:浮点小数和定点小数。学习目标: 了解浮点数的存储原理,以及其精度、缺点; 了解定点数的存储原理,以及与浮点数的转换规则、优缺点。 /archives/80429.html /archives/80518.html 最后,我们来总结下这两种存储方式: 定点小数: 定点小数是一种简单而直观的表示方法,其中小数点的位置是固... 查看完整内容