【平成26年秋期  問2】固定小数点表示

RRmyさん  
(No.1)
平成26年秋期  問2
解説の
一方、符号なし固定小数点表示法で表現できる最大値(a)は、
4×1ビット … 15
4×2ビット … 255≒28
4×3ビット … 4095≒212
4×4ビット … 65535≒216
4×nビット … 24n
というように 24n で近似することができます。

15,255,4095となっている部分がどういう計算でこうなっているのか理解できません。
ご説明いただける方、教えてください。
2024.02.08 15:25
jjon-comさん 
AP プラチナマイスター
(No.2)
符号なし固定小数点形式の2進数の場合,
 4ビットで表現できる最大値は (1111)2 = (2の 4乗)-1 = 15
 8ビットで表現できる最大値は (11111111)2 = (2の 8乗)-1 = 255
12ビットで表現できる最大値は (111111111111)2 = (2の12乗)-1 = 4,095
2024.02.08 16:22
jjon-comさん 
AP プラチナマイスター
(No.3)
応用 平成26年 秋期 午前 問2
https://www.ap-siken.com/kakomon/26_aki/q2.html
2024.02.08 16:23

返信投稿用フォーム

スパム防止のためにスレッド作成日から30日経過したスレッドへの書込みはできません。

その他のスレッド


Pagetop