Signed 8.8(8.8の固定小数点数) の計算方法

投稿日: 2023年12月6日 作成者: master

8.8は16bitsの長さ。
16bitsの16進数を10進数変換し256で除算。
先頭のbitが1ならば負なので、計算した値に-1を掛ける。
以上で完成です。

例)
0x8000 -> 32768
32768 / 256 = 128.0
先頭のbitが1なので-1を掛ける
128.0 × -1 = -128.0

0x2233 -> 8755
8755 / 256 = 34.19921875
先頭のbitは0なのでそのまま

カテゴリー: Micon関連 パーマリンク

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です

CAPTCHA


このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください。