Top / TIPS / 切り上げ

コンピュータは有限桁なので、切捨て処理は得意なのですが、意外に困るのが、切り上げ計算です。

で、以下のことを知っておくと、いいことがあるかもしれません。

A も B も正整数だった場合、

↑A / B↑ = ↓(A + B - 1) / B↓

となります。

(↑↑は切り上げ計算、↓↓は切捨て計算を表します。)

これを私が何に使っていたかというと、ファイルの容量計算だったのです。

昔のファイルシステムは、SAM ファイルや MISAM はトラック単位、ISAM はシリンダ単位に容量を確保してたんですね。

レコード長、ブロック長(ページ長)、想定される件数をを入力し、それがどれくらいの容量になるのか、計算して容量を確保していました。

情報処理試験をかじった人ならわかると思いますが、容量計算には切り上げ計算が頻繁に出てきます。

そのときにツールとして使っていたのが、OFFICE/POL という表計算ソフトなのですが、切捨ては出来ても、切り上げ計算ができず、なんとかならないかと思いついたのがこの計算式です。




トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   最終更新のRSS
Last-modified: 2009-11-20 (金) 01:27:57 (2826d)