精度

固定小数点の混じった数式の計算の途中の精度を決めるコードに手間取ってます…

Cで式を書いたら適当に精度の高い方に合わされるわけですが、常にそれがユーザの意図かどうか判断がつかないんでなんか追加のdirectiveを検討したりしています。

2007/09/07




コメント(3)|コメントを書く

カテゴリー一覧
最近のコメント

このブログを友達に教える

コミュニティ | 有名人・芸能人ブログ | ケータイ占い | ケータイ小説 | 掲示板


画面TOP↑


powered by cocolog