Gnuplot Q&A 掲示板

1526 re(7):logscale での固定/浮動小数点の表示の切替え

2007/3/8(木)08:41 - OsN - inetgw1.sumitomometals.co.jp - 863 hit(s)

引用する

現在のパスワード

ふと、printf コマンドで同じようにやってみましたところ、

Linux
9.999999999999991e-05   $ printf "%0.16g\n" 9.999999999999991e-05
9.99999999999999e-05    $ printf "%0.15g\n" 9.999999999999991e-05
1e-04                   $ printf "%0.14g\n" 9.999999999999991e-05

FreeBSD
9.999999999999991e-05   $ printf "%0.16g\n" 9.999999999999991e-05
9.99999999999999e-05    $ printf "%0.15g\n" 9.999999999999991e-05
0.0001                  $ printf "%0.14g\n" 9.999999999999991e-05

となりました！！！

やはり、もともとの竹のさんの御指摘(OS の printf に依存)の通りで、それに
0.0001 の内部表現が 9.999999999999991e-05 だったことが絡んで混乱して
しまったようです。お騒がせしました。

となると、根本的な対応はかなり厄介(gnuplot に Linux の printf を組み込む)
ということですね。 ("%5.3g" とかが
軸の値の設定ルーチンで、値に 1e-14 を加えてから printf を呼ぶ、とか、そういう
安直な対応ができないものか、、、

あと、これ
OsN> gnuplot の比較的最近の ver のどこかから内部表現が現在の形に変わって、
OsN> その際、1e-04 の表示が 0.0001 に変わって、それを気に入らなかった Linux 
OsN> ユーザーの誰かが、Linux でだけ動作を変えた、などど妄想中です。
は、松田さんの御指摘とも整合しませんね。混乱してました。

〔ツリー構成〕

【1513】 logscale での固定/浮動小数点の表示の切替え 2007/3/7(水)08:51 ＯｓＮ (560) ≪

┣【1514】 re(1):logscale での固定/浮動小数点の表示の切替え 2007/3/7(水)10:35 竹の (942)

┣【1515】 re(2):logscale での固定/浮動小数点の表示の切替え 2007/3/7(水)10:47 竹の (83)

┣【1516】 re(3):logscale での固定/浮動小数点の表示の切替え 2007/3/7(水)13:47 松田七美男 (446)

┣【1517】 re(4):logscale での固定/浮動小数点の表示の切替え 2007/3/7(水)13:57 松田七美男 (220)