極座標系といっても描画の際にはデカルト座標で，smoothは常にデカルト座標系
で補間しているようです．したがって，座標系表示する前に，元データを補間する
という考えでどうでしょう．

サンプルデータ："pol.dat"

-0.4 0.1
-0.2 0.3
0 1
0.2 0.32
0.4 0.08

上記データをsmooth処理した中間データを作成するスクリプト：

unset key
set table
set out "smooth_cspline.dat"
set samples 32
plot "pol.dat" smooth cspline
set out "smooth_bezier.dat"
plot "pol.dat" smooth bezier

unset table
set term x11
set out
plot "pol.dat" w l, \
"smooth_cspline.dat" w l lt 1 lc 2, \
"smooth_bezier.dat" w l lt 1 lc 3, \
1 w l lt 0 , 0.5 w l lt 0

pause -1 "continue?"

set polar
set angles radians
set size square
unset border
unset tics
set xrange[-1:1]
set yrange[-1:1]

replot
pause -1 "quit?"

〔ツリー構成〕

【1646】 極座標での曲線表示 2007/10/12(金)01:10 とつ (372) ≪

┣【1647】 re(1):極座標での曲線表示 2007/10/12(金)19:23 竹の (356)

┣【1648】 re(2):極座標での曲線表示 2007/10/14(日)02:45 とつ (208)

┣【1650】 re(3):極座標での曲線表示 2007/10/14(日)11:19 松田七美男 (799)