どのような図を描きたいのか背景を説明していただけるとあり難いです．
勝手に想像しますと，以下のようなことと推測します．

１．円形領域内のスカラー量(z値)を，カラーマップで表現したい．
２．データ自身は，円筒座標系で記述され，少ないので gnuplot の dgrid3d
で補間したい．
３．円形領域外部は表示しない．

この要求に完全に応えることは，現在の gnuplot 単独ではできないと思います ．
mapping cylindrical は データの解釈時に有効ですが，dgridd3d は，それを含む
矩形の格子状データに補間してしまいます．従って，mapping の如何にかかわらず，
dgrid3d によって得られるデータは，cartesian ですし，
たぶん，dgrid3d を呼んだ時点でmapping も cartesian に変更されていると思います．

しかしながら，mapping に関係なく補間された形状は得られるので，それを一旦
ファイルに書きだし，要求３を疑似的に行う方法はあります．

円筒座標系で記述された以下の仮想データ 'cyl.dat' を用いて，
(円形領域内部もないと円周上のデータのみでは補間は難しいです)
cyl-dgrid3d.plt を実行してみてください．

# cyl.dat begin ##############################################################

0 1 1
45 1 1
90 1 1
135 1 1
180 2 1
225 2 1
270 2 1
315 2 1
0 10 0.5
45 10 0.5
90 10 0.5
135 10 0.5
180 8 0.5
225 8 0.5
270 8 0.5
315 8 0.5
0 5 0.2
45 5 0.2
90 5 0.2
135 5 0.2
180 7 0.2
225 7 0.2
270 7 0.2
315 7 0.2


### cyl-dgrid3d.plt ###########################################################
set dgrid3d 50,50,7
set mapping cylindrical
set angles degrees
splot 'cyl.dat' w lines
pause -1
set term table
set out 'tmp.dat'
replot
reset
set pm3d ftriangles
set term x11
splot 'tmp.dat' using 1:2:(($1**2+$2**2) > 1 ? 1/0: $3) w pm3d
pause -1

〔ツリー構成〕

【1129】 (質問)3Dグラフの表示範囲規制 2005/12/9(金)18:07 canda (497) ≪

┣【1130】 re(1):(質問)3Dグラフの表示範囲規制 2005/12/9(金)21:21 竹の (468)

┣【1131】 re(2):(質問)3Dグラフの表示範囲規制 2005/12/9(金)23:58 canda (384)

┣【1132】 re(3):(質問)3Dグラフの表示範囲規制 2005/12/10(土)09:37 竹の (140)

┣【1133】 re(1):(質問)3Dグラフの表示範囲規制 2005/12/10(土)12:27 松田七美男 (1679)

┣【1134】 re(2):(質問)3Dグラフの表示範囲規制 2005/12/10(土)17:47 canda (822)