他の案も出るかと思いますが、私から一つ。

x^2+y^2<1 以外は切り落とす、という手があります。関数描画なら

f(x,y)=sin(x+y)
g(x,y)=(x*x+y*y<1)?f(x,y):1/0 # 範囲外では定義されない
h(x,y)=(x*x+y*y<1)?f(x,y):-3 # 範囲外では -3

set isosample 20,20
splot [-2:2][-2:2] g(x,y) w l
pause -1
splot [-2:2][-2:2] h(x,y) w l
pause -1

データプロットの場合は

splot 'data' using 1:2:(($1*$1+$2*$2<1)$3:1/0) w l
splot 'data' using 1:2:(($1*$1+$2*$2<1)$3:-3) w l

みたいな感じでしょうか (あまりきれいには出ないかもしれません)。

〔ツリー構成〕

【1398】 3次元プロットのX-Y定義域 2006/10/2(月)02:55 トーリ (404) ≪

┣【1401】 re(1):3次元プロットのX-Y定義域 2006/10/2(月)13:37 竹の (511)

┣【1405】 re(2):3次元プロットのX-Y定義域 2006/10/2(月)21:00 トーリ (202)

┣【1406】 re(2):3次元プロットのX-Y定義域 2006/10/3(火)21:44 松田七美男 (283)