1
한반도 연안 조위편차의 확률밀도함수
Probability Density Function of the Tidal Residuals in the Korean Coast
조홍연*·강주환**
Hongyeon Cho* and Ju Whan Kang**
요 지 : 조위편차는 최근 기후변화에 의한 영향으로 연안 안전·방재 측면에서 매우 중요한 인자로 부각되고 있 다. 태풍강도 등과 더불어 변화가 예상되는 조위편차는 해안구조물의 안전 및 기능검토에 필요한 기준해수면 결정에 기여하는 중요한 인자이다. 우리나라 연안 조위편차의 확률밀도함수는 음·양의 왜도와 정규분포보다 큰 돌도를 가 지는 분포로, 정규분포로 근사화하는 방법은 한계가 있기 때문에 본 연구에서는 비모수적 방법인 Kernel 함수를 이 용하여 확률밀도함수를 추정·제안하였다. 본 연구에서 제안된 확률밀도함수는 조위편차자료의 분포와 매우 우수한 일치수준을 보이고 있으며, 다양한 극값 추정에도 높은 수준의 정도를 보여주고 있다.
핵심용어 : 조위편차, 확률밀도함수, 왜도, 돌도, Kernel 함수
Abstract : Tidal residual is being an important factor by the influence of the climate change in terms of the coastal safety and defense. It is one of the most important factor for the determination of the reference sea level in order to check the safety and performance of the coastal structures in company with the typhoon intensity variation. The probability density function (pdf) of tidal residuals in the Korean coasts have a non-ignorable skewness and high kurtosis. It is highly restricted to the application of the normal pdf assumption as an approximated pdf of tidal residuals. In this study, the pdf of tidal residuals estimated using the Kernel function is suggested as a more reliable and accurate pdf of tidal residuals than the normal function. This suggested pdf shows a good agreement with the empirical cumulative distribution function and histogram. It also gives the more accurate estimation result on the extreme values in comparison with the results based on the normal pdf assumption.
Keywords : tidal residuals, probability density function, skewness, kurtosis, Kernel function
1. 서 론
관측조위와 예보조위의 차이로 정의되는 조위편차(tidal residuals)는 관측된 조위자료에서 규칙적인 천문조(조석, astronomical tide) 성분을 제거한 비조석(non-tidal) 성분을 의미한다. 비조석 성분은 기압변화 및 바람에 의한 영향이 지 배적이기 때문에 기상조(meteorological tide) 성분이라고도 하며, 폭풍에 의한 해일높이(surge height), 조위편차, 조위잔 차 등 다양한 용어가 사용되고 있다(Boon, 2004; Pugh, 2004).
본 연구에서는 조위편차라는 용어를 사용하였다. 조위편차는 최근 기후변화에 의한 영향으로 연안 안전·방재 측면에서 매우 중요한 인자로 부각되고 있다. 태풍강도 등과 더불어 변 화가 예상되는 조위편차는 해안구조물의 안전 및 기능검토에 필요한 기준해수면 결정에 기여하는 중요한 인자이다(Pugh and Vassie, 1980). 설계조위를 결정하는 과정은 조위 및 조 위편차의 빈도분포, 극치분포 등의 통계정보를 필요로 한다
(Pugh and Vassie, 1978; Coles and Tawn, 2005). 조위의 빈도분포함수는 정규분포로 가정하여 해안구조물의 신뢰성 설 계 등에 이용되어 왔으나, 조 등(2004)은 정규분포 가정의 한 계를 제시하고, Bi-modal Normal-mixture 함수를 제안한 바 있다. 한편 조위편차에 관한 연구는 해안구조물 설계의 관점에 서 재현기간에 따른 설계조위 결정이 중요한 부분을 차지하고 있다. 이 분야의 연구는 연속 조위편차 자료에서 연 최대 (annual maximum) 조위편차 자료 또는 일정 기준(threshold) 을 넘어서는 조위편차 자료를 추출하여 극치분포 함수를 이 용한 극치해석이 대부분을 차지하고 있기 때문에 조위편차 자 료에 대한 전반적인 확률밀도 함수에 관한 연구는 매우 미흡 한 실정이다. 조위편차의 빈도분포도 정규분포로 가정하여 수 행하는 경우가 빈번하며, 극치분포 및 조석-폭풍해일 결합분 포를 이용한 연구도 수행되어 왔다(Pugh and Vassie, 1980;
이 등, 1999). 그러나 조위편차의 분포함수는 어느 정도 왜 곡된 형태를 보이기 때문에 정규분포함수로 간주하는 방법의
*한국해양연구원 해양환경보전연구부(Corresponding author, Marine Environment and Conservation Research Department, Korea Ocean RandD Institute, Ansan PO Box 29, Seoul, 425-600, Korea, [email protected])
**국립목포대학교 토목공학과 (Dept. of Civil Engineering, Mokpo National University, Muan-gun, Jeonnam, 534-729, Korea)
한계를 극복하기 위하여 조 등(2006)은 조위편차(비조석 성 분)의 확률밀도함수로 Bi-modal Normal-mixture 함수를 제안 한 바 있다. 이 확률밀도함수는 정규분포함수보다는 우수하 지만 분포의 꼬리영역(tail zone)에서 오차가 크게 발생하기 때문에 빈도가 낮은 극한조위 및 설계조위 등의 결정에는 한 계가 있다. 따라서 본 연구에서는 빈도분포함수를 보다 정확 하게 추정하는 Kernel 밀도함수추정기법을 적용하여 우리나 라 연안 조위편차의 확률밀도함수를 추정·제시하였다. 또한 조위편차를 간단하게 정규분포로 가정하는 경우에 발생할 수 있는 오차에 대한 정량적인 분석도 수행하였다.
2. 조위편차 자료 및 Normality Test
2.1 조위자료 및 조위편차 추출과정
우리나라 연안 조위자료 중에서 약 20년 이상의 장기자료가 가용한 지점을 대상으로 우선 선정하였다. 대상지점은 가덕 도, 거문도, 군산, 대흑산도, 목포, 묵호, 보령, 부산, 서귀포, 속초, 안흥, 여수, 완도, 울릉도, 울산, 인천, 제주, 추자도, 통 영, 포항이다. 본 연구에서는 우리나라 연안의 조석특성을 대 표하는 지점으로 인천, 군산, 목포, 여수, 부산, 속초 지점을 대상으로 1990년부터 2010년까지의 1시간 간격 조위자료를 이용하여 조위편차를 추출·분석하였다. 조위자료는 국립해 양조사원(www.khoa.go.kr) 홈페이지에서 제공하는 1시간 간 격자료이다. 조위편차는 관측조위와 예측조위의 차이이므로 예측조위의 추정이 필요하다. 예측조위는 1년 동안의 조위자 료를 이용하여 조화분석을 수행하고, 결과로 도출된 조화상 수를 이용하여 1시간 간격의 예측조위를 생성하고, 관측조위 와의 차이를 매년 계산하여 도출하였다. 조화분석에 사용하는 분조의 개수는 충분한 정도로 천문조를 추정할 수 있도록 선 택하여야 한다. 작은 개수의 주요 분조만을 이용하여 천문조를 추정하고 조위편차를 추출하는 경우 조위편차의 크기가 차이가 발생할 수 있기 때문에 본 연구에서는 64개의 분조성분을 이 용하여 천문조를 추정하였다. 조화분석에 사용된 프로그램은 범용적으로 이용되는 TIRA 모형이며, 최근에는 TIRA 모형과 MARIE 모형(조위예측 모형)을 포함하는 TASK-2000 모형으로 보급되고 있다(Murray, 1964; Bell et al., 1999). 관측조위가 없는 결측구간은 조위편차를 계산할 수 없기 때문에 결측자 료(missing data)로 간주하여 분석에서 제외하였다. 결측비율은
인천의 경우 3.2%, 다른 지점은 모두 1.0% 이하로 결측자료의 영향은 미미한 수준으로 판단된다. 조위편차의 기본적인 통계 정보는 정리하여 표에 제시하였다(Table 1). 왜도(skewness) 는 인천, 군산, 목포지점에서 음의 값(−0.48, −0.38, −0.16)을 보이는, 즉 오른쪽으로 분포가 치우친 경향을 보이는 반면 여 수, 부산, 속초지점에서는 양의 값(0.33, 0.39, 0.28)을 보이는, 즉 왼쪽으로 분포가 치우친 경향을 보이고 있다. 첨도(돌도, kurtosis)는 여수, 인천 지점이 각각 7.86, 7.27 정도로 높은 값을 보였으며, 군산 및 목포지점은 6.3 정도, 부산 및 속초는 4.2 정 도로 정규분포의 돌도에 해당하는 3.0 보다 전체적으로 높은 값을 유지하고 있다.
한편, 조위편차의 분포함수로 정규분포함수가 편리하다는 이유로 널리 이용되고 있기 때문에 우선적으로 조위편차가 정 규분포 함수를 따르는지를 95% 신뢰수준으로 검정을 실시하 였다. 검정방법은 널리 이용되는 K-S (Kolmogorov-Smirnov) 검정방법으로 MATALB ‘kstest’ 함수를 이용하면 간단하게 확인할 수 있다. 정규분포 검정결과, 95% 신뢰수준에서 모든 지점의 조위편차 자료는 “기각(reject)” 조건으로 판명되었다. 도 시적인 비교를 위하여 조위편차의 경험누적분포함수(Empirical Cumulative Distribution Function)와 누적 정규분포 함수를 비교·도시하여 제시하였다(Fig. 1). 인천, 군산, 목포지점의 CDF 비교결과, 정규분포의 CDF 곡선과 뚜렷한 차이를 보이 고 있는 반면, 여수, 부산, 속초지점은 매우 미미한 정도의 차 이를 보이고 있다. 전체적인 변화양상은 매우 높은 수준으로 일치하고 있으나, 꼬리영역에서는 절대적인 확률변화가 작기 때문에 정규분포와 큰 차이는 없으나 상대적인 확률차이는 크 게 증가하고 있다.
정규분포 “기각” 조건에 대한 판단은 정규 확률도시(Normal probability plot)를 통하여 보다 뚜렷하게 판단할 수 있다. 어떤 자료가 정규분포를 따르는 경우, 정규 확률도시에서는 직선 으로 표현되어야 한다. 그러나 본 연구에서 사용하는 조위편차 자료의 경우 조위편차의 크기가 증가하는 영역에서 직선영역 을 크게 벗어나고 있음을 알 수 있으며, 대표적으로 인천과 속초지점의 정규 확률도시를 제시하였다(Fig. 2).
3. Kernel 함수를 이용한 확률밀도함수 추정
비모수적인 방법을 이용하여 확률밀도함수를 추정하는 대
Table 1. Statistical information of the tidal residuals
Information Incheon Gunsan Mokpo Yeosu Busan Sokcho
Data number 178,163 182,357 183,983 182,373 183,336 183,331
Missing rate(%) 3.21 0.94 0.05 0.93 0.40 0.41
Mean (cm) 8·10-4 1·10-2 8·10-4 4·10-4 3·10-4 3·10-4
Standard deviation (cm) 15.16 12.05 11.46 7.99 6.67 6.71
Skewness (cm3) -0.48 -0.38 -0.16 0.33 0.39 0.28
Kurtosis (cm4) 7.27 6.27 6.42 7.86 4.23 4.24
표적인 방법은 Histogram 이용방법이다. 이 방법은 매우 간 단하고, 방대한 자료도 쉽게 처리할 수 있는 장점이 있으나
불연속적인 특성으로 다양한 통계적인 추정에 제한이 따른다 (Silverman, 1998). 반면, Kernel 함수를 이용한 밀도함수 추 정방법은 연속적인 특성을 가지고 있기 때문에 보다 정확한 밀도함수 추정이 가능하며, 이론적인 접근이 가능하다. Kernel 함수를 이용한 방법은 적절한 Kernel 함수의 선택과 분산변수 (smoothing parameter, bandwidth)의 결정이 필요하다. Kernel 함수의 선택은 확률밀도함수 결정에 둔감하기 때문에 본 연 구에서는 Gaussian Kernel 함수를 선택하였다. 반면 최적 분 산변수 결정은 다양한 방법이 제시되고 있으며, 일반적으로 평균적분제곱오차(Mean integrated square error; MISE; Eq. 1) 를 최소로 하는 분산계수를 결정하게 된다.
MISE( ) = (1)
여기서, , f(x)는 각각 추정 확률밀도함수(분산변수의 함 ˆf
∫
E f{ˆ x( ) f x– ( )}2dxˆ xf( )
Fig. 1. Empirical and Normal CDF plots of the tidal residuals.
Fig. 2. Normal probability plots of the tidal residual.
수), 미지의 정확한 확률밀도함수(true density)이다. 반면 정 규분포를 가정하여 이론적으로 유도된 공식은 다음과 같다 (Eq. 2; Silverman, 1998).
(2)
여기서, h는 분산변수이며, n = 자료의 개수, 는 자료의 분 산정도를 표현하는 수치로 일반적으로 표준편차를 이용하지 만, 이상자료(outlier)의 영향을 저감하기 위하여 대표적인 Robust 추정방법에 해당하는 IQR(Interquartile Range)/1.34 또는 중간절대편차(Median Absolute Deviation)를 이용한다.
본 연구에서는 공식을 이용하여 추정되는 분산변수를 이용 하여 조위편차의 확률밀도함수를 추정·제안하였다. 최적 분
산변수는 인천, 군산, 목포, 여수, 부산, 속초의 경우 각각 1.2, 1.0, 1.0, 0.7, 0.6, 0.6 정도로 인천이 가장 크고, 부산, 속초 지점이 가장 작다.
조위편차의 확률밀도함수는 비모수적 추정방법인 Kernel 함 수를 이용하여 추정하였다. Kernel 함수 추정은 분산변수를 입력하여 MATLAB ‘ksdensity’ 함수를 이용하여 추정하였으 며, 조위편차 자료의 Histogram 분포와 정규분포함수, Kernel 밀도함수를 비교하여 도시하였다(Fig. 3). 인천, 군산, 목포 지 점에서는 뚜렷한 차이를 보이고 있으며, 여수, 부산, 속초지 점에서도 상대적으로 적은 수준이나 중앙부분과 꼬리영역에 서 뚜렷한 차이가 보인다.
한편, 조위편차 자료는 위치에 따라 다른 변동범위(표준편 차)를 가지기 때문에 동일한 기준으로 공간적인 차이를 분석 h 4
3---
⎝ ⎠⎛ ⎞1 5⁄ σˆn1 5⁄ 1.06σˆn1 5⁄
= =
σˆ
Fig. 3. Histogram, normal, and Kernel density plots of the tidal residuals.
하기 위하여 조위편차를 표준화한 변수(z, 식 (3))를 이용하 여 확률밀도함수를 비교·분석하였다. 표준화된 변수를 이용 하여 Kernel 함수를 이용한 확률밀도함수를 추정한 결과는 Fig. 4에 제시하였다. 이 경우 분산변수는 인천에서 0.08, 속
초에서 0.09 정도의 범위로 산정되었다. 표준화된 변수를 이 용하여 상대적인 확률밀도함수 형태를 비교하면, 부산, 속초 지점에서 가장 높은 분산을 가진 형태를 보이며, 인천 지점 에서 가장 작은 분산형태를 보이고 있는 것으로 파악되었다.
Fig. 4. Kernel density plots using the standardized tidal residuals.
(3)
여기서, z = 표준화된 변수, s = 조위편차, µs=조위편차의 평 균, =조위편차의 표준편차이다.
4. 조위편차 발생빈도와 표준편차의 관계분석
정규분포를 가정하는 경우, 상위와 하위 각각 10%, 1%, 0.1% 수준에 해당하는 조위편차는 다음과 같이 산정할 수 있 다. 따라서 정규분포를 가정하고 추정한 경우와 조위편차 정 보를 이용한 경우(Table 2)의 차이를 비교하면 정규분포를 가 정하는 경우의 오차를 정량적으로 분석할 수 있다. 우선 정 규분포를 이용한 경우의 추정 조위편차는 다음과 같은 식으로 각각 계산할 수 있다(김 등, 2000).
상위 [10%, 1%, 0.1%] (하한)경계 조위편차 = (평균) + [1.28, 2.33, 3.09]·(표준편차)
하위 [10%, 1%, 0.1%] (상한)경계 조위편차 = (평균) − [1.28, 2.33, 3.09]·(표준편차)
추정 조위편차와 자료를 이용한 조위편차의 차이는 전체적 으로 확률이 작아질수록 증가하는 경향을 보이고 있으며, 인 천, 목포의 경우에는 음의 왜도에 의한 영향으로 하위 극값 추정에서 큰 오차가 발생하고 있으며, 부산, 속초의 경우에는 반대로 양의 왜도에 의한 영향으로 상위 극값추정에서 큰 오 차가 발생하고 있다.
상위 1% 수준 추정조위는 정규분포로 가정한 경우에도 모 든 지점에서 1.67~1.81 정도의 오차를 가지는 미미한 수준의 과소추정을 하고 있으나, 상위 0.1% 수준의 추정조위는 인천 의 경우 14.1, 군산은 10.7, 목포는 11.8, 여수, 부산, 속초의 경우는 7.0~9.5 수준으로 상당한 정도로 과소추정되고 있다.
반면 하위 1%, 0.1% 추정오차는 여수, 부산, 속초 지점의 경
우에는 오차가 미미한 수준이나, 인천, 군산, 목포의 경우 각각
−9.2, −6.4, −2.2, −29.5, −23.9, −22.4 정도로 오차가 매우 크게 나타나고 있다. 설계조위를 결정하는 영역은 보다 작은 확률 영역이기 때문에 정규분포로 가정하여 추정하는 경우, 매우 큰 오차가 유발될 수 있다. 반면, Kernel 함수를 이용한 밀 도함수를 이용한 경우는 모든 조건에서 1.0 미만으로 매우 우 수한 일치수준을 보이고 있다(Fig. 5).
꼬리 영역에서의 조위편차 추정결과는 본 연구에서 제시한 확률밀도함수의 꼬리 영역부분의 추정결과를 확대하여 보면 그 차이를 보다 명확하게 추정할 수 있다. 정규분포를 이용 하는 경우와 본 연구에서 제시한 확률밀도함수를 이용하는 경 우의 꼬리영역 부분에서의 차이를 비교하여 Fig. 6에 제시하 였다. 본 연구에서 제시한 정확한 확률밀도함수를 기준으로 하 는 경우, 정규분포함수를 이용하는 경우 꼬리영역에서 보다 분 명하게 그 차이가 발생하는 것을 볼 수 있다.
z s µ– s
σs ---
=
Fig. 5. Extreme value estimation between Normal and Kernel dis- tribution.
Table 2. Relationship between standard deviation and extremes of the tidal residuals
(a) Data (b) Estimation by Normal distribution (c) Estimation by Kernel density function Information Incheon Gunsan Mokpo Yeosu Busan Sokcho Incheon Gunsan Mokpo Yeosu Busan Sokcho Incheon Gunsan Mokpo Yeosu Busan Sokcho
Upper extremes
over
10% 17 14 14 10 8 8 19 15 15 10 9 9 17 14 14 10 9 8
over
1% 37 29 29 20 17 17 35 28 27 19 16 16 37 30 29 21 17 17
over
0.1% 61 48 47 34 28 28 47 37 35 25 21 21 61 49 47 35 28 28
Lower extremes
under
10% -17 -14 -13 -10 -8 -8 -19 -15 -15 -10 -9 -9 -17 -13 -13 -9 -8 -8
under
1% -45 -34 -29 -19 -15 -16 -35 -28 -27 -19 -16 -16 -44 -34 -29 -18 -15 -15
under
0.1% -76 -61 -58 -28 -20 -23 -47 -37 -35 -25 -21 -21 -77 -61 -58 -28 -20 -23
Fig. 6. Comparison of the tail-zone between Normal and Kernel distribution.
Fig. 6. Continued.
5. 결론 및 제언
관측조위와 예측조위의 차이로 정의되는 조위편차는 95%
신뢰수준에서 정규분포 적합검정 결과 모두 ‘기각’으로 판정 되어, 정규분포를 따르지 않는 것으로 파악되었다. 조위편차 의 확률밀도함수는 음·양의 왜도와 정규분포보다 큰 돌도를 가지는 분포로 정규분포로 근사화하는 방법은 한계가 있기 때 문에 비모수적 방법인 Kernel 함수를 이용하여 추정하는 확 률밀도함수를 제시하였다. 제시된 확률밀도함수는 조위편차 자료와 매우 우수한 일치수준을 보이고 있으며, 극값 추정에 도 높은 수준의 정도를 보여주고 있다. 그러나 본 연구에서 제시한 확률밀도함수는 모든 조위편차에 대한 확률밀도함수 이기 때문에, 해안 구조물 설계의 관점에서 중요한 재현기간에 따른 조위편차 추정 등에는 제한이 있다. 재현기간에 따른 조 위편차를 추정하기 위해서는 본 연구에서 사용한 조위편차 자 료에서 연 최대자료 또는 일정 기준을 만족하는 자료를 추출 하여 확률밀도함수를 최적 추정하는 연구가 필요하다.
감사의 글
본 연구는 한국해양연구원 기본연구사업(PG-47641)의 지 원을 받아 수행되었습니다. 연구비 지원에 감사드립니다. 또 한 본 연구는 지식경제부 지식경제 기술혁신사업의 연구비 지 원(20103020070080)에 의해 수행되었습니다.
참고문헌
김우철, 김재주, 박병욱, 박성현, 박태성, 송문섭, 이상열, 이영조, 전종우, 조신섭 (편저) (2000). 통계학 개론, 제4개정판, 부록, 영지문화사.
이종섭, 강태순, 박명원 (1999). 부산항 조석과 조위편차의 장 기변동특성, 대한토목학회논문집, 19(II-1), 91-100.
조홍연, 정신택, 오영민 (2004). 조위자료의 확률밀도함수 추정, 한국해안·해양공학회지, 16(3), 152-161.
조홍연, 정신택, 윤종태, 김창일 (2006). 한반도 연안 비조석 성 분자료의 통계적 특성, 한국해안·해양공학회지, 18(2), 112-123.
Bell, C., Vassie, J.M. and Woodworth, P.L. (1999). POL/PSMSL Tidal Analysis Software Kit 2000 (TASK-2000), Proudman Oceanographic Laboratory.
Boon, J.D. (2004). Secrets of the Tide, Tide and Tidal Current Analysis and Applications, Storm Surges and Sea Level Trends, Chapter 9, Horwood Publishing.
Coles, S. and Tawn, J. (2005). Bayesian modelling of extreme surges on the UK east coast, Philosophical Transactions of the Royal Society A, 363, 1387-1406.
Murray, M.T. (1964). Murray, M.T. 1964. A general method for the analysis of hourly heights of the tide. International Hydrographic Review, 41(2), 91-101.
Pugh, D.T. (2004). Changing Sea levels, Effects of Tides, Weather and Climate, Chapter 6, Cambridge Univ. Press.
Pugh, D.T. and Vassie, J.M. (1978). Extreme Sea Levels from Tide and Surge Probability, Proceedings of the 16th Coastal Engineering Conference, American Society of Civil Engineers, 911-930.
Pugh, D.T. and Vassie, J.M. (1980). Applications of the joint probability method for extreme sea level computations, Proceedings of the Institution of Civil Engineers, Part 2, 69, 959-975.
Silverman, B.W. (1998). Density Estimation for Statistics and Data Analysis, Chapter 3, Chapman and Hall/CRC.
원고접수일: 2011년 10월 26일 수정본채택: 2012년 1월 11일(1차)
2012년 1월 22일(2차) 게재확정일: 2012년 1월028일
