241
연간 최대해일고 변동의 일반화 극치분포 적용 연구
A Study on the Application of Generalized Extreme Value Distribution to the Variation of Annual Maximum Surge Heights
권석재*·박정수**·이은일*
Seok Jae Kwon*, Jeong Soo Park** and Eun Il Lee*
요 지 : 기상변화로 인한 해일고의 장기간 변동성을 파악하기 위해 여수와 통영 조위관측소의 30년 이상의 해 수면자료를 이용하여 해일고를 추출하고 연간 최대해일고의 변동경향 및 상위해일고의 기본특성 고찰과 연간최대해일 고의 통계적 평가를 수행하였다. 선형회귀에 의한 연간 최대해일고의 증가율은 여수와 통영에서 각각 약 34.5 cm/34 yr와 33.6 cm/31 yr로 동해안 속초와 묵호에 비해 상대적으로 매우 높게 나타났다. 두 지역에서 최대해일고는 각각 71%와 68%가 태풍 시기에 관측되었으며, 해일고가 높을수록 태풍에 의한 영향이 컸던 것으로 나타났다. 최대 해일고에 대한 통계적 분석은 시간 경향을 고려한 일반화 극치분포를 이용하여 이뤄졌다. 또한 검블 분포도 고려하였는데, 어떤 분포가 더 적합한지를 결정하기 위하여 우도비 검정을 실시하였다. 미래에 대한 통계적 예측방법을 위하여 리턴레벨과 90% 신뢰구간을 제시하였다. 기후변화에 따른 해일고의 변동 특성에 대한 지속적인 분석 및 예측을 통해 강화된 태풍에 의한 해일피해를 경감할 필요가 있을 것이다.
핵심용어 : 지구온난화, 조석, 해수면, 해일고, 일반화 극치분포, 검블 분포
Abstract : This study performs the investigation of a long-term variation of annual maximum surge heights(AMSH) and main characteristics of high surge events, and the statistical evaluation of the AMSH using sea level data at Yeosu and Tongyeong tidal stations over more than 30 years. It is found that the long-term uptrends based on the linear regression in the AMSH are 34.5 cm/34 yr at Yeosu and 33.6 cm/31 yr at Tongyeong, which are relatively much higher than those at Sokcho and Mukho in the Eastern Coast. 71% and 68% of the AMSH occur during typhoon’s event in Yeosu and Tongyeong tidal stations, respectively, and the highest surge records are mostly produced by the typhoon. The generalized extreme value distribution taking into account of the time variable is applied to detect time trend in annual maximum surge heights. In addition, Gumbel distribution is checked to find which one is best fitted to the data using likelihood ratio test. The return level and its 90% confidence interval are obtained for the statistical prediction of the future trend. The prevention of the growing storm surge damage by the intensified typhoon requires the steady analysis and prediction of the surge events associated with the climate change.
Keywords : global warming, tides, sea level, surge level, GEVD, Gumbel distribution
1. 서 론
태풍, 온대성 저기압 등의 악 기상으로 인한 해일로 연 안침수, 제반 시설물의 붕괴 등의 연안재해로 인명 및 재 산피해가 빈번히 발생하고 있기 때문에 연안방재 차원에
서 연안의 방호시설이나, 항만, 해안구조물의 설계에 있어 내습하는 이상해면 상승의 최대 규모를 적절히 평가할 필 요가 있다. 해수면 변화의 원인은 조석자체의 변화와 비조 석 변화로 구분할 수 있으며 단기적인 비조석 변화요인으 로 태풍이나 저기압 발생시 대기압 변화와 바람에 의한 해
*국토해양부 국립해양조사원 해양조사연구실(Corresponding Author: Ocean Research Lab., National Oceanographic Research Institute, 1-17, 7Ga Hang-dong, Jung-gu, Incheon 400-800, Korea. [email protected])
**전남대학교 수학통계학부 정보통계학과(Corresponding Author: Dept. of Statistics, Chonnam National University, 300 Yonbong-Dong, Kwangju, 500-757, Korea. [email protected])
수면 변화가 크게 작용한다(Morton et al., 2000; 강 등, 2008). 현재 지구온난화에 의해 강화되고 있는 태풍은 보 고되고 있지만 이러한 태풍강도의 증가로 인한 폭풍해일 의 변동성은 국내에서 아직 자세히 보고되지 않고 있다. 또 한 본 연구에서 산정되는 연간 최대해일고의 경향의 파악 과 더불어 통계학적 관점에서 합리적인 평가를 수행한 후 재현기간에 대한 확률적 추정치를 계산할 필요가 있다. 현 재 우리나라 연안의 설계해면은 미래의 기후변화에 대한 고려 없이 과거 관측 자료를 토대로 계산된다는 측면에서 본 연구의 연간 최대해일고의 확률적인 추정치는 정책 결 정에 필요한 기초자료로 활용될 수 있다.
국내에서는 한국해양연구원(2000)이 과거 해양환경을 수 치모의하고 이상해면의 예측결과로부터 극치 확률 통계기 법을 사용하여 주요 연안에서의 재현기간별 극치해면을 산 출하였다. 문(2007)은 우리나라 연간 최대순간풍속 극값을 이용하여 태풍의 강도가 증가하고 있음을 보고하였으며 이 는 지구온난화와 밀접한 관련이 있다고 제안하였다. 강 등 (2008)은 국립해양조사원이 제공한 서남해역 7개 조위관측 소(목포, 완도, 여수, 거문도, 추자도, 제주, 서귀포)에서의 1시간 해수면자료를 이용하여 1990년대 및 2000년대에 서 남해안에 영향을 미친 태풍의 기간에 최대해일고를 제시 하였고 2000년대 들어 초대형 태풍의 발생에 따라 이상조 위 발생가능성이 매우 우려스러운 수준임을 피력하였다. 권 등(2008)은 지난 34년간 속초와 묵호 조위관측소에서의 1 시간 해수면자료를 이용하여 연간최대해일고의 변동경향 및 상위해일고의 기본특성을 고찰하였고 최대해일고의 상 승원인을 열대해역의 수온증가와 이로 인한 전 지구적인 태풍과 한반도 영향 태풍의 활동 강화와 결부시켜 설명하 였다. 국외에서 Webster et al.(2005)이 지구온난화에 의한 해수면 온도(SST, Sea Surface Temperature)의 증가는 전 기구적인 태풍 발생과 강도에 밀접한 관련이 있다고 보고 하였다. Emanuel(2005)은 지난 30년간 최대풍속을 이용하 여 모사한 태풍의 파괴력이 전 세계적으로 증가하고 있으 며 향후에도 더욱 증가할 것이라고 제안하였다. 본 연구에 서 사용한 시간 경향을 고려한 일반화 극치분포는 연 최 대 강수량과 같은 극치 자료의 통계적 모형화에 널리 사 용되고 있다(Coles, 2001; Park et al., 2009). 김과 박(2008) 은 최고기온의 변화를 시간을 고려한 일반화 극치분포를 이용하여 분석하였다.
국립해양조사원은 총 37개의 조위관측소를 운영하고 있 으며 홈페이지(www.nori.go.kr)를 통해 1시간 조위관측 자 료를 제공하고 있다. 본 연구는 지구온난화 영향으로 나타
나는 국내 해일의 장기변동 특성을 조사하고 통계적으로 분석하는 데 목적이 있다. 이를 위해 여수와 통영 조위관 측소의 각각 34년간(1974~2007)과 31년간(1977~2007)의 1시간 원시조위자료를 이용하여 해일고를 산정하고 이로 부터 연간 최대해일고를 추출하여 변동경향 및 특성을 파 악하고자 한다. 그리고 이러한 극값들에 일반화 극치분포 를 적용하여 통계학적 가설 및 검정을 수행하고 신뢰구간 에 따라 미래 연간 최대해일고의 범위를 예측하고자 한다.
원래 자료의 분포 모양에 상관없이 자료의 극값(최대값, 최소값 등)들은 자료의 수가 충분할 경우 일반화 극치분 포(GEVD, Generalized Extreme Value Distribution)를 따르 게 된다. 일반화 극치분포는 최대강수량, 최대풍속, 보험회 사의 최대손실액, 주식시장에서 최대손실지수, 환율의 최 대등락, 강의 최고수위 등 극단적인 값에 대한 통계적 모 형으로 널리 이용된다(Coles, 2001). 따라서 연간 최대해 일고의 경우도 연중 최대값이므로 GEVD를 적용할 수 있다. 본 연구에서는 일반화 극치분포의 특별한 경우인 Gumbel 분 포도 고려하였고, 이들 간에 더 적합한 분포를 선택하기 위 하여 우도비 검정을 실시하였다. 또한 시간 경향 여부에 대 한 통계적 가설검정도 실시하였다.
본 연구에서는 Quality Control(QC) 작업을 거쳐 산정 되는 연간 최대해일고의 경향의 파악과 더불어 좀 더 다 양하고 세부적인 통계학적 관점에서 합리적인 평가를 수 행한 후 재현기간에 대한 확률적 추정치를 계산하는데 목 적이 있다. 이러한 연구결과는 미래 온난화 환경에서 구조 물 설계시 조석과 해일성분이 동시에 고려되어야 하는 극 치해면의 예측을 위한 연구의 참고자료로 활용될 수 있다 고 사료된다.
2. 연구방법
2.1 해일고 추정방법
Fig. 1은 여수와 통영의 조위관측소 위치를 나타낸다. 관 측소 위치는 각각 여수 동방파제 내와 통영 도남항 내에 설치되어 있다. 본 연구에서는 여수 조위관측소의 34년간 (1974~2007)의 1시간 원시조위자료와 통영 조위관측소의 31년간(1977~2007)의 1시간 원시조위자료를 이용하였다.
통영의 경우 다른 지역보다 조위관측이 늦게 시작되어 1977년부터의 자료를 이용하였다. 조화분석과 조위예측을 위해 사용한 조화분해 프로그램은 영국의 POL(Proudman Oceanographic Laboratory)/PSMSL에서 제작배포한 TIRA (Murray, 1964)이다.
해일고는 먼저 매월 관측된 1시간 간격의 해수면 자료를 10분 간격으로 내삽한 후 조화분석에 의해 계산된 천문조 예측값을 제거하여 산정하였다. 본 연구에서는 결측으로 인 한 최대해일고 산정의 어려움을 보완하기 위해 월별로 조 화분석을 수행하였으며 단기간이라도 결측이 있으면 해당 월은 분석대상에서 제외하였다. 월별 조화분석 시 사용한 분조의 개수는 약 35개이다. 여수의 경우 조위관측자료 결 측이 2002년 10월, 2003년 12월, 2007년 10월과 11월에 발생하였고, 통영 조위관측자료 결측은 2003년 11월에 있 었던 것으로 파악되었다. 이는 다른 조위관측소에 비해 결 측률이 매우 낮으며, 연간 최대해일고 및 상위(1-30위)해 일고 산정시에 거의 영향을 미치지 않은 것으로 나타났다.
관측된 조위자료의 Quality Control(QC) 작업을 위하여 30년 이상의 태풍 및 해일 시기에 대하여 디지털 조위자 료와 검조기록지를 비교하였으며, 부근 기상관측소의 기압 과 풍속자료를 이용하여 해일고 추정 결과를 비교 검증하 였다. Fig. 2은 한 예로 한반도에 매우 큰 피해를 입힌 태 풍 Maemi(2003)에 대한 기압, 풍속, 조위, 예측조위, 그리고 해일고의 시계열 분포를 나타낸다. 그림에서 보면 여수에서 해 일고 118.1 cm, 풍속 31.8 m/s, 기압 979.0 hPa, 통영에서 해일고 155.7 cm, 풍속 30.8 m/s, 기압 956.5 hPa이 기록되어 해일 발생시에 모두 강한 바람과 기압하강이 관측되었다.
참고로 여수와 통영조위관측소에서는 최근 약 7년간의 1분 원시자료를 보유하고 있다. 권 등(2008)은 1분 자료에 근거한 최대해일고가 1시간 자료에 근거한 최대해일고보 다 높게 나타나므로 1시간 자료에 근거한 추정된 최대해 일고는 1분 자료에 비해 과소 산정되는 경우가 많을 것으
로 피력하였다. 그러나 본 연구의 목적이 장기간 해일고의 변동성을 조사하는 것이기 때문에 총기간이 7-8년뿐인 1 분 자료를 사용하는 것보다 장기간 일관성이 있는 자료가 있는 1시간 간격 자료를 이용하여 그 경향을 분석하는 것 이 바람직하다고 사료된다.
2.2 극치 분포의 이론적 배경
일반화 극치분포(GEVD)는 최대강수량, 최대풍속 등 극 단적인 값에 대한 통계적 모형으로 널리 이용되므로 연간 최대해일고의 경우도 연중 최대값의 변동에 GEVD를 적 용할 수 있다. GEVD의 수식을 보면 μ, σ, ξ 라는 세 개의 모수가 있는데 이중에 ξ = 0인 경우를 특별히 Gumbel 분 포라고 한다(Coles, 2001).
본 연구에서 연간 최대 해일고 자료에 적용하고자 하는 극치분포의 형태는 아래와 같다. GEVD의 누적분포함수 수 식은 다음과 같다.
(1)
Gumbel 분포의 누적분포함수 수식은 다음과 같다.
(2)
또한 이번 연구에서 시간에 따른 최대 해일고의 평균변 화를 고려할 수 있는 μ를 정해진 상수가 아닌 시간에 따 라 변하는 모형을 적용하였다. 시간을 고려한 모형의 μ는 다음과 같은 시간에 대한 1차 함수식을 이용하였다.
F x( ) exp 1 1 ξx μ– ---σ
⎝ + ⎠
⎛ ⎞–1 ξ⁄
⎩ ⎭
⎨ ⎬
⎧ ⎫,1 ξ x μ+ ( – ) σ 0⁄ >
=
F x( ) x μ– ---σ
⎝– ⎠
⎛ ⎞ exp
⎩– ⎭
⎨ ⎬
⎧ ⎫,–∞ x ∞< <
exp
=
Fig. 1. Locations of tidal stations at Yeosu (left panel) and Tongyeong (right panel).
Fig. 2. Comparison between meteorological data and sea level data at Yeosu and Tongyeong tidal stations during Typhoon Maemi on September 2003.
(3)
식 (1)에서 μ는 위치모수, σ는 척도모수, ξ는 형상모수 를 나타낸다. 일반적으로 μ는 상수이지만 본 연구에서는 시간에 따라 평균이 변하는 모형을 생각하기 위하여 식 (3) 과 같이 위치모수인 μ를 상수로 생각하지 아니하고 시간 에 변하는 모형으로 생각하였다. 식 (3)에서 t0는 자료의 시 작 연도를 의미하며, a는 절편 즉 시작 연도의 μ를 의미 하며, b는 한해가 증가함에 따른 μ의 증가량이다. 식 (3) 과 같은 1차 함수식을 고려한 이유는 Fig. 6에서 볼 수 있 듯이 시간에 따른 변화 경향이 선형적이기 때문이다.
3. 해일고의 변동성 고찰
3.1 연간 최대해일고의 변동성
여수와 통영 조위관측소의 연간 최대해일고 시계열로부 터 장기 변동 특성을 조사하였다(Fig. 4). 여수의 34년 동 안 연간 최대해일고는 2003년 태풍 MAEMI 시기에 가장 높은 값(118 cm)을 기록하였으며, 통영의 31년 동안 연간 최대해일고도 2003년 태풍 MAEMI 시기에 가장 높은 값 (156 cm)을 기록하였다. 선형회귀에 의한 여수와 통영의 연 간 최대해일고의 증가율은 각각 10.1 mm/yr과 10.8 mm/yr 로써 여수는 34년 동안 총 34.5 cm, 통영은 31년 동안 총 33.6 cm의 증가가 있었던 것으로 나타났다. 이러한 수치는
권 등(2008)이 수행한 동해안의 속초(2.5 mm/yr)와 묵호 (2.6 mm/yr)의 증가율보다 약 4배 정도 높은 수치이다.
여수와 통영의 경우 각각 34년, 31년 동안 연간 최대해 일고의 평균값은 각각 43.5 cm와 37.8 cm로 나타났고, 또 한 여수와 통영 모두 연간 최대해일고의 각각 약 71%와 68%가 태풍 시기에 발생한 것으로 나타났다. 권 등(2008) 에 의하면 속초와 묵호의 경우 34년 동안 연간최대일고의 평균값은 각각 22.6 cm와 22.2 cm로 유사하게 나타났고, 또한 속초와 묵호 모두 연간 최대해일고의 약 53%가 태 풍에 의해 영향을 받은 것으로 나타나 남해안이 상대적으로 연간 최대일고의 평균값이 높았으며 태풍에 의한 영향도 더 지배적이었던 것으로 볼 수 있다. 여수와 통영의 연간 최대해일고의 변동경향을 비교해보면 서로 유사함을 알 수 있다. 특히 연간 최대해일고가 동일 기상 이벤트에서 발생 한 비율은 61%에 달하며 속초와 묵호의 85%에 비해서는 상대적으로 낮았다.
권 등(2008)은 이러한 최대해일고의 증가가 열대해역의 수온증가로 인한 전 지구적인 태풍활동의 증가와 함께 한 반도에 영향을 미치는 태풍의 강도가 증가하였기 때문인 것으로 설명하였다. 태풍의 강도에 직접적인 영향을 미치는 열대해역의 해표면 수온은 전 해역에서 38년간 약 0.5oC 상승하였으며 이로 인한 북서태평양과 대서양의 태풍파괴 력(PDI)은 같은 기간 50% 증가한 것으로 제안하였다. 특히, 한 반도에 영향을 미친 태풍의 중심기압은 36년간 7 hPa 감 μ a b Year t= + ×( – 0+1)
Fig. 3. Variations of annual maximum surge heights at (a) Yeosu during 1974-2007 and (b) Tongyeong during 1977-2007.
소하는 것으로 보아 한반도에 점점 강한 태풍이 오고 있 음을 추론하였다.
3.2 연간 최대해일고의 특성
34년간 여수와 31년간 통영의 연간 최대해일고의 월별 발생횟수(Fig. 4)는 주로 한반도에 태풍이 접근하는 7월에 서 10월 사이에 각각 약 76%와 74%를 보였다. 한편, 연 간 최대해일고의 발생시기의 조석현상을 분석하기 위해 예 측값의 고조 및 저조를 기준으로 연간 최대해일고의 발생 시점을 조석 특성별로 구분하여 보았다(Fig. 5). 그 결과, 여수와 통영에서 연간 최대해일고는 고조와 저조 또는 고 조와 저조 사이에서 비교적 균등하게 발생하여 연간 최대 해일고의 발생은 조석현상과는 특별한 연관성이 없는 것 으로 판단된다.
3.3 상위 해일고의 특성
앞서 연간 최대해일고의 변동성과 특성에 대하여 주로 서술하였다. 이 절에서는 지난 34년 동안 여수와 31년 동안
통영의 매월 관측된 최대해일고의 상위 30위까지의 기록 을 고찰하고자 한다. Table 1과 2는 각각 여수와 통영에 대해 연도와 상관없이 각각 지난 34년, 31년 동안 가장 높 았던 해일고를 1위부터 30위까지 정리하여 상위해일고의 발생시기, 조석, 태풍의 영향, 풍속, 기압 자료를 함께 나 타내었다. 여수의 경우 1위부터 10위까지의 100%, 11위부 터 20위까지의 80%가, 21위부터 30위까지의 40%가 태풍 의 영향을 받은 것으로 파악되었다. 통영의 경우는 1위부 터 10위까지의 100%, 11위부터 20위까지의 80%가, 21위 부터 30위까지의 70%가 태풍의 영향을 받은 것으로 나타 났다. 결국 해일고가 높을수록 태풍에 의한 영향이 컸던 것 으로 나타났다.
34년간 여수와 31년간 통영을 1위부터 30위까지의 해일 고 기록에 대한 월별발생횟수를 보면, 주로 한반도에 태풍 이 접근하는 7월에서 10월 사이에 각각 약 73%(여수)와 87%(통영)가 발생하였다. 또한 1위부터 30위까지의 해일 고를 조석특성별로 구분하여 보면, 고조와 저조 또는 그 사 이에 균등하게 발생한 것을 알 수 있다.
Fig. 5. Tidal characteristics when annual maximum surge heights are recorded at (a) Yeosu during 1974~2007 and (b) Tongyeong dur- ing 1977~2007.
Fig. 4. Monthly occurrence number of annual maximum surge heights at (a) Yeosu during 1974~2007 and (b) Tongyeong during 1977~2007.
4. 연간 최대해일고 변동성의 통계적 분석
4.1 Lowess 그림을 통한 분석
Lowess(locally weighted scatterplot smoothing)는 산포도 로부터 두 변수들 사이의 관계를 설명해주는 부드러운 선 을 형성한다. Lowess는 자료 점을 전후로 가중 최소제곱 방법을 적용해서 구해진 부드러운 경향선을 얻는 방법이 다(Cleveland, 1979). 이 방법은 산포도의 시간에 따라 어 떤 변화가 있는지를 알아 볼 수 있는 유용한 도구이고, 특 히 특정 모형을 가정하지 않는다는 점에서 매우 강력하다.
본 연구에서는 개방 소프트웨어인 R 프로그램(CRAN, 2008)을 이용하여 Lowess 경향선을 구했다. 구체적으로 보 면, 먼저 자료 값들 이 주어진 경우 Lowess에서 “가중 최 소제곱방법”이란 주어진 점 xi에서 다음 식을 최소로 하는 βj, j = 1,2,...,d을 구하는 방법이다.
(4)
이때의 βj를 로 표시한다. 여기서 wk(xi)는 가중치인데,
|xi-xk|에 반비례하는 가중값을 주는 함수이다. xi에서의 적 합한 선은 다음 식으로 구해진다.
(5)
가중 함수와 d의 선택에 관한 자세한 내용은 Cleveland (1979)에 서술되어 있다.
Fig. 6은 34년 동안 여수와 31년 동안 통영의 연간 최 대해일고의 Lowess를 나타낸 그림이다. 그림을 보면 평균 적인 증가도 있지만 시간에 따라 변동성이 커진다. 따라서 여수와 통영은 시간에 따라 변동성이 변하는 모형을 생각 할 수 있다.
wk( ) yxi k–β0–β1xk … β– xd k
– d
( )2
k 1=
∑n
βˆj
yˆi βˆj
j 0=
∑d ( )xxi ij
=
1 118.08 2003-09-12 19:49 고 0314(MAEMI) 31.8 979.0
2 112.89 2002-08-31 15:00 고 0215(RUSA) 23.8 970.4
3 96.98 1995-07-23 15:40 고 9503(FAYE) 30.0 977.3
4 80.70 1987-07-15 21:40 저→고 8705(THELMA) 22.0 980.7
5 75.72 2007-09-16 18:10 저 0710(NARI) 23.4 991.2
6 61.06 1998-09-30 13:00 고 9809(YANNI) 18.0 991.4
7 57.37 1985-10-05 14:30 고→저 8520(BRENDA) 20.9 996.4
8 56.15 1986-08-28 11:19 저→고 8613(VERA) 17.2 982.5
9 53.51 1989-07-28 21:40 고→저 8911(JUDY) 17.7 989.1
10 51.01 2000-09-16 04:00 저 0014(SAOMAI) 25.2 979.9
11 50.57 1994-10-12 04:10 고→저 9429(SETH) 14.0 992.3
12 43.37 1993-06-02 05:30 고 12.8 987.3
13 42.09 1974-07-06 17:40 저 7408(GILDA) 18.7 994.0
14 41.39 2004-08-19 04:40 저 0415(MEGI) 17.6 989.0
15 39.74 1999-08-03 13:49 고 9907(OLGA) 23.8 996.8
16 37.00 1991-09-27 21:49 고 9119(MIREILLE) 8.1 990.1
17 36.57 2005-09-06 16:49 저 0514(NABI) 12.6 990.7
18 36.12 1980-09-11 05:40 저 8013(ORCHID) 9.0 994.2
19 36.10 2004-07-04 12:00 고 0407(MINDULLE) 9.9 990.4
20 33.66 1980-01-29 12:19 저 11.8 1012.3
21 33.32 1974-04-08 07:00 저→고 9.0 1008.8
22 32.36 1984-08-21 05:40 고→저 8410(HOLLY) 10.5 987.4
23 32.24 1991-07-29 09:10 고 9109(CAITLIN) 16.3 989.0
24 31.52 1974-05-31 01:49 저→고 4.3 1001.4
25 31.21 1978-03-09 11:00 고→저 14.3 1016.4
26 30.43 1983-09-28 12:30 고 8310(FORREST) 17.4 1002.4
27 30.21 1987-04-21 09:19 저 14.0 1000.7
28 29.15 1987-02-03 22:19 저→고 7.9 1027.4
29 29.12 1981-07-31 20:19 고 8110(OGDEN) 15.0 1001.3
30 29.06 1994-06-19 02:30 저→고 10.0 1000.4
4.2. GEV 분포의 적용 후 각 모수들의 추정치와 로그 우도함수(log-likelihood) 계산
여수와 통영의 연간 최대 해일고 자료에 Gumbel 분포와
G
GEV 분포를 모두 적용하였으나, GEV 분포가 가장 적절 한 분포라는 결과가 나왔다. 여수 자료에 GEV 분포를 적 용한 결과는 Table 3이며, 통영 자료에 GEV 분포를 적용 Table 2. Top thirty of maximum surge heights at Tongyeong during 1977~2007(Wind and pressure data taken from KMA)
순위 해일고(cm) 일시(시간) 조석 태풍 풍속(m/s) 기압(hPa)
1 155.67 2003-09-12 20:49 고 0314(MAEMI) 30.8 956.5
2 102.17 2000-09-16 04:49 저 0014(SAOMAI) 14.8 982.5
3 73.73 2002-08-31 15:19 고 0215(RUSA) 18.6 979.7
4 65.99 1987-07-15 22:40 고 8705(THELMA) 16.7 986.6
5 65.75 1995-07-23 16:00 저→고 9503(FAYE) 21.8 990.0
6 58.59 1987-08-31 02:49 고→저 8712(DINAH) 13.3 971.3
7 47.80 2004-08-19 05:10 저 0415(MEGI) 11.0 975.9
8 42.43 1994-10-12 05:30 고→저 9429(SETH) 16.7 986.9
9 39.50 1991-09-27 21:30 고 9119(MIREILLE) 5.7 988.4
10 38.35 2007-09-16 18:19 저 0711(NARI) 12.5 997.7
11 37.59 1998-09-30 13:40 저→고 9809(YANNI) 11.2 997.7
12 37.17 1985-10-05 14:19 고→저 8520(BRENDA) 7.3 998.4
13 36.95 2006-07-10 11:40 고→저 0603(EWINIAR) 17.7 995.4
14 36.31 2006-09-17 22:10 고→저 0613(SHANSHAN) 8.7 992.3
15 34.14 1986-08-28 07:00 저 8613(VERA) 6.7 995.9
16 33.40 1989-07-28 21:40 고→저 8911(JUDY) 8.8 996.7
17 32.66 1979-08-17 14:40 저→고 7910(IRVING) 16.8 984.0
18 31.82 1979-03-31 19:30 저→고 1.9 1017.7
19 29.13 1991-07-29 15:19 저 9109(CAITLIN) 5.7 979.0
20 28.80 1993-06-02 05:30 고 7.6 991.3
21 28.79 1986-09-21 07:40 저→고 8616(ABBY) 5.4 1001.4
22 28.75 1984-08-21 12:00 저→고 8410(HOLLY) 5.0 981.8
23 27.48 1978-09-16 01:00 저 0.7 1010.4
24 27.03 2004-07-04 12:30 고→저 0407(MINDULLE) 13.8 991.4
25 26.60 1993-08-10 06:40 저 9307(ROBYN) 10.0 987.5
26 25.69 1978-07-31 05:00 저→고 7808(WENDY) 3.7 1001.1
27 25.22 2004-09-07 12:00 고 0418(SONGDA) 10.2 983.9
28 24.79 2006-02-15 17:10 저 3.0 1016.6
29 24.32 1977-04-07 00:10 고 2.3 1007.4
30 24.23 1983-09-28 11:30 고 8310(FORREST) 4.3 1001.8
Fig. 6. Lowess of annual maximum surge heights.
한 결과는 Table 4와 같다.
시간에 따른 추세 여부를 결정하기 위해 우도비 검정 (likelihood ratio test; LRT)을 해보면, 시간을 고려한 모형 과 고려하지 않은 모형의 log-likelihood의 차의 2배가 χ1,0.952 = 3,841을 넘지 않으므로(Table 3과 Table 4 참조), 시간을 고려하지 않은 모형을 사용하는 것이 바람직하다.
log-likelihood 값의 비교와 의 검정을 통해서 증가 추세 가 통계적으로 유의하지 않아, 증가 추세가 없다고 볼 수 있다. 여기서 귀무가설은 식 (3)에서 H0: b = 0이고 대립가 설은 HA: b≠0인데 우도비 검정 결과 유의수준 5%에서 귀
무가설이 채택되어 시간에 따른 추세가 없다는 결론을 내 렸다. 즉 육안으로 보기에는 시간에 따라 증가 경향이 있 어 보이지만, 통계적으로 유의한 증가는 아니라는 결론이 다. 우도비 검정에 관한 자세한 내용은 Wilks(1995)나 백 과 손(2006)에서 볼 수 있다. 그러므로 여수와 통영의 연 간 최대해일고 자료는 시간을 고려하지 않은 모형을 사용 함이 바람직하다. 따라서 두 자료는 GEVD(일반화 극치분 포)의 일반적인 형태인 시간을 고려하지 않은 모형을 적 용하였다. 앞으로 더 많은 자료가 축적되면 변동이 증가하는 모형을 고려할 수 있을 것으로 판단된다.
bˆ
log-likelihood
시간을 고려하지 않은 모형 -179.8743 29.0911(2.2211) NA 12.1341(1.9571) 0.3689(0.1689) 시간을 고려한 모형 -179.8743 29.0990(3.1714) -0.0004(0.1382) 12.1306(2.0094) 0.3693(0.1834)
aˆ bˆ σˆ ξˆ
Table 4. Maximized log-likelihoods, parameter estimates and standard errors(in parameters) for GEV model fitted to surge height at Tongyeong
log-likelihood
시간을 고려하지 않은 모형 -131.8055 23.2486(2.3661) NA 10.7643(2.2891) 0.5359(0.2331) 시간을 고려한 모형 -131.5909 24.9343(3.4743) -0.1174(0.1803) 10.5842(2.2296) 0.5505(0.2152)
aˆ bˆ σˆ ξˆ
Fig. 7. Diagnostic plots for GEV fit to surge height at Yeosu.
4.3 그래프를 통한 적합여부 살피기(GEV 분포) Fig. 7과 8은 여수와 통영의 연간 최대해일고의 자료와 자료로부터 추정한 모수를 가진 GEV 분포가 얼마나 일치 하는 지를 보여준다. 각각 위의 두 그림은 흔히 P-P(probalility per probalility) plot, Q-Q(quantile per quantile) plot 라고 하 는데, 자료가 직선과 가까울 때 가정한 GEV 모델에 일치 한다는 뜻이다. 리턴레벨(return level) plot 또한 가운데의 검정선과 일치하면 모델에 적합하다는 뜻이다. 자료들이 대부분 신뢰구간 안에 위치하게 되면 적합하다고 할 수 있 다. 마지막으로 밀도함수 그림(density plot)에서 막대그래 프는 원래 자료의 분포이고 실선은 우리가 가정한 GEV 분 포의 모습이다. 두 개의 모양이 비슷할수록 적합하다고 할 수 있다(Coles, 2001).
4.4 리턴레벨과 신뢰구간
리턴레벨이란, T년의 리턴레벨 값을 xT라고 하면, 이는 T년 동안 평균적으로 한번은 xT정도의 값이 나타난다는 의미 이다. 여수의 경우 Table 5에서 보면 10년 리턴레벨은 71.6473 cm인데, 이 뜻은 평균적으로 10년에 한번 71.6473 cm 정도의 값이 나올 것이라는 의미이다. 또한 100년 리턴레 벨은 175.7371 cm이므로 100년에 한번은 175.7371 cm정 도의 해일고가 나온다는 뜻이 된다. 이때 10년에 한번 일
어난다는 것은 1/10의 확률을 의미한다. 따라서 10년 리턴 레벨은 우리가 가정한 GEVD의 상위 10%에 해당하는 수 치이다. 100년 리턴레벨은 1/100이므로 상위 1%에 해당 한다.
본 논문에서는 시간을 고려하지 않은 GEVD 모형에 바 탕하여 리턴레벨 값 등을 구하고 미래 예측을 실시하였다.
Table 5에서 각 리턴레벨 아래에 있는 괄호안의 값은 리 턴레벨의 90% 신뢰구간으로서 프로파일 우도함수(profile- likelihood)를 사용한 신뢰구간이다. Fig. 9은 10년 리턴레 벨의 프로파일 우도함수를 통한 신뢰구간의 추정을 보여 주는 그래프이다. 구체적인 내용은 Coles(2001)에서 찾아 볼 수 있다.
통영의 경우 Table 6에서 보면 10년 리턴레벨은 70.2557 cm 이고 100년 리턴레벨은 239.5513 cm로 추정되었다. 권 등 Fig. 8. Diagnostic plots for GEV fit to surge height at Tongyeong.
Table 5. Return levels and 90% confidence intervals of surge height at Yeosu (단위: cm) year return level
10년 71.6473(57.9159, 102.1464) 20년 94.5971(71.4508, 158.4282) 50년 134.9642(90.8489, 287.5449) 100년 175.7371(106.8384, 455.1377)
(2008)의 연구결과인 속초와 묵호의 연간 최대해일고에 적 용해 본 결과는 시간을 고려한 모형과 고려하지 않은 모 형의 log-likelihood의 차의 2배가 χ1,0.952 = 3,841을 넘어 시간을 고려한 GEV 모형을 적용하는 것이 바람직하였다. 그 러므로 리턴레벨보다는 2010, 2050, 2100년 등의 여러 연 도에서 중위수 및 최소·최대값을 예측할 수 있었다.
Table 5와 6에서 각 리턴레벨 아래에 있는 괄호 안의 값은 리턴레벨의 90% 신뢰구간으로서 프로파일 우도함수(profile- likelihood)를 사용한 신뢰구간이다.
5. 결론 및 요약
본 연구에서는 태풍강화 등의 기상변화로 인한 해일고의 장기간 변동성을 고찰하기 위해 여수 조위관측소의 34년 간(1974~2007)의 1시간 원시조위자료와 통영 조위관측소 의 31년간(1977~2007)의 1시간 원시조위자료를 이용하여 관측치와 천문조 추정치의 차이로 연간 최대해일고 및 상 위해일고를 추출하여 변동경향 및 기본특성을 파악하였다.
지난 34년 동안 여수와 31년 동안 통영의 최대해일고 기록은 2003년 태풍 MAEMI에 의해 발생하였다. 선형회 귀에 의하면 여수와 통영의 연간 최대해일고의 증가율은
해안의 속초(2.5 mm/yr)와 묵호(2.6 mm/yr)의 증가율보다 약 4배 정도 높은 수치로 나타났다. 두 지역의 연간 최대 해일고의 평균값은 각각 43.5 cm와 37.8 cm로 동해 속초 와 묵호의 경우와 비교하여 상대적으로 높게 나타났고, 두 지역 모두 연간 최대해일고의 각각 약 71%, 68%가 태풍에 의해 영향을 받아 이 수치 또한 속초와 묵호의 경우와 비 교하여 상대적으로 높게 나타났다. 향후 추가적인 분석을 수행하게 되면 좀 더 명확히 동해안과 남해안의 해일고의 특성을 비교할 수 있을 것으로 사료된다.
여수와 통영은 연간 최대해일고의 변동경향이 서로 유 사하여 연간 최대해일고가 동일 기상 이벤트에서 발생한 비율은 61%에 달했다. 연간 최대해일고의 월별발생횟수는 여수와 통영의 경우 주로 한반도에 태풍이 접근하는 7월 에서 10월 사이에 각각 약 76%와 74%가 집중하여 발생 하였고 연간 최대해일고의 발생과 조석현상과는 특별한 연 관성이 없는 것으로 나타났다.
지난 34년 동안 최대해일고의 상위 1위부터 30위까지를 분석한 결과 여수의 경우 1위부터 10위까지의 100%, 11 위부터 20위까지의 80%, 21위부터 30위까지의 40%가 태 풍의 영향을 받은 것으로 나타났다. 묵호의 경우는 1위부 터 10위까지의 100%, 11위부터 20위까지의 80%, 21위부 터 30위까지의 70%가 태풍의 영향을 받은 것으로 나타나 해일고가 높을수록 태풍에 의한 영향이 커지는 것으로 파 악되었다. 여수와 통영의 상위해일고에 대한 월별발생횟수 는 7월에서 10월 사이에 각각 약 73%와 87%가 발생하였 으며 특정 조석주기에 발생하는 경향은 없었다.
자료 분석의 결과에 신뢰를 얻고자 통계적 가설 및 검 정을 통해 수행하였다. Lowess 그림을 통하여 속초와 묵 호는 연간 최대해일고가 점점 높아지는 추세임을 확인하 였다. 즉, 해일고가 시간에 따른 평균의 변화를 보이므로 시간을 고려한 Gumbel 분포를 적용하여 그 결과를 P-P plot, Q-Q plot과 비교하여 보았을 때 가정한 GEVD 모델 과 일치한다고 볼 수 있다. 여수와 통영은 Lowess 그림을 통하여 평균적인 증가는 약간 있어 보이지만 시간에 따른 변동성이 커짐을 알 수 있었다. 시간을 고려한 모형과 시 간을 고려하지 않은 모형 모두를 자료에 적용하고, 통계적 가설 검정을 실시한 결과, 시간을 고려하지 않은 모형이 더 적합하다고 판정되었다. 즉 육안으로 보기에는 시간에 따 라 증가 경향이 있어 보이나, 통계적으로 유의한 증가는 아 니라는 결론이다. 따라서 여수와 통영은 시간에 따른 평균 Table 6. Return levels and 90% confidence intervals of surge
height at Tongyeong (단위: cm) year return level
10년 70.2557 (51.1999, 127.7648) 20년 101.8424(66.3762, 243.9902) 50년 165.7572(89.8365, 587.6484) 100년 239.5513(110.7054, 1134.257) Fig. 9. Profile likelihood for 10-year return level in GEV model
of surge height data at Yeosu.
변화가 있다고 볼 수 없으므로 시간을 고려하지 않은 GEV 분포를 적용하여 그 결과를 P-P plot, Q-Q plot과 비교하 여 보았을 때 자료가 직선에 근접함을 확인하였고, 리턴레 벨 그림(return level plot) 또한 신뢰구간 내에서 일치하는 모습을 보여주어 가정한 GEVD 모델과 일치한다고 볼 수 있다. 그래서 시간을 고려하지 않은 GEVD 모형에 바탕 하여 리턴레벨 값 등을 구하고 미래 예측을 실시하였다.
권 등(2008)은 속초와 묵호의 최대 해일고 자료에 대해 Kendall-Mann의 기법을 활용하여 통계적인 경향 분석을 하였다. Kendall-Mann 기법은 비모수적 방법으로 최대 해 일고 뿐만아니라 평균이나 최소값 등의 일반 자료에 적용 된다. 반면 본 논문에서 적용한 GEV 분포는 특별히 최대 값에만 사용되는 분포이다. 이런 면에서 보면 GEV 를 활 용한 방법이 통계학적으로 더 적합하다. 또한 본 기법은 Kendall-Mann 기법에서는 가능하지 않은 리턴레벨과 신뢰 구간을 구하여 미래에 대한 통계적 예측을 가능하게 한다.
따라서 본 논문의 분석이 기존의 연구 결과보다 통계학적 으로 더 합리적이고 우월한 방법을 적용했다고 사료된다.
여수와 통영의 경우 앞으로 더 많은 자료가 축적되면 변 동이 증가하는 모형을 고려할 수 있을 것으로 판단된다. 만 약 매년의 최대 해일고 뿐만 아니라 두 번째 큰 해일고 등 r번째 큰 해일고 자료를 구한다면, 이들 자료에 대해 r개 의 순서통계량을 고려한 GEV 분포를 적용할 수 있다. 이 r-GEV 분포를 적용하면 분포의 모수와 리턴레벨의 추정 및 시간 경향에 대한 가설검정을 더 정확하게 수행할 수 있는 장 점이 있다. 기존의 연구결과인 속초와 묵호의 경우는 시간을 고려한 모형과 고려하지 않은 모형의 log-likelihood의 차의 2 배가 χ1,0.952 = 3,841을 넘어 시간을 고려한 GEV 모형을 적용하였고 미래의 특정연도에서 중위수 및 최소최대값을 예측할 수 있었다.
본 연구에서는 보다 정확도 높은 해일고의 추정을 위하 여 Quality Control(QC) 작업을 거쳐 산정되는 연간 최대 해일고의 경향의 파악과 더불어 좀 더 다양하고 세부적인 통계학적 관점에서 합리적인 평가를 수행한 후 재현기간 에 대한 확률적 추정치를 계산하고자 하였다. QC 작업은 발생한 태풍 및 해일 시기에 대하여 디지털 조위자료와 검 조기록지를 비교하고, 이와 동시에 조위관측소 부근 기상 관측소의 기압과 풍속자료를 이용하여 해일고 추정 결과 를 비교 검증하는 과정을 통해 이루어졌다. 이러한 연구결 과는 미래 온난화 환경에서 구조물 설계시 조석과 해일성 분이 동시에 고려되어야 하는 극치해면의 예측을 위한 연 구의 참고자료로 활용될 수 있다고 사료된다. 지구온난화
로 인한 수온상승으로 태풍의 활동 강화가 예측되고 있어 (IPCC, 2007), 이러한 지역적인 연구결과뿐만 아니라 우리 나라에서 나타나는 공간적인 해일고의 특성 비교 및 태풍 의 이동경로에 따른 해일고의 지역적인 특성 등의 다양한 연구가 필요할 것이다.
감사의 글
본 연구는 국토해양부 시험연구비(일반 103-2134-307- 210-13)지원에 의해 국립해양조사원 해양조사연구실에서 수 행되었습니다. 또한 한국연구재단의 기본연구사업(과제번 호: NRF-2009-0077195)의 지원을 받았습니다. 자료취득 및 처리에 도움을 준 이영생님과 우연정님께 진심으로 감 사드립니다.
참고문헌
강주환, 박선중, 박민원 (2008). 서남해안의 해수면 상승과 해일고 증가 경향. 한국해안해양공학회지, 20(1), 14-24.
김한메울, 박정수 (2008). 일일 최고온도의 극값에 대한 통 계적 경향분석. 자료분석학회지, 10(3). 1591-1601.
권석재, 문일주, 이은일 (2008). 속초와 묵호항의 연간 최대 해일고의 장기간 변동성에 대한 고찰. 한국해안해양공학 회지, 20(6), 564-574.
문일주 (2007). 기후변화에 따른 한반도 상륙 태풍강도 변화, 충남대학교 자연과학연구소 심포지엄.
백장선, 손영숙 역 (2006). 수리통계학, 제7판, 자유아카데미.
한국해양연구원 (2000). 해상·연안재해 대응기술 개발.
Cleveland, W.S. (1979). Robust locally weighted regression and smoothing scatterplots, Journal of the American Sta- tistical Association, 74, 829-836.
Coles, S. (2001). An Introduction to Statistical Modeling of Extreme Event, Springer.
CRAN (2008). The Comprehensive R Archive Network, avail- able at R program homepage, http://www.cran.r-project.org Emanuel, K. (2005). Increasing destructiveness of tropical
cyclones over the past 30 years, Nature, 436, 686-688.
IPCC. (2007). Climate Change 2007. The physical science basis. Contribution of working group I to the fourth assess- ment report of the intergovernmental panel on climate change, Cambridge University Press.
Morton, R.A., Ward, G.H. and White, W.A. (2000). Rates of sediment supply and sea-level rise in a large coastal lagoon.
Marine Geology, 167, 261-284.
Murray, M.T. (1964). Pol/PSMSL Tidal Analysis Software
imum daily rainfall in South Korea, submitted manuscript.
Webster, P.J., Holland, G.J., Curry, J.A. and Chang, H.R.
(2005). Changes in tropical cyclone number, duration, and intensity, in warming environment, Science, 309, 1844-1846.
원고접수일: 2009년 5월 25일 수정본채택: 2009년 6월 11일 게재확정일: 2009년 6월 17일
