(11) 공개번호 10-2015-0081229 (43) 공개일자 2015년07월13일

(1)

(19) 대한민국특허청(KR) (12) 공개특허공보(A)

(11) 공개번호 10-2015-0081229 (43) 공개일자 2015년07월13일

(51) 국제특허분류(Int. Cl.)

H04N 19/30

(2014.01)

H04N 19/187

(2014.01) (21) 출원번호 10-2014-0177008

(22) 출원일자 2014년12월10일 심사청구일자 없음

(30) 우선권주장

1020140000413 2014년01월02일 대한민국(KR)

(뒷면에 계속)

(71) 출원인

한국전자통신연구원

대전광역시 유성구 가정로 218 (가정동) (72) 발명자

이하현

서울 중랑구 동일로102길 34-8 강정원

대전광역시 유성구 지족로 362, 303동 303호 (지 족동, 반석마을3단지아파트)

(뒷면에 계속)

(74) 대리인

특허법인태평양 전체 청구항 수 : 총 20 항

(54) 발명의 명칭 영상의 복호화 방법 및 이를 이용하는 장치 (57) 요 약

본 발명의 일 실시예에 따른 복수의 계층을 지원하는 영상의 디코딩 방법은 계층간 예측을 위하여 현재 픽처의 디코딩에 사용되는 참조 계층에 대한 정보를 수신하는 단계와; 상기 참조 계층에 대한 정보에 기초하여 상기 현 재 픽처의 디코딩에 사용되는 유효 참조 계층 픽처의 개수를 유도하는 단계와; 상기 유효한 참조 계층 픽처의 개 수를 기반으로 계층간 예측을 수행하는 단계를 포함할 수 있다.

대 표 도

(2)

(72) 발명자 이진호

대전광역시 유성구 송림로48번길 31 (하기동) 최진수

대전광역시 유성구 반석서로 98, 609동 1605호 (반 석동, 반석마을6단지아파트)

김진웅

대전광역시 유성구 학하남로 10, 207동 704호 (계 산동, 오투그란데 미학)

(30) 우선권주장

1020140003760 2014년01월13일 대한민국(KR) 1020140030743 2014년03월17일 대한민국(KR) 1020140033012 2014년03월20일 대한민국(KR)

이 발명을 지원한 국가연구개발사업 과제고유번호 11-921-02-001 부처명 미래창조과학부

연구관리전문기관 한국방송통신전파진흥원 연구사업명 방송통신ETRI연구개발지원사업

연구과제명 무안경 다시점 3D 지원 UHDTV 방송 기술 개발 기 여 율 1/1

주관기관 한국전자통신연구원 연구기간 2011.03.01 ~ 2015.02.28

(3)

명 세 서

청구범위 청구항 1

복수의 계층을 지원하는 영상의 디코딩 방법에 있어서,

계층간 예측을 위하여 현재 픽처의 디코딩에 사용되는 참조 계층에 대한 정보를 수신하는 단계와;

상기 참조 계층에 대한 정보에 기초하여 상기 현재 픽처의 디코딩에 사용되는 유효한 참조 계층 픽처의 개수를 유도하는 단계와;

상기 유효한 참조 계층 픽처의 개수를 기반으로 계층간 예측을 수행하는 단계를 포함하는 것을 특징으로 하는 방법.

청구항 2 제1항에 있어서,

상기 현재 픽처에 속하는 모든 슬라이스의 상기 유효한 참조 계층 픽처의 개수는 동일한 것을 특징으로 하는 방 법.

상기 현재 픽처가 속해 있는 현재 계층을 식별하는 레이어 식별자가 0인 경우, 상기 유효한 참조 계층 픽처의 개수는 0으로 유도되는 것을 특징으로 하는 방법.

상기 현재 픽처와 동일 억세스 유닛 내의 계층간 예측에 사용될 수 있는 참조 계층 픽처의 개수는 0으로 유도되 는 것을 특징으로 하는 영상 복호화 방법

상기 현재 픽처가 속해 있는 현재 계층을 식별하는 레이어 식별자가 0이거나상기 현재 픽처와 동일 억세스 유닛 내의 계층간 예측에 사용될 수 있는 참조 계층 픽처의 개수가 0인 경우가 아니고,

상기 현재 계층의 모든 직접 참조 계층에 속하는 직접 참조 계층 픽처들 중, 각 계층의 최대 시간 서브 계층 정보와 각 계층에서 계층간 예측을 허용하는 최대 시간 서브 계층 정보에 대한 값에 의하여 특정되는 계층간 예 측에 사용될 수 있는 참조 계층 픽처가 현재 픽처와 동일한 억세스 유닛에 존재하고, 현재 픽처의 계층간 참조 픽처 세트에 포함되는 경우,

상기 유효한 참조 계층 픽처의 개수는 상기 참조 계층 픽처의 개수로 유도되는 것을 특징으로 하는 방법.

상기 참조 계층 픽처의 개수는 상기 현재 계층이 직접 참조하고 있는 참조 계층의 개수를 지시하는 변수, 각 계 층의 최대 시간적 서브 계층 정보, 각 계층에서 계층간 예측을 허용하는 최대 시간적 서브 계층 정보, 현재 픽 처의 시간적 식별자를 기반으로 유도되고,

상기 현재 픽처가 속해 있는 현재 계층의 직접 참고 계층들의 픽처들 중, 참조 계층의 최대 시간적 서브 계층 정보가 현재 픽처의 시간적 식별자 보다 크거나 같으면서, 현재 계층에 대한 참조 계층에서 계층간 예측을 허용

(4)

하는 최대 시간적 서브 계층 정보가 상기 현재 픽처의 시간적 식별자 보다 큰 경우 또는 현재 픽처의 시간적 식 별자가 0 인 경우, 해당하는 참조 계층의 픽처들이 계층간 예측을 위해 현재 픽처의 디코딩에 사용될 수 있는 참조 계층 픽처들로 간주되는 것을 특징으로 하는 방법.

상기 현재 픽처의 디코딩에 계층간 예측이 사용되지 않는 경우, 상기 유효한 참조 계층 픽처의 개수는 0으로 유 도되는 것을 특징으로 하는 방법.

최대 하나의 픽처가 코딩 비디오 시퀀스 내 각 픽처를 위한 계층간 예측을 위하여 사용되거나 상기 현재 픽처가 속해 있는 계층의 직접 참조 계층의 개수가 1이면,

상기 유효한 참조 계층 픽처의 개수는 1로 유도되는 것을 특징으로 하는 방법.

상기 참조 계층에 대한 정보가 계층간 예측을 위하여 현재 픽처의 디코딩에 사용되는 픽처의 개수를 나타내는 개수 정보를 포함하는 경우,

상기 유효한 참조 계층 픽처의 개수는 상기 개수 정보로 특정되는 값으로 유도되는 것을 특징으로 하는 방법.

청구항 10

비디오 파라미터 세트 비디오 사용 정보(video parameter set Video Usability Information, VPS VUI)를 수신 하는 방법에 있어서,

기설정된 고정 비트의 정보를 수신하는 단계와;

비디오 시그널 정보(video_signal_info)의 개수와 비디오 시그널 정보의 인덱스를 지시하는 신호의 존재 여부를 지시하는 플래그 정보를 수신하는 단계를 포함하는 것을 특징으로 하는 정보 수신 방법.

청구항 11

복수의 계층을 지원하는 영상의 타켓 계층에 대한 정보를 유도하는 방법에 있어서, 출력될 레이어 세트에 대한 출력 레이어 세트 인덱스 정보를 수신하는 단계와;

레이어의 출력 여부를 나타내는 출력 레이어 플래그를 수신하는 단계와;

상기 출력 레이어 세트 인덱스 정보에 기초하여 타켓 디코딩 레이어 세트 인덱스를 특정하는 단계와;

기설정된 타겟 출력 레이어 세트 인덱스가 지시하는 출력 레이어 세트 내의 i번째 레이어에 대한 출력 레이어 플래그가 1이면, 상기 타켓 디코딩 레이어 세트 인덱스가 지시하는 레이어 세트 내의 i번째 레이어의 layer_id 값으로 타겟 출력 레이어의 id 리스트를 구성하는 단계를 포함하는 것을 특징으로 하는 방법.

상기 타켓 디코딩 레이어 세트 인덱스가 지시하는 레이어 세트 내의 i번째 레이어의 layer_id 값으로 타겟 디코 딩 레이어의 id 리스트를 구성하는 단계를 더 포함하는 것을 특징으로 하는 방법.

(5)

출력될 레이어들로 구성된 출력 레이어 세트에 포함되어 있는 레이어가 모두 출력되는 것을 나타내는 정보가 수 신되면,

상기 출력 레이어 세트에 포함되어 있는 모든 레이어에 대한 출력 레이어 플래그는 1로 유추되는 것을 특징으로 하는 방법.

출력될 레이어들로 구성된 출력 레이어 세트에 포함되어 있는 레이어 중 가장 상위의 레이어 ID를 갖는 최상위 레이어만 출력되는 것을 나타내는 정보가 수신되면,

상기 최상위 레이어에 대한 출력 레이어 플래그는 1로 유추되고,

상기 출력 레이어 세트에 포함되어 있는 레이어 중 상기 최상위 레이어를 제외한 레이어에 대한 출력 레이어 플 래그는 0으로 유추되는 것을 특징으로 하는 방법.

청구항 15

복수의 계층을 지원하는 영상의 디코딩 장치에 있어서,

수신된 계층간 예측을 위하여 현재 픽처의 디코딩에 사용되는 참조 계층에 대한 기초하여 상기 현재 픽처의 디 코딩에 사용되는 유효한 참조 계층 픽처의 개수를 유도하고, 상기 유효한 참조 계층 픽처의 개수를 기반으로 계 층간 예측을 수행하는 디코딩부를 포함하는 것을 특징으로 하는 장치.

상기 현재 픽처가 속해 있는 현재 계층을 식별하는 레이어 식별자가 0이거나 상기 현재 픽처가 속해 있는 현재 계층이 직접 참조하는 계층의 개수가 0인 경우, 상기 유효한 참조 계층 픽처의 개수는 0으로 유도되는 것을 특 징으로 하는 장치.

상기 현재 픽처와 동일 억세스 유닛 내의 계층간 예측에 사용될 수 있는 참조 픽처의 개수가 0인 경우, 상기 유 효한 참조 계층 픽처의 개수는 0으로 유도되는 것을 특징으로 하는 장치.

상기 현재 픽처가 속해 있는 현재 계층을 식별하는 레이어 식별자가 0이거나상기 현재 픽처와 동일 억세스 유닛 내의 계층간 예측에 사용될 수 있는 참조 계층 픽처의 개수가 0인 경우가 아니고,

상기 현재 계층의 모든 직접적인 참조 계층에 속하는 직접 참조 계층 픽처 중, 각 계층의 최대 시간 서브 계층 정보와 각 계층에서 계층간 예측을 허용하는 최대 시간 서브 계층 정보에 대한 값에 의하여 특정되는 계층간 예 측에 사용될 수 있는 참조 계층 픽처가 현재 픽처와 동일한 억세스 유닛에 존재하고, 현재 픽처의 계층간 참조 픽처 세트에 포함되는 경우,

상기 유효한 참조 계층 픽처의 개수는 상기 참조 계층 픽처들의 개수로 유도되는 것을 특징으로 하는 장치.

상기 현재 픽처의 디코딩에 계층간 예측이 사용되지 않는 경우, 상기 유효한 참조 계층 픽처의 개수는 0으로 유 도되는 것을 특징으로 하는 장치.

(6)

최대 하나의 픽처가 코딩 비디오 시퀀스 내 각 픽처를 위한 계층간 예측을 위하여 사용되거나 상기 현재 픽처가 속해 있는 계층의 직접 참조 계층의 개수가 1이면,

상기 유효한 참조 계층 픽처의 개수는 1로 유도되는 것을 특징으로 하는 장치.

발명의 설명

기 술 분 야

본 발명은 영상의 부호화 및 복호화 처리에 관한 것으로서, 보다 상세하게는 비트스트림 내 복수의 레이어를 지 [0001]

원하는 영상의 부호화 및 복호화 방법 및 장치에 관한 것이다.

배 경 기 술

최근 HD(High Definition) 해상도를 가지는 방송 서비스가 국내뿐만 아니라 세계적으로 확대되면서, 많은 사용 [0002]

자들이 고해상도, 고화질의 영상에 익숙해지고 있으며 이에 따라 많은 기관들이 차세대 영상기기에 대한 개발에 박차를 가하고 있다. 또한 HDTV와 더불어 HDTV의 4배 이상의 해상도를 갖는 UHD(Ultra High Definition)에 대 한 관심이 증대되면서 보다 높은 해상도, 고화질의 영상에 대한 압축기술이 요구되고 있다.

영상 압축을 위해, 시간적으로 이전 및/또는 이후의 픽처로부터 현재 픽처에 포함된 화소값을 예측하는 인터 [0003]

(inter) 예측 기술, 현재 픽처 내의 화소 정보를 이용하여 현재 픽처에 포함된 화소값을 예측하는 인트라 (intra) 예측 기술, 출현 빈도가 높은 심볼(symbol)에 짧은 부호를 할당하고 출현 빈도가 낮은 심볼에 긴 부호 를 할당하는 엔트로피 부호화 기술 등이 사용될 수 있다.

영상 압축 기술에는 유동적인 네트워크 환경을 고려하지 않고 하드웨어의 제한적인 동작 환경하에서 일정한 네 [0004]

트워크 대역폭을 제공하는 기술이 있다. 그러나 수시로 대역폭이 변화하는 네트워크 환경에 적용되는 영상 데이 터를 압축하기 위해서는 새로운 압축 기술이 요구되고, 이를 위해 스케일러블(scalable) 비디오 부호화/복호화 방법이 사용될 수 있다.

발명의 내용

해결하려는 과제

본 발명은 시간적 서브 계층을 포함하는 다수의 계층 구조의 영상 부호화된 비트스트림 내에 존재하는 계층 정 [0005]

보를 시그널링하는 방법, 계층간 예측 방법 및 타겟 출력 계층을 구하는 방법을 제공한다.

또한 본 발명은 세션 협상 등을 위해 비트스트림 내의 VPS에 기술된 계층 정보를 엔트로피 디코더가 없이 접근 [0006]

할 수 있는 방법 및 이를 이용하는 장치를 제공한다.

또한, 본 발명의 일 실시예는 현재 픽처의 디코딩에 필요한 계층간 참조 픽처의 유효한 개수를 파악하여 계층간 [0007]

예측에 활용하는 방법 및 타켓 출력 계층을 구하는 방법 및 이를 이용하는 장치를 제공한다.

과제의 해결 수단

본 발명의 일 실시예인 복수의 계층을 지원하는 영상의 디코딩 방법은 계층간 예측을 위하여 현재 픽처의 디코 [0008]

딩에 사용되는 참조 계층에 대한 정보를 수신하는 단계와; 상기 참조 계층에 대한 정보에 기초하여 상기 현재 픽처의 디코딩에 사용되는 유효 참조 계층 픽처의 개수를 유도하는 단계와; 상기 유효한 참조 계층 픽처의 개수 를 기반으로 계층간 예측을 수행하는 단계를 포함할 수 있다.

상기 현재 픽처에 속하는 모든 슬라이스의 상기 유효한 참조 계층 픽처의 개수는 동일할 수 있다.

[0009]

상기 현재 픽처가 속해 있는 현재 계층을 식별하는 레이어 식별자가 0인 경우, 상기 유효한 참조 계층 픽처의 [0010]

개수는 0으로 유도될 수 있다.

(7)

상기 현재 픽처가 속해 있는 현재 계층에 대한 직접 참조 계층의 개수가 0 인 경우, 상기 유효한 참조 계층 픽 [0011]

처의 개수는 0으로 유도될 수 있다.

현재 계층에 대한 직접 참조 계층의 개수, 참조 계층의 최대 시간적 서브 계층 정보, 참조 계층에서 계층간 예 [0012]

측을 허용하는 최대 시간적 서브 계층 정보 및 현재 픽처의 시간적 식별자를 고려하여 유도된 현재 픽처와 동일 액세스 유닛 내의 참조 계층 픽처 개수가 0인 경우, 상기 유효한 참조 계층의 개수는 0으로 유도될 수 있다.

상기 현재 픽처가 속해 있는 현재 계층을 식별하는 레이어 식별자가 0이거나 상기 현재 픽처와 동일 억세스 유 [0013]

닛 내의 계층간 예측에 이용할 수 있는 참조 픽처의 개수가 0인 경우가 아니고, 상기 현재 픽처를 포함하는 계 층에 대한 모든 직접 참조 계층들에 속하며 현재 픽처와 동일한 억세스 유닛에 존재하고, 현재 픽처의 계층간 참조 픽처 세트에 포함되는 모든 직접 참조 계층 픽처들을 현재 픽처의 참조 계층 픽처들로 사용하는 경우, 상 기 유효한 참조 계층 픽처의 개수는 상기 현재 계층에 대한 직접 참조 계층 개수를 나타내는 변수, 각 계층의 최대 시간적 서브 계층 정보, 각 계층에서 계층간 예측을 허용하는 최대 시간적 서브 계층 정보, 현재 픽처의 시간적 식별자를 기반으로 유도될 수 있다.

상기 현재 픽처에 대한 직접 참조 계층 픽처들 중 참조 계층의 최대 시간적 서브 계층 정보가 현재 픽처의 시간 [0014]

적 식별자보다 크거나 같고, 참조 계층에서 계층간 예측을 허용한 최대 시간적 서브 계층 정보가 현재 픽처의 시간적 식별자 보다 큰 경우에 해당하는 참조 계층의 픽처들의 개수를 현재 픽처의 디코딩을 위한 상기 유효한 참조 계층 픽처의 개수로 사용할 수 있다.

상기 현재 픽처의 디코딩에 계층간 예측이 사용되지 않는 경우, 상기 유효한 참조 계층 픽처의 개수는 0으로 유 [0015]

도될 수 있다.

최대 하나의 픽처가 코딩 비디오 시퀀스 내 각 픽처를 위한 계층간 예측을 위하여 사용되거나 상기 현재 픽처가 [0016]

속해 있는 계층의 직접 참조 계층의 개수가 1이면, 상기 유효한 참조 계층 픽처의 개수는 1로 유도될 수 있다.

최대 하나의 픽처가 코딩 비디오 시퀀스 내 각 픽처를 위한 계층간 예측을 위하여 사용되거나 상기 현재 픽처가 [0017]

속해 있는 계층의 직접 참조 계층의 개수가 1이면, 상기 현재 픽처의 디코딩에 사용될 수 있는 참조 계층 픽처 개수가 0보다 크면 상기 유효한 참조 계층 픽처의 개수는 1로 유도되고, 상기 현재 픽처의 디코딩에 사용될 수 있는 참조 계층 픽처 개수가 0이면 상기 유효한 참조 계층 픽처의 개수는 0으로 유도될 수 있다.

최대 하나의 픽처가 코딩 비디오 시퀀스 내 각 픽처를 위한 계층간 예측을 위하여 사용되거나, 상기 현재 픽처 [0018]

와 동일 액세스 유닛 내의 계층간 예측에 사용될 수 있는 참조 계층 픽처의 개수가 1이면, 상기 유효한 참조 계 층 픽처의 개수는 1로 유도될 수 있다.

상기 참조 계층에 대한 정보가 계층간 예측을 위하여 현재 픽처의 디코딩에 사용되는 픽처의 개수를 나타내는 [0019]

개수 정보를 포함하는 경우, 상기 유효한 참조 계층 픽처의 개수는 상기 개수 정보로 특정되는 값으로 유도될 수 있다.

발명의 효과

본 발명의 일 실시예에 따르면, 시간적 서브 계층을 포함하는 다수의 계층 구조의 영상 부호화된 비트스트림 내 [0020]

에 존재하는 계층 정보를 시그널링하는 방법, 계층간 예측 방법 및 타겟 출력 계층을 구하는 방법이 제공된다.

또한, 본 발명의 일 실시예에 따르면 엔트로피 디코더를 갖지 않는 MANE(Media Aware Network Equipment)에서 [0021]

도 세션 협상등을 위해 비트스트림내에 존재하는 계층 정보를 접근할 수 있는 방법 및 이를 이용하는 장치가 제 공된다.

또한, 본 발명에 따르면 현재 픽처의 디코딩에 필요한 계층간 참조 픽처의 유효한 개수를 정확하게 파악하여 계 [0022]

층간 예측에 활용하는 방법과 실제 원하는 출력 계층을 출력할 수 있는 방법 및 이를 이용하는 장치가 제공된다.

도면의 간단한 설명

도 1은 영상 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.

[0023]

도 2는 영상 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.

도 3은 본 발명이 적용될 수 있는, 복수 계층을 이용한 스케일러블 비디오 코딩 구조의 일 실시예를 개략적으로

(8)

나타내는 개념도이다.

도 4는 본 발명에 따른 영상의 복호화 방법을 설명하기 위한 제어 흐름도이다.

도 5는 본 발명의 일 실시예에 따른 유효한 참조 계층 픽처의 개수를 유도하는 방법을 설명하기 위한 도면이다.

발명을 실시하기 위한 구체적인 내용

이하, 도면을 참조하여 본 발명의 실시 형태에 대하여 구체적으로 설명한다. 본 명세서의 실시예를 설명함에 있 [0024]

어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 명세서의 요지를 흐릴 수 있다고 판단되는 경우에 는 그 상세한 설명은 생략한다.

어떤 구성 요소가 다른 구성 요소에 “연결되어” 있다거나 “접속되어” 있다고 언급된 때에는, 그 다른 구성 [0025]

요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있으나, 중간에 다른 구성 요소가 존재할 수도 있 다고 이해되어야 할 것이다. 아울러, 본 발명에서 특정 구성을 “포함”한다고 기술하는 내용은 해당 구성 이외 의 구성을 배제하는 것이 아니며, 추가적인 구성이 본 발명의 실시 또는 본 발명의 기술적 사상의 범위에 포함 될 수 있음을 의미한다.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의 [0026]

해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된 다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유 사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.

또한 본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되 [0027]

는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합 쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있고 이 러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위 에 포함된다.

또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향 [0028]

상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선 택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.

도 1은 영상 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다. 스케일러블(scalable) 비디오 부호 [0029]

화/복호화 방법 또는 장치는 스케일러빌리티(scalability)를 제공하지 않는 일반적인 영상 부호화/복호화 방법 또는 장치의 확장(extension)에 의해 구현될 수 있으며, 도 1의 블록도는 스케일러블 비디오 부호화 장치의 기 초가 될 수 있는 영상 부호화 장치의 일 실시예를 나타낸다.

도 1을 참조하면, 상기 영상 부호화 장치(100)는 움직임 예측부(111), 움직임 보상부(112), 인트라 예측부 [0030]

(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 부호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조영상 버퍼(190)를 포함한다.

영상 부호화 장치(100)는 입력 영상에 대해 인트라(intra) 모드 또는 인터(inter) 모드로 부호화를 수행하고 비 [0031]

트스트림(bit stream)을 출력할 수 있다. 인트라 예측은 화면 내 예측, 인터 예측은 화면 간 예측을 의미한다.

인트라 모드인 경우 스위치(115)가 인트라로 전환되고, 인터 모드인 경우 스위치(115)가 인터로 전환된다. 영상 부호화 장치(100)는 입력 영상의 입력 블록에 대한 예측 블록을 생성한 후, 입력 블록과 예측 블록의 차분을 부 호화할 수 있다.

인트라 모드인 경우, 인트라 예측부(120)는 현재 블록 주변의 이미 부호화된 블록의 화소값을 이용하여 공간적 [0032]

예측을 수행하여 예측 블록을 생성할 수 있다.

인터 모드인 경우, 움직임 예측부(111)는, 움직임 예측 과정에서 참조 영상 버퍼(190)에 저장되어 있는 참조 영 [0033]

상에서 입력 블록과 가장 매치가 잘 되는 영역을 찾아 움직임 벡터를 구할 수 있다. 움직임 보상부(112)는 움직 임 벡터와 참조 영상 버퍼(190)에 저장되어 있는 참조 영상을 이용하여 움직임 보상을 수행함으로써 예측 블록

(9)

을 생성할 수 있다.

감산기(125)는 입력 블록과 생성된 예측 블록의 차분에 의해 잔여 블록(residual block)을 생성할 수 있다. 변 [0034]

환부(130)는 잔여 블록에 대해 변환(transform)을 수행하여 변환 계수(transform coefficient)를 출력할 수 있 다. 그리고 양자화부(140)는 입력된 변환 계수를 양자화 파라미터에 따라 양자화하여 양자화된 계수(quantized coefficient)를 출력할 수 있다.

엔트로피 부호화부(150)는, 양자화부(140)에서 산출된 값들 또는 부호화 과정에서 산출된 부호화 파라미터 값 [0035]

등을 기초로, 심볼(symbol)을 확률 분포에 따라 엔트로피 부호화하여 비트스트림(bit stream)을 출력할 수 있다. 엔트로피 부호화 방법은 다양한 값을 갖는 심볼을 입력 받아, 통계적 중복성을 제거하면서, 복호 가능한 2진수의 열로 표현하는 방법이다.

여기서, 심볼이란 부호화/복호화 대상 구문 요소(syntax element) 및 부호화 파라미터(coding parameter), 잔 [0036]

여 신호(residual signal)의 값 등을 의미한다. 부호화 파라미터는 부호화 및 복호화에 필요한 매개변수로서, 구문 요소와 같이 부호화기에서 부호화되어 복호화기로 전달되는 정보뿐만 아니라, 부호화 혹은 복호화 과정에 서 유추될 수 있는 정보를 포함할 수 있으며 영상을 부호화하거나 복호화할 때 필요한 정보를 의미한다. 부호화 파라미터는 예를 들어 인트라/인터 예측모드, 이동/움직임 벡터, 참조 영상 색인, 부호화 블록 패턴, 잔여 신호 유무, 변환 계수, 양자화된 변환 계수, 양자화 파라미터, 블록 크기, 블록 분할 정보 등의 값 또는 통계를 포함 할 수 있다. 또한 잔여 신호는 원신호와 예측 신호의 차이를 의미할 수 있고, 또한 원신호와 예측 신호의 차이 가 변환(transform)된 형태의 신호 또는 원신호와 예측 신호의 차이가 변환되고 양자화된 형태의 신호를 의미할 수도 있다. 잔여 신호는 블록 단위에서는 잔여 블록이라 할 수 있다.

엔트로피 부호화가 적용되는 경우, 높은 발생 확률을 갖는 심볼에 적은 수의 비트가 할당되고 낮은 발생 확률을 [0037]

갖는 심볼에 많은 수의 비트가 할당되어 심볼이 표현됨으로써, 부호화 대상 심볼들에 대한 비트열의 크기가 감 소될 수 있다. 따라서 엔트로피 부호화를 통해서 영상 부호화의 압축 성능이 높아질 수 있다.

엔트로피 부호화를 위해 지수 골룸(exponential golomb), CAVLC(Context-Adaptive Variable Length Coding), [0038]

CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 부호화 방법이 사용될 수 있다. 예를 들어, 엔트로 피 부호화부(150)에는 가변 길이 부호화(VLC: Variable Lenghth Coding/Code) 테이블과 같은 엔트로피 부호화 를 수행하기 위한 테이블이 저장될 수 있고, 엔트로피 부호화부(150)는 저장된 가변 길이 부호화(VLC) 테이블을 사용하여 엔트로피 부호화를 수행할 수 있다. 또한 엔트로피 부호화부(150)는 대상 심볼의 이진화 (binarization) 방법 및 대상 심볼/빈(bin)의 확률 모델(probability model)을 도출한 후, 도출된 이진화 방법 또는 확률 모델을 사용하여 엔트로피 부호화를 수행할 수도 있다.

양자화된 계수는 역양자화부(160)에서 역양자화되고 역변환부(170)에서 역변환될 수 있다. 역양자화, 역변환된 [0039]

계수는 가산기(175)를 통해 예측 블록과 더해지고 복원 블록이 생성될 수 있다.

복원 블록은 필터부(180)를 거치고, 필터부(180)는 디블록킹 필터(deblocking filter), SAO(Sample Adaptive [0040]

Offset), ALF(Adaptive Loop Filter) 중 적어도 하나 이상을 복원 블록 또는 복원 픽처에 적용할 수 있다. 필 터부(180)를 거친 복원 블록은 참조 영상 버퍼(190)에 저장될 수 있다.

도 2는 영상 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다. 도 1에서 상술한 바와 같이 스케일 [0041]

러블 비디오 부호화/복호화 방법 또는 장치는 스케일러빌리티를 제공하지 않는 일반적인 영상 부호화/복호화 방 법 또는 장치의 확장에 의해 구현될 수 있으며, 도 2의 블록도는 스케일러블 비디오 복호화 장치의 기초가 될 수 있는 영상 복호화 장치의 일 실시예를 나타낸다.

도 2를 참조하면, 상기 영상 복호화 장치(200)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인 [0042]

트라 예측부(240), 움직임 보상부(250), 필터부(260) 및 참조 영상 버퍼(270)를 포함한다.

영상 복호화 장치(200)는 부호화기에서 출력된 비트스트림을 입력 받아 인트라 모드 또는 인터 모드로 복호화를 [0043]

수행하고 재구성된 영상, 즉 복원 영상을 출력할 수 있다. 인트라 모드인 경우 스위치가 인트라로 전환되고, 인 터 모드인 경우 스위치가 인터로 전환될 수 있다. 영상 복호화 장치(200)는 입력 받은 비트스트림으로부터 복원 된 잔여 블록(residual block)을 얻고 예측 블록을 생성한 후 복원된 잔여 블록과 예측 블록을 더하여 재구성된 블록, 즉 복원 블록을 생성할 수 있다.

(10)

엔트로피 복호화부(210)는, 입력된 비트스트림을 확률 분포에 따라 엔트로피 복호화하여, 양자화된 계수 [0044]

(quantized coefficient) 형태의 심볼을 포함한 심볼들을 생성할 수 있다. 엔트로피 복호화 방법은 2진수의 열 을 입력 받아 각 심볼들을 생성하는 방법이다. 엔트로피 복호화 방법은 상술한 엔트로피 부호화 방법과 유사하 다.

양자화된 계수는 역양자화부(220)에서 역양자화되고 역변환부(230)에서 역변환되며, 양자화된 계수가 역양자화/

[0045]

역변환 된 결과, 복원된 잔여 블록(residual block)이 생성될 수 있다.

인트라 모드인 경우, 인트라 예측부(240)는 현재 블록 주변의 이미 부호화된 블록의 화소값을 이용하여 공간적 [0046]

예측을 수행하여 예측 블록을 생성할 수 있다. 인터 모드인 경우, 움직임 보상부(250)는 움직임 벡터 및 참조 영상 버퍼(270)에 저장되어 있는 참조 영상을 이용하여 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있 다.

복원된 잔여 블록과 예측 블록은 가산기(255)를 통해 더해지고, 더해진 블록은 필터부(260)를 거친다. 필터부 [0047]

(260)는 디블록킹 필터, SAO, ALF 중 적어도 하나 이상을 복원 블록 또는 복원 픽처에 적용할 수 있다. 필터부 (260)는 재구성된 영상, 즉 복원 영상을 출력한다. 복원 영상은 참조 영상 버퍼(270)에 저장되어 화면 간 예측 에 사용될 수 있다.

상기 영상 복호화 장치(200)에 포함되어 있는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트 [0048]

라 예측부(240), 움직임 보상부(250), 필터부(260) 및 참조 영상 버퍼(270) 중 영상의 복호화에 직접적으로 관 련된 구성요소들, 예컨대, 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 움 직임 보상부(250), 필터부(260) 등을 다른 구성요소와 구분하여 복호화부 또는 디코딩부로 표현할 수 있다.

또한, 영상 복호화 장치(200)는 비트스트림에 포함되어 있는 인코딩된 영상에 관련된 정보를 파싱하는 도시하지 [0049]

않은 파싱부를 더 포함할 수 있다. 파싱부는 엔트로피 복호화부(210)를 포함할 수도 있고, 엔트로피 복호화부 (210)에 포함될 수도 있다. 이러한 파싱부는 또한 디코딩부의 하나의 구성요소로 구현될 수도 있다.

도 3은 본 발명이 적용될 수 있는, 복수 계층을 이용한 스케일러블 비디오 코딩 구조의 일 실시예를 개략적으로 [0050]

나타내는 개념도이다. 도 3에서 GOP(Group of Picture)는 픽처군 즉, 픽처의 그룹을 나타낸다.

영상 데이터를 전송하기 위해서는 전송 매체가 필요하며, 그 성능은 다양한 네트워크 환경에 따라 전송 매체별 [0051]

로 차이가 있다. 이러한 다양한 전송 매체 또는 네트워크 환경에의 적용을 위해 스케일러블 비디오 코딩 방법이 제공될 수 있다.

스케일러블 비디오 코딩 방법은 계층(layer) 간의 텍스쳐 정보, 움직임 정보, 잔여 신호 등을 활용하여 계층 간 [0052]

중복성을 제거하여 부호화/복호화 성능을 높이는 코딩 방법이다. 스케일러블 비디오 코딩 방법은, 전송 비트율, 전송 에러율, 시스템 자원 등의 주변 조건에 따라, 공간적, 시간적, 화질적, 시점적 관점에서 다양한 스케일러 빌리티를 제공할 수 있다.

스케일러블 비디오 코딩은, 다양한 네트워크 상황에 적용 가능한 비트스트림을 제공할 수 있도록, 복수 계층 [0053]

(multiple layers) 구조를 사용하여 수행될 수 있다. 예를 들어 스케일러블 비디오 코딩 구조는, 일반적인 영상 부호화 방법을 이용하여 영상 데이터를 압축하여 처리하는 기본 계층을 포함할 수 있고, 기본 계층의 부호화 정 보 및 일반적인 영상 부호화 방법을 함께 사용하여 영상 데이터를 압축 처리하는 향상 계층을 포함할 수 있다.

여기서, 계층(layer)은 공간(spatial, 예를 들어, 영상 크기), 시간(temporal, 예를 들어, 부호화 순서, 영상 [0054]

출력 순서, 프레임 레이트), 화질, 시점, 복잡도 등을 기준으로 구분되는 영상 및 비트스트림(bitstream)의 집 합을 의미한다. 또한 기본 계층(Base layer)은 하위 계층 또는 참조 계층, 향상 계층(Enhancement layer)은 상 위 계층을 의미할 수 있다. 또한 복수의 계층들은 서로 간에 종속성을 가질 수도 있다.

도 3을 참조하면, 예를 들어 기본 계층은 SD(standard definition), 15Hz의 프레임율, 1Mbps 비트율로 정의될 [0055]

수 있고, 제1 향상 계층은 HD(high definition), 30Hz의 프레임율, 3.9Mbps 비트율로 정의될 수 있으며, 제2 향상 계층은 4K-UHD(ultra high definition), 60Hz의 프레임율, 27.2Mbps 비트율로 정의될 수 있다. 상기 포맷 (format), 프레임율, 비트율 등은 하나의 실시예로서, 필요에 따라 달리 정해질 수 있다. 또한 사용되는 계층의 수도 본 실시예에 한정되지 않고 상황에 따라 달리 정해질 수 있다.

(11)

예를 들어, 전송 대역폭이 4Mbps라면 상기 제1향상계층 HD의 프레임 레이트를 줄여서 15Hz이하로 전송할 수 있 [0056]

다. 스케일러블 비디오 코딩 방법은 상기 도 3의 실시예에서 상술한 방법에 의해 시간적, 공간적, 화질적, 시점 적 스케일러빌리티를 제공할 수 있다.

스케일러블 비디오 코딩은 이하 부호화 관점에서는 스케일러블 비디오 부호화, 복호화 관점에서는 스케일러블 [0057]

비디오 복호화와 동일한 의미를 가진다.

본 발명은 복수의 계층(layer) 또는 시점(view)을 포함하는 영상의 부, 복호화(en-/de-coding) 과정에 관한 것 [0058]

으로 상기 복수의 계층 또는 시점은 제1, 제2, 제3, 제n 계층 또는 시점으로 표현할 수 있다. 이하 설명에서는 제1 계층과 제2 계층이 존재하는 픽처를 예로 기술하며, 그 이상의 계층 또는 시점에도 동일한 방법으로 적용할 수 있다. 또한, 상기 제1 계층은 하위(base) 계층, 제2 계층은 상위(upper) 계층으로 표현할 수도 있다. 또한, 상기 제1 계층은 참조(reference) 계층, 제 2 계층은 향상(enhancement) 계층으로 표현될 수 있다.

제2 계층의 픽처/블록에 대응하는 제1 계층의 픽처/블록은 상기 제2 계층 픽처/블록의 크기에 맞게 변경할 수 [0059]

있다. 즉, 제1 계층의 픽처/블록의 크기가 제2 계층의 픽처/블록 보다 작은 경우 업샘플링(up-sampling), re- sampling 등의 방법을 이용하여 스케일링(scaling)할 수 있다.

또한, 제1 계층의 픽처는 상기 제2 계층의 참조 픽처 리스트(reference picture list)에 추가하여 제2 계층의 [0060]

영상 부/복호화에 이용될 수 있다. 이때, 제2 계층은 통상의 화면간 예측처럼 참조 픽처 리스트에 있는 제1 계 층 영상을 이용하여 예측 및 부/복호화를 수행할 수 있다.

부/복호화를 위한 블록의 크기는 4x4, 8x8, 16x16, 32x32, 64x64 등 NxN 형태의 정사각형 또는 4x8, 16x8, [0061]

8x32 등의 NxM 형태의 직사각형 일 수 있으며, 블록의 단위는 부호화 블록(CB: Coding Block), 예측 블록(PB:

Prediction Block), 변환 블록(TB: Transform Block) 중 적어도 하나 일 수 있으며 각각 서로 다른 크기를 가 질 수 있다.

이하에서, 스케일러블 비디오, 즉 다계층 구조를 사용하는 영상의 부호화 및 복호화 방법 중 상위 계층의 부호 [0062]

화 및 복호화 대상이 되는 블록(이하 현재 블록 또는 대상 블록이라고 칭함)의 예측 블록, 즉 예측 신호를 생성 하는 방법에 대하여 살펴본다. 이하 발명의 내용(방법 또는 장치)은 통상적으로 부호화기와 복호화기에 동일하 게 적용될 수 있다.

한편, 현재 SHVC(Scalable High Efficiency Video Coding) 및 MV-HEVC(Multiview-High Efficiency Video [0063]

Coding) 표준 초안에서, 비디오 파라미터 확장(video parameter set extension, VPS extension)에서 레이어 세 트에 사용되는 프로파일, 티어 및 레벨을 나타내는 신택스 요소(profile_tier_level)는 표 1과 같이 기술 (description)되어 있다.

표 1

[0064]

표 1을 참조하면, vps_num_profile_tier_level_minus1로 특정되는 값은 VPS 내의 profile_tier_level() 신택스 [0065]

구조(syntax structures)의 개수를 나타낸다.

vps_profile_present_flag[i]이 “1”이면 i 번째 profile_tier_level() 신택스 구조 내에 프로파일 및 티어 [0066]

정보 (profile and tier information)가 존재하는 것을 나타내고, “0”이면 i 번째 profile_tier_level() 신 택스 구조 내에 프로파일 및 티어 정보가 존재하지 않고, 유추되는 것을 나타낸다.

(12)

profile_ref_minus1[i]는 i번째 profile_tier_level() 신택스 구조를 위한 프로파일 및 티어 정보는 [0067]

(profile_ref_minus1[i]+1) 번째 profile_tier_level() 신택스 구조를 위한 프로파일 및 티어 정보와 동일한 것으로 유추되는 것을 나타낸다. 이 때, profile_ref_minus1[i]에 1을 더한 값은 i 와 같거나 작아야 한다.

표 1과 같은 현재 표준 초안에 따르면, i 가 1이고 vps_profile_present_flag[1] 가 0의 값을 가지는 경우, 1 [0068]

번째 profile_tier_level() 신택스 구조를 위한 프로파일 및 티어 정보는 (profile_ref_minus1[1]+1) 번째 profile_tier_level() 신택스 구조로부터 유추를 하여야 한다. 즉, “profile_ref_minus1[1]+1”의 값이 1과 같거나, 0을 가져야 한다. “profile_ref_minus1[1]+1”이 0이면 profile_ref_minus1[1]이 -1 값을 가지게 되 어, u(6)로 부호화되는 profile_ref_minus1[i] 신택스 정의에 위배된다.

또한 (profile_ref_minus1[1]+1)이 “1”값을 가진다고 할 경우, 1번째 프로파일 및 티어 정보를 1번째 [0069]

profile_tier_level 신택스 구조로부터 유추를 해야 하는 문제가 발생 할 수 있다.

이와 같은 문제점을 해결하기 위하여 상기 신택스에 대한 시멘틱스에 “첫 번째 profile_tier_level 신택스 구 [0070]

조(syntax structure)에 대해서는 항상 vps_profile_present_flag[1]가 1이 되어야 한다.”와 같은 제약을 추 가할 수 있다. 이 경우, 표 1의 vps_profile_present_flag[i]에 대한 시멘틱스는 다음과 같이 표현될 수 있다.

vps_profile_present_flag[i]이 “1”이면 i 번째 profile_tier_level() 신택스 구조 내에 프로파일 및 티어 [0071]

정보 (profile and tier information)가 존재하는 것을 나타내고, vps_profile_present_flag[i]이 “0”이면 i 번째 profile_tier_level() 신택스 구조 내에 프로파일 및 티어 정보가 존재하지 않고, 유추됨을 지시하는 것을 나타낼 수 있다. 첫 번째 profile_tier_level 신택스 구조를 위한 vps_profile_present_flag[1]는 1의 값을 가 져야 한다.

또, 다른 실시예에 따르면, 위와 같은 문제점을 해결하기 위하여 표 2과 같은 시그널링 방법을 고려할 수 있다.

[0072]

표 2

[0073]

표 2를 참조하면, vps_num_profile_tier_level_minus1로 특정되는 값은 VPS내의 profile_tier_level() 신택스 [0074]

구조(syntax structures)의 개수를 나타낸다.

vps_profile_present_flag[i]가 “1”이면 i 번째 profile_tier_level() 신택스 구조 내에 프로파일 및 티어 [0075]

정보 (profile and tier information)가 존재하는 것을 나타내고, vps_profile_present_flag[i]가 “0”이면 i 번째 profile_tier_level() 신택스 구조 내에 프로파일 및 티어 정보가 존재하지 않고, i-1번째 profile_tier_level() 신택스 구조의 프로파일 및 티어 정보로부터 유추되는 것을 나타낸다. 첫 번째 profile_tier_level 신택스 구조를 위한 vps_profile_present_flag[1]는 1의 값을 가져야 한다.

표 2에 따를 경우, profile_ref_minus1[1]는 시그널링 되지 않는다.

[0076]

본 발명의 또 다른 실시예에 따르면, 엔트로피 디코더가 없는 MANE(Media Aware Network Equipment)에서도 VPS [0077]

extension을 파싱할 수 있도록 VPS의 신택스 구조를 변경할 수 있다. 표 3 내지 5는 본 발명의 여러 측면에 따 른 VPS를 나타내고 있다.

(13)

표 3

[0078]

표 4

[0079]

(14)

표 5

[0080]

표 3을 참조하면, VPS에서 전송되는 신택스 요소 (syntax element) vps_extension_offset은 VPS NAL 유닛의 시 [0081]

작점에서부터 “avc_base_layer_flag” 신택스로 시작되는 고정 길이 부호화 정보(fixed length coded information)까지의 바이트 오프셋(byte offset)을 나타낸다.

vps_extension_offset에 의해 정의되는 바이트 오프셋은 VPS NAL 유닛 내의 엔트로피 디코딩을 필요로 하지 않 [0082]

으며 세션 협상(session negotiation)을 가능하게 하는 기본 정보들에게 접근할 수 있도록 한다.

예를 들어, 엔트로피 디코더가 없는 MANE(Media Aware Network Equipment)는 vps_extension_offset에 의해 기 [0083]

술되는 바이트 오프셋 값에 기초하여, 엔트로피 복호화가 필요치 않은 기본 정보들을 파싱하여 세션 협상에 사 용할 수 있다.

엔트로피 디코더가 없는 MANE은 세션 협상을 위해 vps_extension_offset 정보에 기반하여 [0084]

vps_extension_offset 이후의 정보를 엔트로피 디코딩하지 않고, 표 4의 VPS extension 내의 출력 레이어 세트 (output layer sets) 정보를 파싱하는 경우, 레이어 식별자 리스트 내의 레이어 개수를 의미를 나타내는 변수 NumLayersInIdList는 표 3의 vps_extension_offset 이후에 기술되는 레이어 세트(layer sets)에 대한 정보, 즉, layer_id_included_flag[i][j]로부터 계산되는 값으로 엔트로피 디코딩되어야 한다.

엔트로피 디코딩 없이, VPS extension 내의 출력 레이어 세트 정보를 세션 협상 등에 사용할 수 있도록 표 5에 [0085]

서와 같이, VPS extension 내에 레이어 세트(layer sets)에 대한 정보를 기술할 수 있다.

한편, 표 5의 VPS extension 내에 기술되는 레이어 세트(layer sets) 관련 신택스 요소들의 의미(semantics)는 [0086]

다음과 같다.

(15)

vps_maximum_layer_id는 VPS에서 기술되는 vps_max_layer_id와 동일하게 CVS내의 모든 NAL 유닛에서 허용되는 [0087]

최대 nuh_layer_id 값을 나타내며, VPS에서 기술되는 vps_max_layer_id와 동일한 값을 가질 수 있다.

vps_number_layer_sets_minus1로 특정되는 값은 레이어 세트의 개수를 나타내면, vps_vui_offset 이전 시그널 [0088]

링 될 수 있다.

VPS에서 기술되는 layer_id_included_flag[i][j]와 동일하게 layer_id_nuh_included_flag[i][j]가 1이면 j와 [0089]

동일한 nuh_layer_id 값이 레이어 식별자 리스트(layer identifier list, layerSetLayerIdList[i])에 포함되는 것을 나타내고, layer_id_nuh_included_flag[i][j]가 0이면 j와 동일한 nuh_layer_id 값이 레이어 식별자 리스 트(layerSetLayerIdList[i])에 포함되지 않는 것을 나타낸다. layer_id_nuh_included_flag[i][j]는 VPS에서 기 술되는 layer_id_included_flag[i][j]와 동일한 값을 가져야 한다.

1부터 vps_number_layer_sets_minus1까지의 값을 가질 수 있는 i에 대한 numLayersInIdList[i]와 레이어 식별 [0090]

자 리스트 (layerSetLayerIdList[i])는 아래와 같이 구할 수 있다.

n=0 [0091]

for ( m = 0; m <= vps_maximum_layer_id; m++) [0092]

if (layer_id_nuh_included_flag[i][m]) [0093]

layerSetLayerIdList[i][n++] = m [0094]

numLayersInIdList[i] = n [0095]

다계층 기반의 영상 부호화 복호화 방법에서는 VPS extension에 기술된 layer_id_nuh_included_flag[i][j]를 [0096]

기반으로 VPS VUI 비트스트림 분할 HRD (VPS Video usability information bitstream partition hypothetical reference decoder) 파라메터 신택스, 비트스트림 분할 HRD (Bitstream partition HRD) 파라메터 SEI 메시지 (supplemental enhancement information message) 신택스 등을 기술하거나, 레이어 세트 관련 정보를 해석할 수 있다.

본 발명의 또 다른 실시예에 따르면, 표 6과 같이 VPS extension 내에 레이어 세트(layer sets)에 대한 정보를 [0097]

기술할 수 있다.

표 6

[0098]

표 6은 VPS extension 내의 레이어 세트(layer sets)에 대한 정보를 나타내고 있으며, 이러한 VPS extension [0099]

(16)

내의 출력 레이어 세트 정보는 이용하여 엔트로피 디코딩 없이 세션 협상 등이 수행될 수 있다.

레이어 세트 관련 신택스(vps_maximum_layer_id, vps_number_layer_sets_minus1, [0100]

layer_id_nuh_included_flag[i][j])는 신택스 요소 vps_vui_offset 위에 기술될 수 있다.

추가적으로, 계층간 종속성 여부를 알려주는 신택스 요소 direct_dependency_flag의 위치를 vps_vui_offset 위 [0101]

로 변경시킬 수 있다. 이 경우, vps_vui_offset 이후의 신택스 요소를 파싱하지 않더라도 vps_vui_offset 값을 사용하여 vps_vui에 대한 정보를 파악할 수 있다.

또 다른 실시예에 따라, 표 7과 같이 VPS extension 내에 레이어 세트(layer sets)에 대한 정보를 기술할 수 있 [0102]

다.

표 7

[0103]

표 7을 참조하면, VPS 내에 존재하는 레이서 세트 관련 신택스 요소들의 위치는 vps_extension_offset 이전에 [0104]

위치될 수 있다.

기존에 가변적인 비트수 ue(V)로 부호화되던 vps_num_layer_sets_minus1은 엔트로피 디코딩을 피하기 위해 고정 [0105]

비트수 u(10)로 부호화될 수 있으며, VPS extension에서 기술되고 있는 동일한 기능의 vps_number_layer_sets_minus1은 삭제될 수 있다.

한편, VPS VUI에서 기술되는 비디오 시그널링 정보는 세션 협상에 사용될 수 있는 정보이며, VPS VUI는 표 8과 [0106]

같을 수 있다.

(17)

표 8

[0107]

표 8을 참고하면, video_signal_info_idx_present_flag가 1이면 신택스 요소 [0108]

vps_num_video_signal_info_minus1과 vps_video_signal_info_idx[i]가 존재하는 것을 나타내고, video_signal_info_idx_present_flag가 0이면 신택스 요소 vps_num_video_signal_info_minus1과 vps_video_signal_info_idx[i]가 존재하지 않는 것을 나타낸다.

vps_num_video_signal_info_minu1에 1은 더한 값은 VPS 내 video_signal_info() 신택스 구조(syntax [0109]

structures)의 개수를 나타낸다. vps_num_video_signal_info_minu1가 존재하지 않는 경우, vps_num_video_signal_info_minus1의 개수는 MaxLayersMinus1의 값과 동일한 것으로 유추된다.

vps_video_signal_info_idx는 layer_id_in_nuh[i]와 같은 nuh_layer_id를 가지는 계층에 적용되는 [0110]

video_signal_info() 신택스 구조 리스트의 인덱스를 나타낸다. vps_video_signal_info_idx가 존재하지 않는 경우, vps_video_signal_info_idx[i]는 (video_signal_info_idx_present_flag ? 0 : i)으로 유추된다.

vps_video_signal_info_idx[i]는 0에서부터vps_num_video_signal_info_minus1 범위에 존재할 수 있다.

현재 SHVC 및 MV-HEVC 표준 초안에서는 표 8와 같이 비디오 시그널링 정보 이전에 지수 골롬(Exp-golomb) 코드 [0111]

(ue(v))로 부호화된 신택스 요소들이 존재하기 때문에, 엔트로피 디코더가 없는 MANE에서는 비디오 시그널링 정 보(를 세션 협상에 사용할 수 없는 문제가 발생할 수 있다.

이러한 문제점을 해결하기 위하여, 즉 VPS VUI내의 비디오 시그널링 정보를 엔트로피 디코딩 없이 세션 협상에 [0112]

사용하기 위해 표 9와 같이 엔트로피 디코딩 없이 접근 가능한 위치에서 비디오 시그널링 정보가 기술될 수 있 다.

(18)

표 9

[0113]

표 9와 같이 엔트로피 디코딩 없이 비디오 시그널링 정보에 접근하기 위해서, VPS_VUI 내 비트 레이트 [0114]

(bit_rate) 및 픽처 레이트(pic_rate) 관련 신택스 요소들(bit_rate_present_vps_flag, pic_rate_present_vps_flag, bit_rate_present_flag, pic_rate_present_flag 등) 다음에 비디오 시그널링 정보 와 관련된 신택스를 기술할 수 있다.

즉, 비디오 시그널 정보(video_signal_info)의 개수와 비디오 시그널 정보의 인덱스를 지시하는 신호의 존재 여 [0115]

부를 지시하는 플래그 정보, 즉 video_signal_info_idx_present_flag를 고정된 비트를 이용하여 시그널링 되는 신호들 다음에 수신함으로써 엔트로피 디코딩 없이 비디오 시그널링 정보에 접근할 수 있다.

한편, 본 발명의 일 측면은 계층간 예측을 위해 현재 픽처의 디코딩에 사용되는 유효한 참조 계층 픽처의 개수 [0116]

를 구하는 다양한 방법을 제안한다.

제1 방법 [0117]

계층간 예측을 위해 현재 픽처의 디코딩에 사용되는 유효한 참조 계층 픽처의 개수를 나타내는 변수 ‘ [0118]

NumActiveRefLayerPics’는 아래와 같이 구할 수 있다. 제1 방법에 따를 경우, 픽처의 모든 슬라이스는 동일한

‘NumActiveRefLayerPics’ 값을 갖는 것으로 한정될 수 있다.

(1) 현재 픽처가 속해 있는 계층의 레이어 식별자에 해당하는 ‘nuh_layer_id’ 가 0이거나, 현재 픽처가 속해 [0119]

있는 계층의 직접 참조 계층의 개수 ‘NumDirectRefLayers’ 가 0 인 경우, 계층간 예측을 위해 현재 픽처의 디 코딩에 사용되는 유효한 참조 계층 픽처의 개수 ‘NumActiveRefLayerPics’는 0으로 설정할 수 있다. 즉, 레이 어가 베이스 레이어이거나, 직접적으로 참조하는 레이어의 개수가 0이면, 현재 픽처의 디코딩에 사용되는 유효 한 참조 계층 픽처의 개수는 0으로 설정된다.

(2) 그렇지 않고 만약(else if), VPS extension에서 기술되는 신택스 요소 ‘all_ref_layers_active_flag’ 값 [0120]

이 1 인 경우, 계층간 예측을 위해 현재 픽처의 디코딩에 사용되는 유효한 참조 계층 픽처의 개수 ‘ NumActiveRefLayerPics’는 수학식 1, 수학식 2 또는 수학식 3 으로부터 구해진 변수 ‘numRefLayerPics’의

(19)

값으로 설정될 수 있다.

all_ref_layers_active_flag가 1이면 비디오 파라미터 세트를 참조하고 있는 각 픽처들에 대해, 해당 픽처를 포 [0121]

함하는 계층의 모든 직접 참조 계층들에 속하는 직접 참조 계층 픽처들 중, 현재 픽처와 동일한 억세스 유닛에 존재하고 해당 픽처의 계층간 참조 픽처 세트에 포함된 모든 직접 참조 픽처들이 계층간 예측에 사용됨을 나타 낸다. 동일 억세스 유닛 존재 여부 및 계층간 참조 픽처 세트 포함 여부는 각 계층의 최대 시간 서브 계층 정보 (sub_layers_vps_minus1[i])와 각 계층에서 계층간 예측을 허용하는 최대 시간 서브 계층 정보에 대한 값 (max_tid_il_ref_pics_plus1[i][j])으로 지시될 수 있다.

all_ref_layers_active_flag가 0이면 상기 제약이 적용되거나 적용되지않을 수 있음을 나타낸다.

[0122]

이러한 all_ref_layers_active_flag는 default_ref_layers_active_flag와 같은 신택스로 표현될 수도 있다.

[0123]

현재 픽처와 동일 억세스 유닛내에 계층간 예측을 위해 사용할 수 있는 참조 계층 픽처들의 개수를 지시하는 변 [0124]

수 ‘numRefLayerPics’는 다음과 같이 유도될 수 있다.

수학식 1

[0125]

수학식 1을 참조하면, 변수 ‘NumDirectRefLayers[]’는 VPS extension에 기술된 신택스 요소 ‘ [0126]

direct_dependency_flag’로부터 계산된 현재 계층이 직접 참조하고 있는 참조 계층의 개수를 나타낸다.

‘sub_layers_vps_max_minus1[i]’는 각 계층의 최대 시간 서브 계층 정보를 나타내고, ‘ [0127]

max_tid_il_ref_pics_plus1[i][j]’는 각 계층에서 계층간 예측을 허용하는 최대 시간 서브 계층 정보를 나타내 며,‘TemporalId’는 현재 픽처의 시간적 식별자를 나타낸다.

수학식 1에 따르면, 현재 픽처를 포함하고 있는 계층의 직접 참조 계층들 중, 참조 계층의 ‘ [0128]

sub_layers_vps_max_minus1[i]’ 값이 현재 픽처의 ‘TemporalId’ 값보다 크거나 같고, 현재 계층에 대한 참 조 계층의 ‘max_tild_il_ref_pics_plus1[i][j]’값이 현재 픽처의 시간적 식별자‘TemporalId’ 값보다 큰 참 조 계층의 픽처들만 계층간 예측을 위해 현재 픽처의 디코딩에 사용될 수 있는 직접 참조 계층 픽처들로 간주될 수 있다.

한편, 신택스 요소 ‘max_tid_il_ref_pics_plus1[i][j]’ 가 ‘0’인 경우, ‘layer_id_in_nuh[i]’와 동일한 [0129]

‘nuh_layer_id’를 갖는 IRAP가 아닌 픽처(non- intra random access point picture)는 ‘layer_id_in_nuh [j]’와 동일한 ‘nuh_layer_id’값을 갖는 픽처에 대해 계층간 예측을 위한 참조 픽처로 사용할 수 없다. 이러 한 제약 사항을 반영하기 위해 수학식 1은 하기 수학식 2로 대체될 있다.

수학식 2

[0130]

(20)

수학식 2에서, 변수 ‘NumDirectRefLayers[]’는 VPS extension에 기술된 신택스 요소 ‘ [0131]

수학식 2에 의하면, 현재 픽처를 포함하고 있는 계층의 직접 참조 계층들 중, ‘ [0133]

max_tid_il_ref_pics_plus1[i][j]’ 값이 ‘0’인 경우, 현재 픽처의 시간적 식별자‘TemporalId’ 값과 참조 계층의 ‘max_tid_il_ref_pics_plus1[i][j]’ 값이 ‘0’으로 같고, 참조 계층의 ‘ sub_layers_vps_max_minus1[i]’ 값이 현재 픽처의 시간적 식별자‘TemporalId’ 값보다 크거나 같은 참조 계 층의 픽처들만 계층간 예측을 위해 현재 픽처의 디코딩에 사용될 수 있는 참조 계층 픽처들로 간주될 수 있다.

이 경우 참조 계층의 픽처는 IRAP 픽처인 것으로 제약을 둘 수 있다.

‘max_tid_il_ref_pics_plus1[i][j]’가 ‘0’보다 큰 경우, 참조 계층의 ‘sub_layers_vps_max_minus1[i]’

[0134]

값이 현재 픽처의 시간적 식별자‘TemporalId’ 값보다 크거나 같고, 참조 계층의 ‘ max_tild_il_ref_pics_plus1[i][j]’값이 현재 픽처의 시간적 식별자‘TemporalId’ 값보다 큰 참조 계층의 픽 처들만 계층간 예측을 위해 현재 픽처의 디코딩에 사용될 수 있는 참조 계층 픽처들로 간주될 수 있다.

다른 실시예에 따르면, 신택스 요소 ‘max_tid_il_ref_pics_plus1[i][j]’ 가 ‘0’인 경우, ‘ [0135]

layer_id_in_nuh[i]’와 동일한 ‘nuh_layer_id’를 갖는 IRAP가 아닌 픽처(non- intra random access point picture)는 ‘layer_id_in_nuh[j]’와 동일한 ‘nuh_layer_id’값을 갖는 픽처에 대해 계층간 예측을 위한 참 조 픽처로 사용할 수 없다. 이러한 제약 사항을 반영하기 위해 수학식 1은 하기 수학식 3로 대체될 있다.

수학식 3

[0136]

수학식 3에 의하면, 참조 계층의 ‘sub_layer_vps_max_minus1[i]’값이 현재 픽처의 시간적 식별자 ‘ [0139]

TemporalId’값보다 크거나 같으면서, 현재 픽처의 시간적 식별자 ‘TemporalId’ 값이 ‘0’을 갖거나 참조 계 층의 ‘max_tid_il_ref_pics_plus1[i][j]’값이 현재 픽처의 시간적 식별자 ‘TemporalId’ 값보다 큰 경우에 만 해당 참조 계층의 픽처를 현재 픽처의 디코딩에 사용될 수 있는 참조 계층 픽처들로 간주될 수 있다.

(3) 그렇지 않고 만약(else if), 현재 픽처의 슬라이스 세그먼트 헤더에서 기술된 신택스 요소 ‘ [0140]

inter_layer_pred_enabled_flag’이 ‘0’ 인 경우, 계층간 예측을 위해 현재 픽처의 디코딩에 사용되는 유효한 참조 계층 픽처의 개수 ‘NumActiveRefLayerPics’는 ‘0’으로 설정될 수 있다.

inter_layer_pred_enabled_flag는 현재 픽처의 디코딩에 계층간 예측이 사용되는지 여부를 나타낸다.

(4) 그렇지 않고 만약(else if), VPS에서 기술된 신택스 요소 ‘max_one_active_ref_layer_flag’이 1 이거나, [0141]

현재 픽처가 속해 있는 계층의 직접 참조 계층의 개수 ‘NumDirectRefLayers’가 1인 경우에는, 수학식 1, 수학 식 2 또는 수학식 3으로부터 구해진 변수 ‘numRefLayerPics’가 ‘0’보다 크면 계층간 예측을 위해 현재 픽

(21)

처의 디코딩에 사용되는 유효한 참조 계층 픽처의 개수 ‘NumActiveRefLayerPics’는 ‘1’ 로 설정될 수 있다.

만약, 수학식 1, 수학식 2 또는 수학식 3으로부터 구해진 변수 ‘numRefLayerPics’가 ‘0’이면 계층간 예측을 위해 현재 픽처의 디코딩에 사용되는 유효한 참조 계층 픽처의 개수 ‘NumActiveRefLayerPics’는 ‘0’으로 설 정될 수 있다.

‘max_one_active_ref_layer_flag’값이 ‘1’이면 최대 하나의 픽처가 코딩 비디오 시퀀스 내 각 픽처를 위한 [0142]

계층간 예측을 위하여 사용되는 것을 나타내고, ‘max_one_active_ref_layer_flag’값이 ‘0’이면 하나 이상의 픽처가 계층간 예측을 위하여 사용될 수 있는 것을 나타낸다.

(5) (1) 내지 (4)의 모든 조건을 만족하지 않는 경우, 계층간 예측을 위해 현재 픽처의 디코딩에 사용되는 유효 [0143]

한 참조 계층 픽처의 개수 ‘NumActiveRefLayerPics’는 슬라이스 세그먼트 헤더에서 전송되는 신택스 요소 ‘ num_inter_layer_ref_pics_minus1’에 ‘1’을 더한 값으로 설정될 수 있다.

(6) (1) 내지 (5)에서 numRefLayerPics는 해당 계층의 nuh_layer_id 값이 ‘k’이고 시간적 서브 계층 식별자 [0144]

인 TemporalId 값이 ‘m’인 경우에 numRefLayerPics[k][m]과 같이 표현될 수 있으며, 수학식 4 또는 수학식 5 로부터 계산될 수 있다.

비트스트림에 포함된 전체 계층에 대해 각 계층의 서브 계층 픽처의 디코딩에 사용될 수 있는 참조 계층 픽처들 [0145]

의 개수를 지시하는 변수 ‘numRefLayerPics’를 VPS 레벨에서 유도하기 위한 수학식 1은 수학식 4 또는 수학식 5로 대체될 수 있다. 이 경우, ‘numRefLayerLayerPics’ 는 ‘numRefLayerPics[nuh_layer_id][TemporalId]’

로 대체될 수 있다.

수학식 4

[0146]

max_tid_il_ref_pics_plus1[i][j]’는 각 계층에서 계층간 예측을 허용하는 최대 시간 서브 계층 정보를 나타내 며, vps_max_sub_layers_minus1’는 VPS에 기술된 전체 계층에서 허용 가능한 최대 서브 계층 정보를 나타낸다.

수학식 4의 참조 계층 픽처들에 대한 ‘layer_id_in_nuh’는 VCL NAL 유닛 헤더에 존재하는 ‘nuh_layer_id’

[0149]

값을 의미한다.

수학식 4에 따르면, 우선 상위 레벨(예를 들어, VPS)에서 각 계층(0 ~ vps_max_layers_minus1)을 대상으로 0에 [0150]

서부터 ‘vps_max_sub_layers_minus1’ 까지 tid(Temporal)값을 갖는 서브 계층들에 대하여 직접 참조 계층으 로부터 참조 가능한 서브 계층의 존재 여부가 판단된다.

판단 결과, 참조 가능한 서브 계층이 존재 하는 경우, 해당 서브 계층에 대한 ‘layer_id_in_nuh’값을 [0151]

RefLayerIdListForTid[[ lId ][ tId ][ k++ ]에 대입을 할 수 있다. numRefLayerPics[lId][tId]는 lId 계층에 대해 tId 값을 갖는 서브 계층이 갖는 참조 가능한 서브 계층의 수를 의미한다.

참조 가능한 서브 계층의 존재 여부는 참조 계층의 ‘sub_layers_vps_max_minus1[]’값이 현재 픽처의 ‘ [0152]

TemporalId(tId)’ 값보다 크거나 같고, 참조 계층의 ‘max_tild_il_ref_pics_plus1[][]’값이 현재 픽처의 ‘ TemporalId(tId)’값보다 크거나 현재 픽처의 TemporalId(tId) 값이 0 인 경우, 해당 참조 계층의 픽처들만 계 층간 예측을 위해 현재 픽처의 디코딩에 사용될 수 있는 참조 계층 픽처로 판단될 수 있다.

(22)

수학식 5

[0153]

max_tid_il_ref_pics_plus1[i][j]’는 각 계층에서 계층간 예측을 허용하는 최대 시간 서브 계층 정보를 나타낸 다.

수학식 5의 참조 계층 픽처들에 대한 ‘layer_id_in_nuh’는 VCL NAL 유닛 헤더에 존재하는 ‘nuh_layer_id’

[0156]

값을 의미한다.

수학식 5에 따르면, 우선 상위 레벨(예를 들어, VPS)에서 각 계층(0 ~ vps_max_layers_minus1)을 대상으로 0에 [0157]

서부터 각 계층의 최대 시간 서브 계층 ‘sub_layers_vps_max_minus1’까지 tid(Temporal)값을 갖는 서브 계층 들에 대하여 직접 참조 계층으로부터 참조 가능한 서브 계층의 존재 여부가 판단된다.

판단 결과, 참조 가능한 서브 계층이 존재 하는 경우, 해당 서브 계층에 대한 ‘layer_id_in_nuh’값을 [0158]

RefLayerIdListForTid[[ lId ][ tId ][ k++ ]에 대입을 할 수 있다. numRefLayerPics[lId][tId]는 lId 계층에 대해 tId 값을 갖는 서브 계층이 갖는 참조 가능한 서브 계층의 수를 의미한다.

참조 가능한 서브 계층의 존재 여부는 참조 계층의 ‘sub_layers_vps_max_minus1[]’값이 현재 픽처의 ‘ [0159]

TemporalId(tId)’ 값보다 크거나 같고, 참조 계층의 ‘max_tild_il_ref_pics_plus1[][]’값이 현재 픽처의 ‘ TemporalId(tId)’값보다 크거나 현재 픽처의 TemporalId(tId) 값이 0 인 경우, 해당 참조 계층의 픽처들만 계 층간 예측을 위해 현재 픽처의 디코딩에 사용될 수 있는 참조 계층 픽처로 판단될 수 있다.

제2 방법 [0160]

계층간 예측을 위해 현재 픽처의 디코딩에 사용되는 유효한 참조 계층 픽처의 개수 ‘NumActiveRefLayerPics’

[0161]

는 아래와 같이 유도될 수도 있다. 픽처의 모든 슬라이스는 동일한 ‘NumActiveRefLayerPics’ 값을 갖는 것으 로 한정될 수 있다.

(1) 현재 픽처가 속해 있는 계층의 ‘nuh_layer_id’ 가 0의 값을 갖거나, 수학식 1, 수학식 2 또는 수학식 3으 [0162]

로부터 구해진 변수 ‘numRefLayerPics’의 값이 ‘0’인 경우, 계층간 예측을 위해 현재 픽처의 디코딩에 사용 되는 유효한 참조 계층 픽처의 개수 ‘NumActiveRefLayerPics’는 ‘0’으로 설정될 수 있다.

(2) 그렇지 않고 만약(else if), VPS에서 기술된 신택스 요소 ‘all_ref_layers_active_flag’ 값이 1 인 [0163]

경우, 계층간 예측을 위해 현재 픽처의 디코딩에 사용되는 유효한 참조 계층 픽처의 개수 ‘ NumActiveRefLayerPics’는 수학식 1, 수학식 2 또는 수학식 3으로부터 구해진 변수 ‘numRefLayerPics’의 값 과 같도록 설정될 수 있다.

(3) 그렇지 않고 만약(else if), 현재 픽처의 슬라이스 세그먼트 헤더에서 기술된 신택스 요소 ‘ [0164]

inter_layer_pred_enabled_flag’가 ‘0’이면, 계층간 예측을 위해 현재 픽처의 디코딩에 사용되는 유효한 참 조 계층 픽처의 개수 ‘NumActiveRefLayerPics’는 ‘0’으로 설정될 수 있다.

(4) 그렇지 않고 만약(else if), VPS에서 기술된 신택스 요소 ‘max_one_active_ref_layer_flag’가 1 이거나, [0165]

현재 픽처가 속해 있는 계층의 직접 참조 계층의 수 ‘NumDirectRefLayers’가 1인 경우, 현재 픽처의 디코딩에