(19) 대한민국특허청(KR) (12) 공개특허공보(A)
(11) 공개번호 10-2020-0119225 (43) 공개일자 2020년10월19일 (51) 국제특허분류(Int. Cl.)
G10L 19/008 (2014.01) G10L 19/16 (2013.01) (52) CPC특허분류
G10L 19/008 (2020.08) G10L 19/167 (2013.01)
(21) 출원번호 10-2020-0128172(분할) (22) 출원일자 2020년10월05일 심사청구일자 없음
(62) 원출원 특허 10-2013-0069101 원출원일자 2013년06월17일 심사청구일자 2018년04월17일 (30) 우선권주장
1020120113604 2012년10월12일 대한민국(KR)
(71) 출원인
한국전자통신연구원
대전광역시 유성구 가정로 218 (가정동) (72) 발명자
백승권
대전광역시 유성구 지족로 362, 302동 902호(지족 동, 반석마을아파트3단지)
서정일
대전광역시 유성구 덕명로 26, 107동 803호(덕명 동, 운암네오미아아파트)
(뒷면에 계속) (74) 대리인
특허법인 무한 전체 청구항 수 : 총 1 항
(54) 발명의 명칭 객체 오디오 신호의 잔향 신호를 이용한 오디오 부/복호화 장치
(57) 요 약
오디오 부/복호화 장치를 개시한다. 보다 구체적으로 오디오 부호화 장치는 오디오 신호를 부호화하는 오디오 신호 부호화부; 및 상기 부호화된 오디오 신호를 비트스트림으로 변환하여 전송하는 비트스트림 전송부를 포함하 고, 상기 오디오 신호는 채널 오디오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 포함할 수 있다.
대 표 도
- 도1공개특허 10-2020-0119225
(72) 발명자 이태진
대전광역시 유성구 진잠로149번길 24, 103동 1502 호(교촌동, 제이파크아파트)
강경옥
대전광역시 유성구 전민로 71, 101동 605호(
전민동, 삼성푸른아파트)
성종모
대전광역시 유성구 반석동로 33, 505동 2201호(반 석동, 반석마을5단지아파트)
김진웅
대전광역시 서구 도안동로 77, 1804동 1003호(도안 동, 도안18단지린풀하우스)
명 세 서 청구범위
청구항 1오디오 신호를 부호화하는 오디오 신호 부호화부; 및
상기 부호화된 오디오 신호를 비트스트림으로 변환하여 전송하는 비트스트림 전송부 를 포함하고,
상기 오디오 신호는 채널 오디오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 포함하는 오 디오 부호화 장치.
발명의 설명 기 술 분 야
아래의 설명은 객체 오디오 신호의 잔향 신호를 이용한 오디오 부/복호화 장치에 관한 것으로 보다 구체적으로 [0001]
객체 오디오 신호의 잔향 신호를 포함하는 오디오 신호를 이용하여 오디오 부호화 또는 오디오 복호화하는 오디 오 부/복호화 장치에 관한 것이다.
배 경 기 술
종래의 음향 장면을 구성하는 방법에 있어서, MPEG SAOC(Spatial Audio Object Coding)와 Dolby Atmos는 각각 [0002]
입력 받는 입력 신호 또는 객체를 이용하여 음향 장면을 구성한다.
MPEG SAOC은 입력 오디오 신호를 객체로 간주하고, 해당 입력 오디오 신호를 입력 받는다. 그리고, MPEG SAOC [0003]
은 입력되는 렌더링 정보에 대해서 음향장면을 구성한다. 특히, MPEG SAOC은 저비트율로 전송이 가능하며, 고 압축 방식으로 spatial audio coding 방식을 이용한다.
그리고, Dolby Atmos는 극장용 다채널 오디오 포맷으로, Beds라는 채널 신호와 object라는 객체신호를 전송 혹 [0004]
은 저장하며, 메타데이터를 이용하여 음향 장면을 구성한다.
그러나, 이러한 종래의 방식은 입력 오디오 신호 또는 객체 신호를 이용하여 음향장면을 구성하기 때문에, 입력 [0005]
오디오 신호 또는 객체 신호에 따른 콘텐츠의 의도에 대응하지 않지 않는 음향장면을 포함하는 경우가 발생한다. 이는 음향장면을 구성하기 위한 기본적인 신호만을 포함하고 있기 때문이다.
따라서, 입력 오디오 신호 또는 객체 신호에 따른 콘텐츠의 의도에 대응하여 정확한 음향장면을 구성할 수 있는 [0006]
방법이 강구되어야 한다.
발명의 내용 해결하려는 과제
다채널 오디오 신호를 재현하는데 있어서, 채널 오디오 신호, 객체 오디오 신호 및 객체 오디오 신호의 잔향 신 [0007]
호를 이용함으로써, 보다 효과적이며 현실감 있는 오디오 신호를 재현할 수 있는 오디오 부/복호화 장치를 제공 하는 것이다.
객체 오디오 신호와 해당 객체 오디오 신호에 대응하는 객체 오디오 신호의 잔향 신호를 렌더링함으로써, 객체 [0008]
오디오 신호의 잔향 신호에 따른 실감나는 음향 장면을 재구성할 수 있는 부/복호화 장치를 제공하는 것이다.
과제의 해결 수단
일실시예에 따른 오디오 부호화 장치는 오디오 신호를 부호화하는 오디오 신호 부호화부; 및 상기 부호화된 오 [0009]
디오 신호를 비트스트림으로 변환하여 전송하는 비트스트림 전송부를 포함하고, 상기 오디오 신호는 채널 오디 오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 포함할 수 있다.
일실시예에 따른 오디오 복호화 장치는 부호화된 오디오 신호를 포함하는 비트스트림을 수신하는 비트스트림 수 [0010]
신부; 및 상기 비트스트림에 포함된 오디오 신호를 복호화하여 상기 비트스트림으로부터 채널 오디오 신호, 객 체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 추출하는 오디오 신호 복호화부를 포함할 수 있다.
일실시예에 따른 오디오 복호화 장치는 상기 비트스트림에 포함된 렌더링 정보에 기초하여 상기 추출된 채널 오 [0011]
디오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 렌더링하는 오디오 렌더링부를 더 포함 할 수 있다.
일실시예에 따른 오디오 부호화 방법은 오디오 신호를 부호화하는 단계; 및 상기 부호화된 오디오 신호를 비트 [0012]
스트림으로 변환하여 전송하는 단계를 포함하고, 상기 오디오 신호는 채널 오디오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 포함할 수 있다.
일실시예에 따른 오디오 복호화 방법은 부호화된 오디오 신호를 포함하는 비트스트림을 수신하는 단계; 상기 비 [0013]
트스트림에 포함된 오디오 신호를 복호화하여 상기 비트스트림으로부터 채널 오디오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 추출하는 단계; 및 상기 비트스트림에 포함된 렌더링 정보에 기초하여 상 기 추출된 채널 오디오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 렌더링하는 단계를 포 함할 수 있다.
발명의 효과
일실시예에 따른 오디오 부/복호화 장치는 다채널 오디오 신호를 재현하는데 있어서, 채널 오디오 신호, 객체 [0014]
오디오 신호 및 객체 오디오 신호의 잔향 신호를 이용함으로써, 보다 효과적이며 현실감 있는 오디오 신호를 재 현할 수 있다.
일실시예에 따른 오디오 부/복호화 장치는 객체 오디오 신호와 해당 객체 오디오 신호에 대응하는 객체 오디오 [0015]
신호의 잔향 신호를 렌더링함으로써, 객체 오디오 신호의 잔향 신호에 따른 실감나는 음향 장면을 재구성할 수 있다.
도면의 간단한 설명
도 1은 일실시예에 따른 오디오 부/복호화 장치를 도시한 도면이다.
[0016]
도 2는 일실시예에 따른 오디오 부호화 장치를 도시한 도면이다.
도 3은 일실시예에 따른 오디오 복호화 장치를 도시한 도면이다.
도 4는 일실시예에 따른 도2의 오디오 부호화 장치를 구체화한 도면이다.
도 5는 일실시예에 따른 도3의 오디오 복호화 장치를 구체화한 도면이다.
도 6은 일실시예에 따른 렌더링 정보의 구성을 도시한 도면이다.
도 7은 일실시예에 따른 오디오 부호화 방법을 도시한 도면이다.
도 8은 일실시예에 따른 오디오 복호화 방법을 도시한 도면이다.
발명을 실시하기 위한 구체적인 내용
이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.
[0017]
도 1은 일실시예에 따른 오디오 부/복호화 장치를 도시한 도면이다.
[0018]
도 1을 참고하면, 오디오 부호화 장치(101)는 채널 오디오 신호, 객체 오디오 신호 및 객체 오디오 신호의 잔향 [0019]
신호를 포함하는 오디오 신호를 수신할 수 있다. 이 때, 오디오 부호화 장치(101)는 채널 오디오 신호, 객체 오디오 신호를 포함하여 객체 오디오 신호의 잔향 신호를 객체로 간주하여 오디오 신호를 수신할 수 있다. 그 리고, 오디오 부호화 장치(101)는 위에서 언급한 3가지 형태의 오디오 신호를 포함하는 오디오 신호를 반드시 수신해야 한다.
그리고, 오디오 부호화 장치(101)는 렌더링 정보를 수신할 수 있다. 렌더링 정보는 부가 데이터로써, 이득값 [0020]
기반의 렌더링 정보 및 시간 지연과 관련된 렌더링 정보를 포함할 수 있다. 또한, 렌더링 정보는 오디오 신호 를 출력하는 경우, 오디오 신호에 대응하는 장면 정보를 포함할 수 있다.
오디오 부호화 장치(101)는 수신한 오디오 신호를 부호화 할 수 있다. 그리고, 오디오 부호화 장치(101)는 렌 [0021]
더링 정보를 비트열로 변환할 수 있다. 일례로, 오디오 부호화 장치(101)는 바이너리(Binary) 변환하여 렌더 링 정보를 비트열로 변환할 수 있다. 또한, 오디오 부호화 장치(101)는 오디오 신호와 렌더링 정보를 동시에 부호화 할 수 있다. 이 때, 오디오 부호화 장치(101)는 렌더링 정보를 비트열로 변환할 수 있는 블록을 포함할 수 있다.
그리고, 오디오 부호화 장치(101)는 부호화 된 오디오 신호를 비트스트림으로 변환할 수 있다. 오디오 부호화 [0022]
장치(101)는 렌더링 정보를 비트열로 변환할 수 있는 블록을 포함할 수 있다. 오디오 부호화 장치(101)는 렌더 링 정보와 부호화 된 오디오 신호를 비트스트림으로 변환할 수 있다. 비트스트림은 렌더링 정보와 부호화 된 오디오 신호를 포함할 수 있다. 그리고, 오디오 부호화 장치(101)는 변환된 비트스트림을 오디오 복호화 장치 (102)로 전송할 수 있다.
오디오 복호화 장치(102)는 오디오 부호화 장치(101)로부터 변환된 비트스트림을 수신할 수 있다. 그리고, 오 [0023]
디오 복호화 장치(102)는 수신한 비트스트림에 포함된 오디오 신호를 복호화하여 비트스트림으로부터 채널 오디 오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 추출할 수 있다. 그리고, 오디오 복호화 장치(102)는 비트스트림에 포함된 렌더링 정보에 기초하여 상기 추출된 채널 오디오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 렌더링할 수 있다. 오디오 복호화 장치(102)는 렌더링 된 다채널의 오디 오 신호를 출력할 수 있다.
도 2는 일실시예에 따른 오디오 부호화 장치를 도시한 도면이다.
[0024]
도 2를 참고하면, 오디오 부호화 장치(201)은 오디오 신호 부호화부(202), 비트스트림 전송부(203)을 포함할 수 [0025]
있다.
오디오 신호 부호화부(202)는 오디오 신호를 부호화할 수 있다. 오디오 신호는 채널 오디오 신호, 객체 오디오 [0026]
신호 및 상기 객체 오디오 신호의 잔향 신호를 포함할 수 있다.
채널 오디오 신호는 일반적으로 사용되는 채널 오디오 신호로 재생 시 임의의 재생 장치의 채널로 할당되는 신 [0027]
호일 수 있다. 여기서, 채널 오디오 신호는 렌더링 정보에 의해서 가변되지 않는 신호일 수 있다. 그리고, 채 널 오디오 신호는 N개의 채널 오디오 신호에 대해서 다음과 같은 수학식 1을 이용하여 vector 열로 정리할 수 있다.
수학식 1
[0028]
객체 오디오 신호는 복수의 오디오 신호 중 특정 오디오 신호를 객체 오디오 신호로 정의하여 렌더링을 수행하 [0029]
는 주체로 활용할 수 있다. 여기서, 객체 오디오 신호는 재생 장치의 기하학 위치 해석을 거쳐 임의의 지점에 정의될 수 있는 신호일 수 있다. 객체 오디오 신호는 M개의 객체 오디오 신호에 대하여 다음과 같은 수학식 2 를 이용하여 vertor열로 구성된 행렬로 표현할 수 있다.
수학식 2
[0030]
이 때, 수학식 2는 객체 오디오 신호의 위치 정보와 객체 오디오 신호의 지연 정보에 대하여 독립적으로 렌더링 [0031]
을 수행할 때, 사용할 수 있다.
객체 오디오 신호가 행렬로 표현될 수 있는 이유는 각각의 객체 오디오 신호는 여러 개의 채널 오디오 신호로 [0032]
구성될 수 있기 때문이다. 일례로, 객체 오디오 신호는 첫 번째 객체 오디오 신호 가 스테레오로 구성되 어 있다면, 수학식 3와 같이 표현할 수 있다.
수학식 3
[0033]
객체 오디오 신호의 잔향 신호는 객체 오디오 신호에 적용되는 잔향 신호로써, 객체 오디오 신호의 음장감을 표 [0034]
현할 수 있다. 그리고, 객체 오디오 신호의 잔향 신호는 객체 오디오 신호에 대응하는 신호로 M개의 객체 오디 오 신호에 대한 잔향 신호를 포함할 수 있다. 객체 오디오 신호의 잔향 신호는 수학식 4와 과 같이 표현할 수 있다.
수학식 4
[0035]
또한, 객체 오디오 신호의 잔향 신호는 객체 오디오 신호와 동일하게 여러 개의 채널 오디오 신호로 구성될 수 [0036]
있다. 일례로, 객체 오디오 신호의 잔향 신호는 5.1의 5채널로 구성될 경우, 수학식 5와 같이 표현할 수 있다.
수학식 5
[0037]
여기서, 오디오 신호 부호화부(202)는 객체 오디오 신호에 대하여 다양한 레이아웃을 갖는 잔향 신호를 포함하 [0038]
여, 오디오 신호를 부호화할 수 있다.
비트스트림 전송부(203)는 부호화된 오디오 신호를 비트스트림으로 변환할 수 있다. 비트스트림 전송부(203)는 [0039]
상기 부호화된 오디오 신호 및 상기 오디오 신호의 출력을 위한 렌더링 정보를 비트스트림으로 생성할 수 있다.
렌더링 정보는 오디오 신호에 대한 부가 데이터일 수 있다. 다시 말해, 렌더링 정보는 오디오 신호에 적용되어 음향과 관련된 장면 정보를 재생할 수 있는 정보일 수 있다. 렌더링 정보는 오디오 객체의 위치 정보, 오디오 객체의 음압 정보 및 오디오 객체의 지연 정보 중 적어도 하나를 포함할 수 있다. 렌더링 정보는 수학식 6과 같이 표현할 수 있다.
수학식 6
[0040]
R(t)는 객체 오디오 신호의 위치 정보이며, Gi(t)는 객체 오디오 신호의 음압일 수 있다. 그리고, D(t)는 객체 [0041]
오디오 신호의 지연을 나타낼 수 있다. G1(t)과 G2(t)는 수신한 객체 오디오 신호에 대하여 음압 조절을 위한
스케일 행렬 일 수 있다. 그리고, t는 시간에 대한 인덱스일 수 있다.
이 때, 객체 오디오 신호의 위치 정보와 객체 오디오 신호의 지연 정보를 동시에 렌더링을 수행할 경우, 수학식 [0042]
7과 같이 표현할 수 있다.
수학식 7
[0043]
그리고, 비트스트림 전송부(203)는 변환된 비트스트림을 오디오 복호화 장치로 전송할 수 있다.
[0044]
3은 일실시예에 따른 오디오 복호화 장치를 도시한 도면이다.
[0045]
도 3을 참고하면, 오디오 복호화 장치(301)는 비트스트림 수신부(302), 오디오 신호 복호화부(303), 오디오 렌 [0046]
더링부(304)를 포함할 수 있다.
비트스트림 수신부(302)는 오디오 부호화 장치로부터 부호화된 오디오 신호를 포함하는 비트스트림을 수신할 수 [0047]
있다.
오디오 신호 복호화부(303)는 비트스트림에 포함된 오디오 신호를 복호화 할수 있다. 구체적으로 오디오 신호 [0048]
복호화부(303)는 비트스트림으로부터 채널 오디오 신호, 객체 오디오 신호 및 객체 오디오 신호의 잔향 신호를 추출할 수 있다. 일례로, 오디오 신호 복호화부(303)는 추출된 채널 오디오 신호, 객체 오디오 신호 및 객체 오디오 신호의 잔향 신호에 대응하여 수학식 8, 수학식 9, 수학식 10와 같이 표현될 수 있다.
수학식 8
[0049]
수학식 9
[0050]
수학식 10
[0051]
오디오 렌더링부(304)는 비트스트림에 포함된 렌더링 정보에 기초하여 상기 추출된 채널 오디오 신호, 객체 오 [0052]
디오 신호 및 객체 오디오 신호의 잔향 신호를 렌더링할 수 있다. 또한, 오디오 렌더링부(304)는 렌더링 정보 의 음향과 관련된 장면정보에 기초하여 음향장면을 구성할 수 있다.
구체적으로, 오디오 렌더링부(304)는 오디오 신호를 렌더링하는 동작 원리를 수학식 11과 같이 표현할 수 있다.
[0053]
수학식 11
[0054]
수학식 11에서 첫 번째 항이 적용되는 과정을 살펴보면, 객체 오디오 신호는 음압이 조절될 수 있다. 객체 오 [0055]
디오 신호의 음압이 조절되는 과정은 수학식 12과 같이 표현될 수 있다.
수학식 12
[0056]
음압이 조절된 는 음상 정위 행렬 P(t)에 의하여 실제적으로 출력되는 재생 장치의 스피커 위치에 할당될 [0057]
수 있다. 그리고, 음상 정위 행렬 P(t)의 요소는 음압의 이득 값으로 표현될 수 있다. 여기서, 이득 값은 0에 서 1사이의 실수 값을 포함할 수 있다. 그리고, 출력할 수 있는 채널의 수가 N인 경우, 는 수학식 13와 같은 음상 정위 행렬이 적용될 수 있다.
수학식 13
[0058]
수학식 13에서 객체 오디오 신호는 객체 오디오 신호 J개의 layout으로 구성되어 있는 경우, 수학식 14과 [0059]
같이 표현될 수 있다.
수학식 14
[0060]
그리고, 음상 정위 행렬은 수학식 15를 이용하여 음상 정위 행렬의 요소 별로 연산 과정을 확인할 수 있다.
[0061]
수학식 15
[0062]
따라서, 음상 정위 행렬 P(t)에 의해 출력되는 신호는 수학식 16와 같이 표현할 수 있다.
[0063]
수학식 16
[0064]
그리고, 수학식 10에서 두 번째 항은 동일한 dimension의 행렬 연산을 수행할 수 있다. 그리고, dimension의 [0065]
행렬 연산은 수학식 17과 같이 표현될 수 있다.
수학식 17
[0066]
또한, 수학식 17에서 객체 오디오 신호는 객체 오디오 신호 J개의 layout으로 구성되어 있는 경우, 수학식 [0067]
18과 같이 표현될 수 있다.
수학식 18
[0068]
여기서, 객체 오디오 신호의 지연 연산 과정은 음상 정위 행렬 적용 연산과 같이 행렬 곱셈으로 표현될 수 없어 [0069]
서 연산자 를 활용하여 표현할 수 있다. 그리고, 지연 연산 행렬 D(t)에 의해서 출력되는 신호는 수학식 19 과 같이 표현할 수 있다.
수학식 19
[0070]
오디오 렌더링부(304)는 음상 정위 행렬과 지연 연산 행렬이 독립적으로 렌더링 과정에 적용할 수 있다. 그리 [0071]
고, 오디오 렌더링부(304)는 음상 정위 행렬과 지연 연산 행렬을 동시에 적용하는 경우, 수학식 20을 이용하여 PD(t) 행렬을 표현할 수 있다.
수학식 20
[0072]
오디오 렌더링부(304)는 수학식 20의 연산 과정을 통해 수학식 21과 같은 결과를 추출할 수 있다.
[0073]
수학식 21
[0074]
오디오 렌더링부(304)는 위에서 언급한 수학식을 이용하여 객체 오디오 신호를 출력할 수 있는 채널 신호로 할 [0075]
당할 수 있다. 그리고, 오디오 렌더링부(304)는 할당된 객체 오디오 신호를 복호화 된 채널 오디오 신호와 취 합할 수 있다. 그리고, 오디오 렌더링부(304)는 최종적으로 출력할 수 있는 출력 신호를 생성할 수 있다.
그리고, 오디오 렌더링부(304)는 객체 오디오 신호의 잔향 신호를 수학식 22 또는 수학식 23와 같은 과정을 통 [0076]
해 렌더링할 수 있다.
수학식 22
[0077]
수학식 23
[0078]
수학식 22과 수학식 23을 이용한 객체 오디오 신호의 잔향 신호에 렌더링 과정은 객체 오디오 신호를 렌더링할 [0079]
수 있으며, 객체 오디오 신호에 대응하는 객체 오디오 신호의 잔향 신호를 렌더링함으로써, 보다 현실감 높은 음향 장면을 연출할 수 있다.
또한, 오디오 렌더링부(304)는 상기 객체 오디오 신호를 제어하는 경우, 해당 객체 오디오 신호에 대응하는 객 [0080]
체 오디오 신호의 잔향 신호를 제어할 수 있다. 일례로, 오디오 렌더링부(304)는 객체 오디오 신호 를 렌더 링하는 과정에서 제고하고자 할 때, 수학식 11의 이득 값에서 와 같이 값의 해를 할당할 수 있다.
그리고, 오디오 렌더링부(304)는 수학식 11의 와 동일하게 객체 오디오 신호의 잔향 신호를 객체 오디 오 신호의 인덱스에 대응하여 제어할 수 있다. 또한, 오디오 렌더링부(304)는 수학식 22의 이득 값에서 와 같이 값의 해를 할당하거나, 수학식 23에서 와 같이 객체 오디오 신호를 제어할 수 있 다.
그리고, 최종적으로 출력할 수 있는 출력 신호는 렌더링 된 객체 오디오 신호, 렌더링 된 객체 오디오 신호의 [0081]
잔향 신호 및 복호화 된 채널 오디오 신호가 통합된 신호일 수 있다. 그리고, 출력 신호는 수학식 24과 같이 표현될 수 있다.
수학식 24
[0082]
수학식 24에서는 와 로 구분할 수 있다. 다시 말해, 출력 신호는 렌더링 된 객체 오디오 신호의 정 [0083]
보와 렌더링 된 객체 오디오 신호의 잔향 신호의 정보를 서로 다른 방식을 통해 전송될 수 있다. 따라서, 수학 식 23에서는 각각의 렌더링 정보로써 와 로 전송되어야 한다고 명시하고 있다.
그리고, 수학식 23에서 복호화 된 채널 오디오 신호를 로 표기한 것은 최종적인 출력할 수 있는 채널의 수 [0084]
와 복호화 된 채널 오디오 신호가 다를 경우, 복호화 된 채널 오디오 신호 가 다운 믹스 된 형태의 신호로 표현했기 때문이다. 일례로, 복호화 된 채널 오디오 신호는 N개였으나, 와 에 의해 출력되는 출력 신호와 채널의 수를 K개로 한다면, 다운 믹스 행렬을 통해 도 로 변환할 수 있다. 다시 말해,
와 의 열 행렬의 차원 수도 K개가 될 수 있다.
여기서, 다운 믹스 행렬은 수학식 25와 같이 표현될 수 있다.
[0085]
수학식 25
[0086]
그리고, 수학식 25를 기초하여 복호화 된 채널 오디오 신호가 N개, 출력 신호가 K개일 때의 다운 믹스 과정은 [0087]
수학식 26와 같이 표현될 수 있다.
수학식 26
[0088]
이 때, 복호화 된 채널 오디오 신호가 와 의 열행렬의 차원수도 N인 경우, 출력 신호는 수학식 23에 [0089]
수학식 24을 반영함으로써, 수학식 27과 같이 표현될 수 있다.
수학식 27
[0090]
다시 말해, 출력 신호는 N개의 채널 오디오 신호에 대한 렌더링을 수행한 후, DMX(t)를 적용하여 다운 믹스를 [0091]
수행할 수 있다. 또한, 시간 인덱스 t는 DMX(t)의 정보의 시간에 따라 변화될 수 있다.
오디오 부호화 장치(101) 및 오디오 복호화 장치(102)는 객체 오디오 신호에 대응하는 객체 오디오 신호의 잔향 [0092]
신호를 이용함으로써, 원 음향 엔지니어의 콘텐츠 생성 저작 의도를 충분히 반영할 수 있다. 그리고, 오디오 부호화 장치(101) 및 오디오 복호화 장치(102)는 객체 오디오 신호의 잔향 신호를 제어할 수 있다. 따라서, 오 디오 부호화 장치(101) 및 오디오 복호화 장치(102)는 객체 오디오 신호의 잔향 신호를 추가적으로 제어하기 위 하여 객체 오디오 신호의 잔향 신호에 해당하는 렌더링 정보를 포함할 수 있다.
도 4는 일실시예에 따른 도2의 오디오 부호화 장치를 구체화한 도면이다.
[0093]
도 4를 참고하면, 오디오 부호화 장치는 오디오 신호 부호화부(401), 비트스트림 전송부(402)를 포함할 수 [0094]
있다.
오디오 신호 부호화부(401)는 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호를 수신할 수 [0095]
있다. 이 때, 오디오 신호 부호화부(401)는 객체 오디오 신호의 잔향 신호를 수신함으로써, 보다 높은 음향 장 면을 연출할 수 있다. 그리고, 오디오 신호 부호화부(401)는 수신한 채널 오디오 신호, 객체 오디오 신호, 객 체 오디오 신호의 잔향 신호를 오디오 신호로 부호화 할 수 있다.
그리고, 오디오 부호화 장치는 렌더링 정보(403)를 수신할 수 있다. 그리고, 오디오 부호화 장치는 렌더링 정 [0096]
보(403)를 바이너리로 변환할 수 있는 블록을 포함할 수 있다.
이 때, 오디오 신호 부호화부(401)가 렌더링 정보(403)를 변환할 수 있는 블록을 포함하는 경우, 오디오 신호 [0097]
부호화부(401)는 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호 및 렌더링 정보(403)를 포함하는 오디오 신호로 부호화할 수 있다.
비트스트림 전송부(402)는 부호화 된 오디오 신호를 비트스트림으로 변환할 수 있다. 비트스트림 전송부(402) [0098]
는 변환된 비트스트림을 오디오 복호화 장치로 전송할 수 있다. 이 때, 비트스트림은 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호를 포함하는 오디오 신호 및 렌더링 정보(403)를 포함할 수 있다.
그리고, 비트스트림 전송부(402)는 다채널 장면 정보를 생성을 위해 비트스트림을 전송할 수 있다. 다채널 장 면 정보은 렌더링 정보(403)를 기초하여 생성할 수 있다. 그리고, 렌더링 정보(403)는 객체 오디오 신호의 잔 향 신호에 대한 부가 데이터로 사용될 수 있다.
도 5는 일실시예에 따른 도3의 오디오 복호화 장치를 구체화한 도면이다.
[0099]
오디오 복호화 장치는 비트스트림 수신부(501), 오디오 신호 복호화부(502), 오디오 렌더링부(503)을 포함할 수 [0100]
있다.
비트스트림 수신부(501)는 오디오 부호화 장치로부터 비트스트림을 수신할 수 있다. 수신한 비트스트림은 오디 [0101]
오 신호 및 렌더링 정보를 포함할 수 있다.
오디오 신호 복호화부(502)는 오디오 신호를 복호화 할 수 있다. 다시 말해, 오디오 신호 복호화부(502)는 오 [0102]
디오 신호에 포함된 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호를 추출할 수 있다.
오디오 렌더링부(503)는 복호화 된 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호를 렌더 [0103]
링할 수 있다. 객체 오디오 신호는 도 3의 렌더링 과정을 기초하여 렌더링 될 수 있다. 그리고, 객체 오디오 신호의 잔향 신호는 객체 오디오 신호가 렌더링 되는 경우, 해당 객체 오디오 신호의 인덱스에 따라 렌더링 될 수 있다. 그리고, 객체 오디오 신호의 잔향 신호는 객체 오디오 신호가 제어됨에 따라 동일하게 제어됨으로써, 보다 현실적인 음향 영상을 제공할 수 있다.
오디오 렌더링부(503)는 복호화 된 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호를 렌더 [0104]
링함으로써, 출력 신호를 생성할 수 있다. 이 때, 출력 신호는 렌더링 된 객체 오디오 신호, 렌더링 된 객체 오디오 신호의 잔향 신호 및 복호화 된 채널 오디오 신호를 포함할 수 있다. 그리고, 출력 신호는 다채널의 오 디오 신호로 각각의 채널에 출력될 수 있다.
도 6은 일실시예에 따른 렌더링 정보의 구성을 도시한 도면이다.
[0105]
도 6을 참고하면, 렌더링 정보(600)는 행렬(Matrix) 형태로 표현될 수 있다. 이 때, 렌더링 정보(600)의 각각 [0106]
의 행렬은 렌더링 정보를 표현하기 위해 대치 값으로 표현될 수 있다. 일례로, 객체의 위치 정보는 수평면과 수직면의 각도로 표현될 수 있다. 그리고, 지연 정보와 관련된 행렬 값과 이득 값은 거리감을 나타내는 값으로 대치될 수 있다. 또한, 렌더링 정보(600)는 객체 오디오 신호의 잔향 신호의 부가 데이터로 사용되기 위해 입 력되는 다양한 형태의 렌더링 정보(600)에 대응하여 렌더링 된 객체 오디오 신호와 렌더링 된 객체 오디오 신호 의 잔향 신호에 적용될 수 있도록 행렬의 값으로 변환되어 표현되어야 한다.
도 7은 일실시예에 따른 오디오 부호화 방법을 도시한 도면이다.
[0107]
단계(701)에서 오디오 부호화 장치는 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호를 수 [0108]
신할 수 있다. 채널 오디오 신호는 일반적으로 사용되는 채널 오디오 신호로 재생 시 임의의 재생 장치의 채널 로 할당되는 신호일 수 있다. 객체 오디오 신호는 복수의 오디오 신호 중 특정 오디오 신호를 객체 오디오 신 호로 정의하여 렌더링을 수행하는 주체로 활용할 수 있다. 그리고, 객체 오디오 신호의 잔향 신호는 객체 오디 오 신호에 적용되는 잔향 신호로써, 객체 오디오 신호의 음장감을 표현할 수 있다.
또한, 오디오 부호화 장치는 수시한 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호를 포 [0109]
함하는 오디오 신호로 부호화 할 수 있다.
단계(702)에서 오디오 부호화 장치는 부호화 된 오디오 신호를 비트스트림으로 변환할 수 있다. 이 때, 비트스 [0110]
트림은 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호를 포함하는 오디오 신호 및 렌더링 정보(403)를 포함할 수 있다. 오디오 부호화 장치는 다채널 장면 정보를 생성을 위해 비트스트림을 전송할 수 있다.
도 8은 일실시예에 따른 오디오 복호화 방법을 도시한 도면이다.
[0111]
단계(801)에서 오디오 복호화 장치는 오디오 부호화 장치로부터 비트스트림을 수신할 수 있다. 수신한 비트스 [0112]
트림은 오디오 신호 및 렌더링 정보를 포함할 수 있다.
단계(802)에서 오디오 복호화 장치는 오디오 신호를 복호화하여 오디오 신호에 포함된 채널 오디오 신호, 객체 [0113]
오디오 신호, 객체 오디오 신호의 잔향 신호를 추출할 수 있다.
단계(803)에서 오디오 복호화 장치는 오디오 복호화 장치는 비트스트림에 포함된 렌더링 정보에 기초하여 상기 [0114]
추출된 채널 오디오 신호, 객체 오디오 신호 및 상기 객체 오디오 신호의 잔향 신호를 렌더링할 수 있다. 오디 오 복호화 장치는 객체 오디오 신호의 잔향 신호는 객체 오디오 신호가 렌더링 되는 경우, 해당 객체 오디오 신 호의 인덱스에 따라 렌더링 될 수 있다. 그리고, 객체 오디오 신호의 잔향 신호는 객체 오디오 신호가 제어됨 에 따라 동일하게 제어됨으로써, 보다 현실적인 음향 영상을 제공할 수 있다. 또한, 오디오 복호화 장치는 복 호화 된 채널 오디오 신호, 객체 오디오 신호, 객체 오디오 신호의 잔향 신호를 렌더링함으로써, 출력 신호를 생성할 수 있다.
본 발명의 실시 예에 따른 방법들은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되 [0115]
어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데 이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위 하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 [0116]
것은 아니며, 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
그러므로, 본 발명의 범위는 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 [0117]
이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
부호의 설명
101: 오디오 부호화 장치 [0118]
102: 오디오 보고화 장치
