(초보자를 위한) 디더링(dithering)의 이해

Digit - 부호, 숫자의 자릿수
Digital - 부호화된, 계량기 바늘의 위치 따위 등 아날로그 방식 대신 계수화된 숫자들로 정보를 보여주는 방식의
Digitize - (정보를) 계수화/부호화하다. (특히 이진수로)

우리는 화면이건 음성이건 모두 디지타이즈 시켜 유통하는 세상에 살고 있습니다. 화면의 경우 가로 넓이와 세로 넓이를 칸을 나눠 격자로 만들어 개별 위치가 갖는 색상과 명암을 숫자로 바꾸고, 소리의 경우 시간의 경과를 가로(sampling rate)로, 음압의 변화폭을 세로(bit depth)로 한 격자를 만들어 수치화(양자화)하고 있죠.

디지털 방식은, 아무리 그 격자를 촘촘하게 만들어도 결국은 위 그래프에서 처럼 원본과는 같은 것이 될 수 없습니다. 사진으로 치면 '계단 현상'이고 오디오 쪽에서는 'quantization noise' 겠죠. 퀀타이즈, 퀀타이제이션, 양자화... 미디 찍다 보면 많이 접하는 말이죠. 원래의 정보를 정해진 격자 칸(grid)에 맞춰 끼워 넣는 것입니다.

여기서 녹색 선이 원래의 정현파라면 빨간 부분이 그것을 양자화한 소리, 그리고 파란 놈은 원래 소리와 양자화된 소리와의 차이를 나타냅니다.

그런데, 우리의 뇌는 저 빨간 계단식 신호를 들으면, 이렇게 해석하게 됩니다.

"이런 매끈한 음파에..."


"요런 잡음이 끼어 있구나!"

즉, 원본과의 차이 부분을 잡음으로 생각하면서 실제의 각진 계단을 매끈한 정현파로 해석하려 한다는 말입니다. 이렇게 인간의 감각이 만들어 내는 잡음을 quantization noise(양자화 잡음)이라 합니다.
한번 들어 보죠 (▷ 버튼 꾸욱)

왜곡된 소리로 느끼건 잡음이 낀 소리로 느끼건 어쨌든 듣기 싫은 건 사실이고 자연스럽지 않습니다. (우리가 보통 접하는 건 44kHz/16bit 이지만 알기쉬운 예를 위해 저질을 택했습니다)

방금 들은 이 소리는 원래 +20dB에서 -20dB으로 점차 감쇄하는 정현파인데, 해상도가 너무 낮다 보니(8비트 WAV이지만 유효 해상도는 3비트 남짓), 왜곡은 물론이요 음량이 줄어드는 것 조차도 1단계->2단계->3단계->아예 무음 이렇게 각진 모습을 보입니다.

"Can't resolve between the steps" -- 즉, 격자에서 하나의 칸과 다음 칸 사이에 존재하는 정보는 반올림/내림 되어 버린다... 디지털 오디오를 비판하는 좋은 구실이 되고 있습니다.

자, 여기서 모종의 잡음을 일부러 넣어서 양자화시켜 봅니다. TPDF라는 종류의 디더링 노이즈입니다. 일부러 좀 크게(4.8dB) 넣습니다.