세번째 문단의 질문에 대한 대답은 두가지 중에 앞에 것이 더욱 옳습니다.

선수과목은 당연히 DSP 입니다. 추가로 random process 수강하기를 추천합니다. 선수과목을 차근차근 하는 방법도 있지만 adaptive filter에 대하여 직접 공부하면서 모르는 것을 선수과목에서 찾아서 보는 방법도 있습니다. 아래에 링크를 한번 읽어보시고 무슨말인지 대략 알 것 같으면 돌아가지 않고 직접 파악하는 것도 좋은 방법입니다.

<a href=http://en.wikipedia.org/wiki/Adaptive_filter target=_blank>http://en.wikipedia.org/wiki/Adaptive_filter</a>

  원하는 주파수 대역을 통과시키는 것이 필터다 라고 하는 것은 아주 좁은 의미입니다.
넓게 보면 입력 벡터를 받아서 출력을 내보내는 일련의 작용을 하는 시스템을 필터라고 할 수 있습니다. 따라서 입력값을 어떻게 조합하느냐에 따라 LPF도 될 수 있고, HPF, median 필터 등등이 될 수 있겠죠. 이를 보통 필터 계수(coefficient)를 이용해 구현하구요.
adaptive filter는 이 계수들이 상황에 맞게 변화하는 겁니다. 가장 많이 사용되는 분야는 system identification, equalizer나 echo cancellation 등이 있겠네요. Active noise cancellation에도 사용됩니다.
그냥 구현하는 것은 학부 3학년 수준에서 크게 벗어나지 않겠지만 구동 원리나 convergence speed 등 여러 특징들을 공부하시려면 Random process 공부는 필수이구요. Analysis까지 보시려면 해석학까지 공부를 하셔야죠.
유명한 사람으로는 Haykin, Sayed 가 있는데 Haykin 책이 좀 더 쉽습니다.
<a href=http://en.wikipedia.org/wiki/Adaptive_filter target=_blank>http://en.wikipedia.org/wiki/Adaptive_filter</a>

  아... adaptive filter...학부때 Haykin 이 학교에 렉쳐하러 와서 헤이킨 책에다가 헤이킨 사인 받아뒀는데.. 기억이 새록새록..^^;;

윗분들 말씀대로 adaptive filter 는 feedback 을 통해서 filter coefficient 를 계속해서 update 해 나가는 시스템입니다. 들어오는 신호가 stationary 하면 결국 그 coefficient들도 converge 하겠죠.

Analysis 까지 할 필요는 없다고 보고요,

DSP, random process, linear control theory (observability, controllability, Lyapunov function 같은것들 배우는 과목)

이 세 과목 잘 이수하고 나서 하면 좋습니다.

  적응필터는 DSP 후반부에서 개론적으로 언급하고 있으니 이를 보시는 것도 도움이 될 것입니다. 위에 분들께서 언급하신 random process를 거쳐가는 것이 정석이지만 전부 다 하려면 시간이 너무 많이 걸리므로 우선 DSP에서 언급한 적응필터 개론부터 보고 random process는 수시로 참고하는 것이 좋지 않을까 생각합니다. 적응필터에서 대표적으로 언급되고 있는 LMS, nLMS, RLS등은 알고리즘이 간단하고 공개소스코드도 많으므로 조금만 보셔도 금방 구현하실 수 있을겁니다.

  결국 스스로 업뎃하는 필터였군요.... 역시나 이번에도 많이 도움이 되었습니다. 감사합니다!

  위키에 있는 블락다이어그램이 아주 매력적이네요