고분자를 전공하고 있는 석사 신입생입니다.

matrix와 domain은 두 가지 이상의 재료를 섞었을 때 분리된 상을 이야기합니다.  물론 완벽히 잘 섞이는 재료라면 (물과 알코올처럼) 구분할 수 없겠지만, 잘 섞이지 않는 상이라면 어느정도 상이 구분되어서 조성이 많은 쪽이 주로 Continuous Phase를 가지게 되지요.  이를 Matrix라 합니다. (궁금하시면 matrix 단어의 의미를 찾아보셔도 느낌이 오실 겁니다. ^^)
Domain은 조성이 적은 쪽의 상을 주로 이야기하지요. 

FRP를 예로들어 설명해보면, 섬유로 플라스틱의 성질을 보강한 것입니다.  사실 목적은 그게 가장 큰 것이죠.  문제는 플라스틱과 섬유사이의 접착력, 섬유의 종류 혹은 직조된 섬유.. 그러니까 천쪼가리를 넣어주느냐 마느냐에 따라 물리적 거동이 달라집니다.  천쪼가리를 직조할 때 사용한 방법에 따라 역시 다르고, 이를 몇 층씩 적층시켰느냐에 따라 역시 다릅니다.  Ply는 FRP에서는 이렇게 제직되어 적층한 천의 한 장을 이야기합니다.  아마 Ply 역학이라는것은 제직상태(위사, 경사, 종류, ....)에 따라 전반적인 거동을 예측하는것이겠지요.

문제는, Composite자체가 멀티스케일 문제가 혼재되어 있다보니 이를 물리적으로 해석하기에는 수많은 근사가 필요하다는 겁니다.  사실 순수 재료만 보더라도 (금속이나 세라믹, 고분자) 해당 전공자가 그를 해석하기 위해서 연속체 역학이니 등을 적용해서 분석을 하게 되는데 (저는 현재 유변학을 전공하신 지도교수님을 두고 있습니다) FRP의 경우 각종 섬유의 제직상태 섬유의 종류, matrix(주로 열경화성 수지를 이용합니다)와의 흡착성등 정말 많은 부분을 고려하여야 하다보니 적당한 근사로 이야기하는 경우가 많습니다.

(심심풀이로 본 복합체 역학 책은 조금 복잡하다 싶으면 rule of sum으로 그냥 넘어가더군요)

제가 알고 있는 지식 범주 이상의 것들이 존재하리라 믿습니다만, 일단 복합체를 해석하기 위해서는 사용된 재료 자체의 이해가 선행되어야 한다고 생각합니다.

그리고, 재료열역학과 화공열역학을 구분하는게 조금 이상하네요..^^
아마 보는 관점이 차이가 있지 않나 싶습니다.
열역학의 본질적은 특성은 같을 겁니다.  다만 특정 상황에 맞게끔 풀어내는 연습을 하게 될 것인데, 그 특정 상황이 조금씩 다르지 않을까 생각하네요. ^^
만약 도구로서 열역학이 필요하시다면 적용하시고 싶은 분야와 관련있는 학과에서 이용되는 교재를 찾아보시는것이 좋을 듯 합니다.  열역학이라는 학문 자체로서 열역학을 공부하시고 싶으시다면 물리학과에서 개설되는 열물리나 통계역학등을 수강하시는것을 추천합니다. (책 자체만으로는 얻을 수 없는 성질의 지식도 존재하더라고요)