흠... 대학원에서 토목 전공하고 해안-해양 수치해석 하는넘임다... 저두 아직 초보죠...^^;;
그래두 행여 도움이 되지 않을까 싶어서... 아 그리구 그 말은 정말 공감이...
"실험하는 넘은~~"

일단 기계 쪽에서 하는거만큼 복잡하게 하지는 않는단 말씀부터 드릴께요..^^;;
원체는 토목에서 쓰든 기계에서 쓰든 심지어 기상에서 하든 유체를 해석하는 식은 하나죠...
질량보존식과 모멘텀 보존식 (어라 두개네...--;;)
다만 갈리는것은 얼마나 어떤 목적을 가지고 어떤 가정을 추가하느냐인데...
아시다시피 토목은 스케일이 크니까 대부분은 생략하고 지배적인 현상에 집중하다보니까 식이 간략하게 됩니다. 그렇다고는 해도 유체가 다른 분야에 비해서는 훨씬 어려운건 사실입니다만...
이렇게 가정을 넣고 생략할꺼 생략하고 하는 과정중에 수치 모델이 가지는 한계가 생기기 마련인데 질문하신 분의 문제는 꼭 짚을수는 없지만 요런 부분들이 걸린거가 아닌가 싶습니다. flow 3D라는게 CFD의 일종인거 같은데 복잡한 모형이다 보니 모델이 가지는 어떤 한계 부분에 근접하게 님이 설정하고 그거 때문에 민감하게 반응하는것 같습니다.
이럴때 순전히 제 경험입니다만... 개략적으로 말씀드리면... ^^;;
1) 시공간상의 스케일 문제라면 단순히 시간 및 공간 간격을 줄여줌으로써 정확도를 올려줄 수 있습니다 특이한 경우가 아니라면 줄일수록 이론해에 접근합니다. 다만 계산시간은 감수해야겠지요...
2) 그런게 아니라 지형 또는 공간 형태 상의 취약점이라면 그 부분을 분리해서 특화된 모형으로 따로 해석하거나 아니면 일정 정도의 에러를 최소화할 수 있는 방향으로 단순화 시켜야 할겁니다. 이런 경우는 선행 사례가 있나 알아보는게 좋습니다.
만약 쓰시는 flow3D가 상업 프로그램이라면 구입한 회사에 이런 문제를 알려주시고 상담해보는게 좋을꺼고요. 공개된 프로그램이라면 뉴스그룹 등을 뒤져보시는게 도움이 될겁니다. 자신만의 문제라고 생각들 하지만 의외로 같은 고민을 하는 사람덜이 많더군요..^^
그리고 수치 모형의 결과값이 민감하게 반응한다고 윤리적인 갈등을 겪으신다면 그냥 자수하여 광명 찾는게 어떨까 싶습니다. 민감하게 반응한다는 것은 사실 수치모형의 문제라기보다는 물리적으로 아주 민감한 문제일 경우가 많으며 수치모형이 해결할 수 있는 문제지만 현재는 검정 및 보정(verification and tuning)이 안된 상태라는걸 뜻하거든요. (수치모형 입장에서는 돈과 시간을 좀 더 투자해봐라구 말하는거죠...^^) 울 나라 현실에서는 요런 현상을 "에이 하나두 안 맞네"라고 합니다만...--;;  이걸 설득시키는게 워낙에 산넘고 산이라 구렁이 담타듯이 넘어가는게 많습니다. 하지만 뒤따라 오는 후배들 똑같은 고생 안시킬려면 짚고 넘어가고 "재주있음 너가 함 해봐 메롱~"해주는게 옳지 않나 싶습니다. ^^;