SendMessage(hWnd, WM_SYSCOMMAND, SC_CLOSE, 0);
向窗口发送WM_CLOSE消息应该是可以的，如果不行可能是因为窗口停止响应，可用如下方法：
...
DWORD dwThreadId,dwProcessId;
HANDLE hProcess;
dwThreadId = GetWindowThreadProcessId(hWnd,&dwProcessId);
hProcess = OpenProcess(PROCESS_TERMINATE,FALSE,dwProcessId);
if(hProcess==NULL) return FALSE;
// so bad !
TerminateProcess(hProcess);
...
不过，这不是一个好方法，以为这样终止一个进程，有时会产生意想不到的后果。