应该没有问题的：劳动合同法第42条规定，女职工孕期、产期、哺乳期的，不得按第40条和第41条规定解除合同。但没有说不能按第36条和第39条规定解除。所以根据《劳动合同法》第三十九条（一）项规定，怀孕女工试用期被证明不符合录用条件的，用人单位可以解除合同。因此解除合同，结清工资即可。