月牙泉早在汉代就是游览胜地。唐代有船舸，泉边庙宇。泉南岸原有一组古朴雅肃、错落有致的建筑群，从东向西计有娘娘殿、龙王宫、菩萨殿、药王洞、雷神台等百余间。
月牙泉内生长有眼子草和轮藻植物，南岸有茂密的芦苇，四周被流沙环抱，虽遇强风而泉不为沙所掩盖。因“泉映月而无尘”、“亘古沙不填泉，泉不涸竭”而成为奇观。
月牙泉的周围是高高的沙山，中间有一个形似月牙的小湖。鸣沙山在晴天或有人从山上滑下时会发出声响，所以叫鸣沙山，这里还有一个奇特的现象，因为地势的关系刮风时沙子不往山下走，而是从山下往山上流动，所以月牙泉永远不会被沙子埋没，被称为沙漠奇观。
