วนอุทยานแพะเมืองผี เป็นพื้นที่เนินเขาซึ่งสูงกว่าส่วนอื่น เกิดจากการพังทลายโดยการกัดเซาะตามธรรมชาติ โดยกระแสน้ำเป็นเวลานาน ทำให้พื้นที่บางส่วนเป็นที่สูงต่ำสลับกันไป หน้าผาและเสาดินมีรูปทรงแตกต่างกัน ก่อให้เกิดความสวยงามมากยิ่งขึ้นสถานที่ตั้งของแพtเมืองผีมีลำธารสายเล็กๆ ไหลผ่าน ในสมัยโบราณเป็นที่ศักดิ์สิทธิ์ ชาวบ้านตำบลทุ่งโฮ้ง และใกล้เคียงให้ความนับถือมาก เพราะมีประวัติความเป็นมาที่ลึกลับโดยคนโบราณเล่าสืบต่อกันมาว่า มียายแก่เข้าไปเที่ยวในป่าหาผักหน่อไม้มาเป็นอาหาร ได้หลงไปในที่แห่งนี้แล้วพบหลุมเงินหลุมทองจึงเอาเงินเอาทองใส่หาบจนเต็มแล้วยกใส่บ่าเพื่อจะหาบกลับบ้านแต่ก็หลงไปหลงมาในป่าแห่งนั้น เพราะเทวดาเจ้าถิ่นนั้นไม่ให้เอาไป เพียงแต่เอามาอวดให้เห็น ยายผู้นั้นจึงหาหนทางเอาหาบนั้นกลับบ้านไม่ได้ จึงได้วางหาบนั้นไว้แล้วจัดแจงตัดไม้มาคาดทำเป็นราว แต่ก็ยังไม่สามารถนำหาบเงินหาบทองนั้นออกมาได้สักที ยิ่งยกเท้าไปข้างหน้าก็ยิ่งเหมือนยกถอยหลังไปอีกเหมือนหนึ่งว่ามีคนดึงหาบนั้นไว้ ยายแก่จึงวางหาบไว้ที่นั่นแล้วรีบไปบอกชาวบ้านให้มาดูหาบเงินหาบทองนั้น พอชาวบ้านหลั่งไหลไปเป็นจำนวนมาก ครั้นเมื่อไปถึงเงินทองนั้นกลับหายไปตามป่านั้น เมื่อพบรอยเท้าจึงสะกดจามรอยเท้าไปจนถึงเสาเมโร และไม่มีรอยปรากฏไปทางอื่นเลย ยายแก่กับชาวบ้านจึงได้ตั้งชื่อสถานที่นี้ว่า “แพะเมืองผี”
 

ลักษณะภูมิประเทศ
วนอุทยานแพะเมืองผีมีสภาพเป็นป่าบนที่ราบลอนคลื่นบริเวณรอบนอกมีความลาดเทของพื้นที่น้อย สูงจากระดับน้ำทะเลปานกลางประมาณ 200-210 เมตร