วัดถ้ำกลองเพล เป็นวัดป่าที่มีชื่อเสียงของจังหวัดตั้งอยู่เชิงเขาภูพาน ห่างจากตัวเมืองตามทางหลวงหมายเลข 210 ไป 13 กิโลเมตร จากนั้นแยกขวาเข้าไป อีกประมาณ 2 กิโลเมตร เดิมสันนิษฐานว่าเป็นวัดเก่าแก่ที่สร้างขึ้นในสมัยขอมเข้ามาครอบครอบดินแดนแห่งนี้ แต่ไม่มีหลักฐษนว่าสร้างมา ตั้งแต่ พ.ศ. ใด ต่อมาเป็นวัดร้าง ไม่มีพระภิกษุสามเณรจำพรรษาจนกระทั่งเมื่อ พ.ศ. 2501 พระอาจารย์หลวงปู่ขาวอนาลโย พระวิปัสสนา กรรมฐานสายพระอาจารย์มั่น ภูริทัตตะเถระ ได้อาศัยวัดแห่งนี้ เป็นสถานที่วิปัสสนากรรมฐาน โดยใช้พื้นที่ที่เกิดจากหมู่ก้อนหินขนาดใหญ่ 3-4 ก้อน ที่มีหลืบและชะโงกหิน ก่อเป็ฯหลังคาคอนกรีต เชื่อมถึงกัน ทำให้พื้นที่บริเวณนั้นกลายเป็นห้องโถงขนาดใหญ่ สามารถจุคนได้ หลายร้อยคน เพื่อใช้เป็นที่บำเพ็ญสมณธรรมอยู่ที่นั่นจนกระทั่งมรณภาพเมื่อปี พ.ศ. 2526 นอกจากนั้นมีถ้ำซึ่งภายใน มีกลองโบราณ สองหน้าหรือที่ชาวบ้านเรียกว่า "กลองเพล" ภายในถ้ำมีรูปปั้นของหลวงปู่ขาว ตามซอกหินภายในถ้ำมีพระพุทธรูปขนาดใหญ่ ประดิษฐาน อยู่หลายองค์ ประกอบด้วยพระพุทธรูปปางสมาธิ พระพุทธรูปไสยาสน์ พระพุทธปัญฑรนิมิตร ซึ่งเป็น พระพุทธรูปปางลีลาที่จำหลักลงใน ก้อนหิน และมีพระสังกัจจายน์องค์ใหญ่ ประดิษฐานอยู่บริเวณด้านหน้าทางเข้าถ้ำกลองเพล จากวัดถ้ำกลองเพลไม่ไกลนัก มีถนนราดยาง ลัดเลาะไปตามแนวป่า และมีหมู่ก้อนหินรูปทรงแปลก ๆ เป็นระยะทาง 2 กิโลเมตร ก็จะถึงอนุสรณ์ของหลวงปู่ขาว