อยู่ในพื้นที่ครอบคลุม ตำบลนาบัว ตำบลสวาย อำเภอเมือง ตำบลประทัดบุ ตำบลไพล อำเภอปราสาท ในเขตป่าสงวนแห่งชาติป่าเขาสวาย กรมป่าไม้ได้ประกาศจัดตั้งเป็นวนอุทยาน เมื่อวันที่ 22 มิถุนายน 2527 มีเนื้อที่ประมาณ 2,160 ไร่ เขาพนมสวาย เป็นภูเขาที่โผล่ขึ้นมาโดดๆ บนที่ราบทำนาของจังหวัดสุรินทร์ ลักษณะภูมิประเทศเป็นเนินเขามีทิวทัศน์สวยงาม
พนมสวายเป็นภูเขาไฟที่ดับสนิทแล้ว จึงมีลานหินกระจายทั่วไป รวมถึงมีต้นกล้วยไม้ป่าเป็นจำนวนมาก ถือว่าได้ว่าเป็นวนอุทยานเฉลิมพระเกียรติแห่งหนึ่งในประเทศไทย “พนมสวาย” เป็นคำภาษาพื้นที่เมืองสุรินทร์ พนม แปลว่า ภูเขา และ สวาย แปลว่า มะม่วง เป็นภูเขาขนาดเล็ก 3 ลูก อยู่ติดกัน ซึ่งมีชื่อพื้นเมืองเรียกแตกต่างกันไป ได้แก่ พนมกรอล แปลว่า เขาคอก มีความสูงประมาณ 150 เมตร พนมเปร๊าะ แปลว่า เขาชาย มีความสูงประมาณ 220 เมตร และ พนมสรัย แปลว่า เขาหญิง มีความสูงประมาณ 210 เมตร
วนอุทยานพนมสวาย เป็นสถานที่ตั้งสิ่งศักดิ์สิทธิ์ของชาวสุรินทร์ มีความสำคัญมาแต่ครั้งโบราณโดยจะมีการจัดประเพณีขึ้นเขาสวาย เคาะระฆัง 1,180 ใบ กราบไหว้สิ่งศักดิ์สิทธิ์ ในเดือน 5 ของทุกปี บรรพบุรุษชาวสุรินทร์ถือว่าเป็นงานประเพณีหยุดงาน โดยแบ่งเป็น 2 ช่วง คือ ช่วงที่ 1 เรียกว่า ตอมตู๊จ หมายถึง วันหยุดงานเล็ก จะหยุดทำงานเพียง 3 วัน ส่วนช่วงที่ 2 เรียกว่า ตอมธม หมายถึง วันหยุดงานใหญ่ หยุดทำงานทั้งหมด 7 วัน และเมื่อถึงวันขึ้น 1 ค่ำ เดือน 5 ของทุกปี ชาวสุรินทร์จะร่วมมือร่วมใจจัดงานบุญประเพณีขึ้นเขาสวาย ถือว่าเป็นวันขึ้นปีใหม่ทางจันทรคติ ชาวสุรินทร์จะหยุดงาน และเดินทางขึ้นเขาสวาย เพื่อกราบไหว้สิ่งศักดิ์สิทธิ์เสริมสิริมงคลชีวิตต่อตนเองและครอบครัว สิ่งศักดิ์สิทธิ์บนเขาสวาย ประกอบด้วย องค์พระใหญ่หรือพระพุทธสุรินทรมงคล(ปางประทานพร) พระสมณโคดม(พระพุทธรูปองค์ดำ) รอยพระพุทธบาทจำลอง สถูปบรรจุอัฐิหลวงปู่ดูลย์ อตุโล (พระราชวุฒาจารย์) พระเถระสายวิปัสสนากรรมฐาน มณฑปหลวงปู่สวน(พระครูพนมศิลคุณ) ปราสาทหินพนมสวาย ศาลเจ้าแม่กวนอิม เต่าหินศักดิ์สิทธิ์ สระน้ำศักดิ์สิทธิ์ และเจดีย์บรรจุอัฐิเจ้าเมืองสุรินทร์ องค์ที่ 8 ซึ่งการเคาะระฆัง 1,180 ใบ เป็นการเสริมสิริมงคล โดยเชื่อกันว่าจะมีชื่อเสียงโด่งดังไปไกล เหมือนเสียงระฆังที่ก้องกังวาน