จังหวัดยะลามีเนื้อที่ประมาณ 4,512 ตารางกิโลเมตร เป็นจังหวัดเดียวในภาคใต้ที่ไม่มีพื้นที่ติดต่อกับทะเล พื้นที่ส่วนใหญ่เป็นภูเขาที่ปกคลุมด้วยผืนป่าอุดมสมบูรณ์
พื้นที่ราบมีน้อย และถูกใช้ประโยชน์ในด้านการเป็นพื้นที่ตั้งชุมชนและพื้นที่เกษตรกรรม ด้วยความที่มีป่าเขาอุดมสมบูรณ์ จึงมีฝนตกชุกมากถึงปีละประมาณ 9 เดือน
ส่งผลดีต่อการเพาะปลูกเป็นอย่างยิ่งความเป็นมาของยะลาเริ่มต้นและเติบโตมาเคียงคู่เมืองปัตตานี โดยเป็นส่วนหนึ่งของปัตตานี ซึ่งเชื่อกันว่าเกี่ยวข้องกับอาณา
จักรลังกาสุกะ ที่ถือว่าเป็นอาณาจักรเก่าแก่ที่สุดบนแหลมมลายูยะลาเป็นส่วนหนึ่งของปัตตานี ซึ่งเคยเป็นเมืองขึ้นของกรุงสุโขทัย จนล่วงเลยมาถึง พ.ศ. 2310 หลังจาก
ที่กรุงศรีอยุธยาเสียเมืองให้พม่ายะลาก็ยังคงอยู่ในความปกครองของปัตตานี กระทั่งพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกทรงพระกรุณาโปรดเกล้าฯ ให้แยกหัว
เมืองปัตตานีเป็น 7 หัวเมือง ใน พ.ศ. 2351 ยะลาจึงแยกออกจากปัตตานีนับแต่นั้น และได้รับการยกฐานะเป็นจังหวัดเมื่อ พ.ศ. 2476 หลังจากมีประกาศยุบเลิก
มณฑลจังหวัดยะลาแบ่งเขตการปกครองออกเป็น 8 อำเภอ ได้แก่ อำเภอเมืองยะลา อำเภอเบตง อำเภอบันนังสตา อำเภอยะหา อำเภอรามัน อำเภอธารโต อำเภอกาบัง และอำเภอกรงปินัง