เดิมตำบลยางใหญ่เป็นส่วนหนึ่งของ ตำบลยาง อำเภอน้ำยืน จังหวัดอุบลราชธานี ต่อมาเมื่อปี พ.ศ. 2506 ได้แยกออกมาตั้งเป็น ตำบลยางใหญ่ แบ่งเขตการปกครองเป็น 12 หมู่บ้าน กำนันตำบลยางใหญ่ คนแรกชื่อ นายชุน สิงห์หา ปัจจุบันชื่อ นายสุนทร เครือบุดดดา