มะเกลือเป็นไม้ต้นขนาดกลาง สูง 8-15 เมตร เรือนยอดเป็นพุ่มกลม กิ่งอ่อนมีขนนุ่มทั่วไป เปลือกนอกสีดำ แตกเป็นสะเก็ดเล็กๆ ตามยาว 

ใบเป็นใบเดี่ยว เรียงสลับ รูปไข่หรือแกมขอบขนาน กว้าง 1.5-4 ซม. ยาว 4-8 ซม. โคนใบมนหรือกลม ส่วนปลายใบสอบ ใบแก่เกลี้ยง ก้านใบยาว 5-10 มม. เมื่อแห้งเป็นสีดำ 

ดอกต่างเพศอยู่ต่างต้น ดอกเพศผู้ออกเป็นช่อสั้นๆ ตามง่ามใบ ช่อหนึ่งๆ มีประมาณ 3 ดอก ดอกย่อย กลีบรองดอกโคนเชื่อมติดกัน ปลายแยกเป็น 4 แฉก กลีบดอกยาว 6-8 ซม. โคนเชื่อมติดกันเป็นรูปเหยือกน้ำ ปลายแยกเป็น 4 แฉก เกสรผู้ 14-24 อัน ดอกเพศเมีย ออกเป็นดอกเดี่ยวๆ ก้านดอกยาว 1-3 มม. มีขนนุ่มปกคลุม เกสรผู้เทียม 8-10 อัน

ผลกลม เกลี้ยง ขนาดผ่าศูนย์กลางประมาณ 2 ซม. มีกลีบรองดอกติดอยู่ที่ขั้วผล 4 กลีบ ผลแก่จัดสีดำ เมื่อแห้งเปลือกเปราะ