ลำต้นยอเป็นไม้ยืนต้นขนาดเล็ก มีความสูงประมาณ 2-6 เมตร ลำต้นมีขนาดเล็ก ขนาดโตเต็มที่ 5-10 เซนติเมตร ขึ้นกับอายุ และความอุดมสมบูรณ์ของดิน เปลือกลำต้นบางติดกับเนื้อไม้ ผิวเปลือกออกสีเหลืองนวลแกมขาว หยาบสากเล็กน้อย แตกกิ่งน้อย 3-5 กิ่ง ทำให้แลดูไม่เป็นทรงพุ่ม

           ใบใบเป็นใบเดี่ยว (simple leaf) แทงออกตรงข้ามกันซ้ายขวา มีรูปทรงรี หรือขอบขนาน ใบกว้างประมาณ 10-20 ซม. ยาวประมาณ 15-30 ซม. ใบอ่อนสีเขียวสด เมื่ออายุใบมากจะมีสีเขียวเข้ม ก้านใบยาวประมาณ 1 ซม. โคนใบ และปลายใบมีลักษณะแหลม ขอบใบ และผิวใบเป็นคลื่น ผิวใบมันเกลี้ยงทั้งสองด้าน ด้านบนใบมักพบเป็นตุ่มที่เกิดจากแบคทีเรีย

           ดอก  ดอกออกเป็นช่อกลมเดี่ยว ๆ สีขาว รูปทรงเหมือนหลอด ดอกแทงออกตามง่ามใบ ก้านช่อดอกยาวประมาณ 3-4 ซม. ไม่มีก้านดอกย่อย จัดเป็นดอกสมบูรณ์เพศที่มีทั้งเกสรตัวผู้ และเกสรตัวเมีย กลีบรองดอก และโคนกลีบดอกเชื่อมติดกัน กลีบดอกมีสีขาว เป็นรูปท่อ ยาวประมาณ 8-12 มม. ผิวดอกด้านนอกเรียบ ด้านในมีขน ดอกส่วนครึ่งปลายบนแยกเป็น 4-5 แฉก ยาวประมาณ 4-5 มม. เกสรตัวผู้ และเกสรตัวเมีย ยาวประมาณ 15 มม. แยกเป็น 2 แฉก อับเรณูยาวประมาณ 3 มม.

           ผล  ผลเป็นชนิดผลรวม (multiple fruit) เช่นเดียวกับน้อยหน่า และขนุน เชื่อมติดกันเป็นผลใหญ่ดังที่เราเรียกผลหรือหมาก ขนาดผลกว้างประมาณ 3-5 ซม. ยาว 3-10 ซม. ผิวเรียบเป็นตุ่มพอง ผลอ่อนจะมีสีเขียวสด เมื่อแก่จะมีสีเหลืองอมเขียว และเมื่อสุกจะมีสีเหลือง และเปลี่ยนเป็นสีขาวจนเน่าตามอายุผล เมล็ดในผลมีจำนวนมาก เมล็ดมีลักษณะแบน ด้านในเมล็ดเป็นถุงอากาศทำให้ลอยน้ำได้ ผิวเมล็ดมีสีนํ้าตาลเข้ม