ในทางเรขาคณิต รูปหลายเหลี่ยม (อังกฤษ: polygon) ตามความหมายดั้งเดิม หมายถึงรูปร่างอย่างหนึ่งที่เป็นรูปปิดหรือรูปครบวงจรบนระนาบ ซึ่งประกอบขึ้นจากลำดับของส่วนของเส้นตรงที่มีจำนวนจำกัด ส่วนของเส้นตรงเหล่านั้นเรียกว่า ขอบ หรือ ด้าน และจุดที่ขอบสองข้างบรรจบกันเรียกว่า จุดยอด หรือ เหลี่ยม (corner) ภายในรูปหลายเหลี่ยมบางครั้งก็เรียกว่า เนื้อที่ (body) รูปหลายเหลี่ยมเป็นวัตถุในสองมิติ ซึ่งเป็นตัวอย่างหนึ่งของพอลิโทป (polytope) ที่อยู่ใน n มิติ

ด้านสองด้านที่บรรจบกันเป็นเหลี่ยม เป็นสิ่งที่จำเป็นสำหรับการเกิดมุมที่ไม่เป็นมุมตรง (180°) ถ้าไม่เช่นนั้นแล้ว ส่วนของเส้นตรงทั้งสองจะถูกพิจารณาว่าเป็นด้านเดียวกัน

ความคิดทางเรขาคณิตพื้นฐานได้ถูกดัดแปลงไปในหลากหลายทาง เพื่อที่จะทำให้เข้ากับจุดประสงค์เฉพาะ ตัวอย่างเช่นในสาขาวิชาคอมพิวเตอร์กราฟิกส์ คำว่า รูปหลายเหลี่ยม ถูกนำไปใช้และมีการเปลี่ยนแปลงความหมายไปโดยเล็กน้อย ซึ่งเกี่ยวข้องกับวิธีการบันทึกและจัดการรูปร่างภายในคอมพิวเตอร์มากขึ้น

การจัดแบ่งประเภท

แบ่งตามจำนวนด้าน

โดยหลักแล้วรูปหลายเหลี่ยมสามารถจัดแบ่งได้โดยจำนวนด้านที่มี ดูได้จากการตั้งชื่อรูปหลายเหลี่ยมด้านล่าง

ภาวะนูนเว้า

รูปหลายเหลี่ยมอาจแบ่งได้ตามองศาของภาวะนูนเว้า

• รูปหลายเหลี่ยมนูน (convex) เส้นตรงที่ลากผ่านรูปหลายเหลี่ยมชนิดนี้ (โดยไม่สัมผัสกับขอบหรือจุดยอด) จะตัดผ่านเส้นรอบรูปแค่สองครั้ง
• รูปหลายเหลี่ยมไม่นูน (non-convex) เส้นตรงที่ลากผ่านรูปหลายเหลี่ยมชนิดนี้ จะผ่านเส้นรอบรูปมากกว่าสองครั้ง
• รูปหลายเหลี่ยมเชิงเดียว (simple) เส้นรอบรูปของรูปหลายเหลี่ยมชนิดนี้ จะไม่เดินทางตัดกันเอง รูปหลายเหลี่ยมนูนทุกรูปเป็นรูปหลายเหลี่ยมเชิงเดียว
• รูปหลายเหลี่ยมเว้า (concave) เป็นทั้งรูปหลายเหลี่ยมไม่นูนและเป็นรูปหลายเหลี่ยมเชิงเดียว
• รูปหลายเหลี่ยมคล้ายดาว (star-shaped) เนื้อที่ทั้งหมดสามารถมองเห็นได้จากจุดภายในจุดเดียว รูปนี้จะต้องเป็นรูปหลายเหลี่ยมเชิงเดียว อาจเป็นได้ทั้งรูปหลายเหลี่ยมนูนหรือเว้า
• รูปหลายเหลี่ยมตัดตัวเอง (self-intersecting) เส้นรอบรูปของรูปหลายเหลี่ยมชนิดนี้ จะเดินทางตัดกันเอง Branko Grünbaum เรียกรูปนี้ว่า คอปติก (coptic) [1] ถึงแม้ว่าจะไม่ค่อยมีการใช้ชื่อนี้กันอย่างกว้างขวางนัก และบางครั้งคำว่า เชิงซ้อน (complex) ก็ถูกใช้แทนความหมายที่ตรงข้ามกับ เชิงเดียว แต่ก็อาจก่อให้เกิดความสับสนกับแนวความคิดของ รูปหลายเหลี่ยมเชิงซ้อน ที่มีอยู่แล้วในระนาบฮิลเบิร์ตเชิงซ้อน ซึ่งประกอบด้วยจำนวนเชิงซ้อนสองมิติ
• รูปดาวหลายแฉก (star) เป็นรูปหลายเหลี่ยมตัดตัวเองด้วยวิธีการตัดอย่างสม่ำเสมอ

แบ่งตามความสมมาตร

• รูปหลายเหลี่ยมมุมเท่า (equiangular) มุมทั้งหมดมีขนาดเท่ากัน
• รูปหลายเหลี่ยมวงกลมล้อม (cyclic) จุดยอดทั้งหมดเรียงตัวอยู่บนรูปวงกลมรูปเดียว
• isogonal หรือ vertex-transitive จุดยอดทั้งหมดเรียงตัวอยู่ภายในทางโคจรสมมาตร รูปนี้เป็นทั้งรูปหลายเหลี่ยมวงกลมล้อมและรูปหลายเหลี่ยมมุมเท่าด้วย
• รูปหลายเหลี่ยมด้านเท่า (equilateral) ด้านทั้งหมดมีขนาดเท่ากัน (รูปหลายเหลี่ยมที่มีตั้งแต่ห้าด้านขึ้นไป สามารถเป็นรูปหลายเหลี่ยมด้านเท่าได้ โดยไม่ต้องเป็นรูปหลายเหลี่ยมนูน) [2]
• isotoxal หรือ edge-transitive ด้านทั้งหมดเรียงตัวอยู่ภายในทางโคจรสมมาตร รูปนี้เป็นรูปหลายเหลี่ยมด้านเท่าด้วย
• รูปหลายเหลี่ยมปรกติ (regular) เป็นทั้งรูปหลายเหลี่ยมวงกลมล้อมและรูปหลายเหลี่ยมด้านเท่า ส่วนรูปหลายเหลี่ยมปรกติที่ไม่นูน จะเรียกว่า รูปดาวหลายแฉกปรกติ (regular star polygon)

อื่น ๆ

• รูปหลายเหลี่ยมเชิงเส้นตรง (rectilinear) ด้านสองด้านบรรจบกันเป็นมุมฉาก นั่นคือมุมภายในทุกมุมจะมีขนาดเป็น 90° หรือไม่ก็ 270°
• รูปหลายเหลี่ยมทางเดียว (monotone) กำหนดเส้นตรง L ขึ้นมาเส้นหนึ่ง ทุกเส้นตรงที่ตั้งฉากกับ L จะตัดกับเส้นรอบรูปของรูปหลายเหลี่ยมชนิดนี้ไม่เกินสองครั้ง

พื้นที่และเซนทรอยด์

พื้นที่ของรูปหลายเหลี่ยมคือเมเชอร์ในบริเวณสองมิติที่ปิดล้อมโดยเส้นขอบของรูปหลายเหลี่ยม สำหรับรูปหลายเหลี่ยมเชิงเดียว (ที่ไม่ตัดตัวเอง) ที่มีจุดยอด n จุด พื้นที่และเซนทรอยด์ของรูปนี้สามารถหาได้จาก 

{\displaystyle A={\frac {1}{2}}\sum _{i=0}^{n-1}(x_{i}y_{i+1}-x_{i+1}y_{i})}

{\displaystyle C_{x}={\frac {1}{6A}}\sum _{i=0}^{n-1}(x_{i}+x_{i+1})(x_{i}y_{i+1}-x_{i+1}y_{i})}

 

{\displaystyle C_{y}={\frac {1}{6A}}\sum _{i=0}^{n-1}(y_{i}+y_{i+1})(x_{i}y_{i+1}-x_{i+1}y_{i})}

เพื่อที่จะทำให้รูปหลายเหลี่ยมเป็นรูปปิด จุดยอดแรกและจุดยอดสุดท้ายจะต้องเป็นจุดเดียวกัน นั่นคือ {\displaystyle x_{n},y_{n}=x_{0},y_{0}} จุดยอดจะต้องเรียงลำดับกันไปตามเข็มหรือทวนเข็มนาฬิกา ถ้าหากเรียงตามเข็มนาฬิกา พื้นที่จะเป็นจำนวนลบแต่ก็แก้ไขได้ด้วยค่าสัมบูรณ์ สูตรนี้มักจะเรียกกันว่า Surveyor's Formula

สูตรดังกล่าวได้อธิบายไว้โดยไมชเตอร์ (Meister) เมื่อ พ.ศ. 2312 และโดยเกาส์ (Guass) เมื่อ พ.ศ. 2338 ซึ่งสามารถพิสูจน์ได้โดยการแบ่งรูปหลายเหลี่ยมออกเป็นรูปสามเหลี่ยมหลาย ๆ รูป หรืออาจจะมองได้ว่าเป็นกรณีพิเศษของทฤษฎีบทของกรีน (Green's theorem)

เราสามารถคำนวณพื้นที่ A ของรูปหลายเหลี่ยมเชิงเดียว ถ้าเราทราบความยาวของด้าน {\displaystyle a_{1},a_{2},...,a_{n}} และมุมภายนอก {\displaystyle \theta _{1},\theta _{2},...,\theta _{n}} โดยใช้สูตรดังนี้ ซึ่งอธิบายไว้โดย Lopshits เมื่อ พ.ศ. 2506