본관 의령(宜寧). 시호 충무(忠武). 태종의 외손자(外孫子)로서 어머니가 태종의 네째 딸 정선(貞善) 공주이다. 1457년(세조3) 약관의 나이로 무과(武科)에 장원급제하였고 1466년 발영시(拔英試)에도 급제하였다. 1467년(세조13)에는 경기도 포천, 영평 일대의 도적떼를 토벌하였다. 또한 이시애(李施愛)가 북관(北關)에서 난을 일으키자 우대장(右大將)으로 이를 평정하였고 그 공로로 적개공신(敵愾功臣) 1등에 오르고, 의산군(宜山君)에 봉해졌다. 이어서 서북변(西北邊)의 건주위(建州衛) 야인을 토벌하고, 강순·어유소 등과 함께 이만주(李滿住)를 처치하였다. 무관으로서의 여러 공로로 세조의 총애를 받게 되었고, 이등군공(軍功)을 받아 공조판서에 올랐다. 1468년에는 28세의 나이로 병조판서에 올랐다.
예종이 즉위한 해인 1468년에 신숙주(申叔舟) 한명회(韓明澮) 등의 세력에 의하여 이시애 난 때 등장한 신진 세력을 제거하면서 남이도 겸사복장(兼司僕將)으로 강등당하였다. 그 후 유자광(柳子光)이 남이가 역모를 꾀한다고 예종에게 고하여 정승 강순(康純)과 함께 거열형(車裂刑)에 처해졌고 그 외 많은 사람이 처형당하였다(남이의 獄).
남이가 여진토벌(女眞討伐)을 할 때 읊은 시 "백두산석마도진(白頭山石磨刀盡) 두만강수음마무(豆滿江水飮馬無) 남아이십미평국(男兒二十未平國) 후세수칭대장부(後世誰稱大丈夫)"가 전해지고 있다.