1944年他参加南非非洲人国民大会(简称非国大)。1948年当选为非国大青年联盟全国书记，1950年任非国大青年联盟全国主席。
1952年先后任非国大执委、德兰士瓦省主席、全国副主席。同年年底，他成功地组织并领导了“蔑视不公正法令运动”，赢得了全体黑人的尊敬。为此，南非当局曾两次发出不准他参加公众集会的禁令。
1961年6月曼德拉创建非国大军事组织“民族之矛”，任总司令。1962年8月，曼德拉被捕入狱，当时他年仅43岁，南非政府以政治煽动和非法越境罪判处他5年监禁。
1964年6月，他又被指控犯有以阴谋颠覆罪而改判为无期徒刑，从此开始了漫长的铁窗生涯，在狱中长达27个春秋，他备受迫害和折磨，但始终坚贞不屈。
1990年2月11日，南非当局在国内外舆论压力下，被迫宣布无条件释放曼德拉。同年3月，他被非国大全国执委任命为副主席、代行主席职务，1991年7月当选为主席。
1994年4月，非国大在南非首次不分种族的大选中获胜。同年5月，曼德拉成为南非第一位黑人总统。1997年12月，曼德拉辞去非国大主席一职，并表示不再参加1999年6月的总统竞选。
1999年6月正式去职。
主要著作有：《走向自由之路不会平坦》、《斗争就是生活》、《争取世界自由宣言》、自传《自由路漫漫》。
1991年联合国教科文组织授予曼德拉“乌弗埃-博瓦尼争取和平奖”。
1993年10月，诺贝尔和平委员会授予他诺贝尔和平奖，以表彰他为废除南非种族歧视政策所作出的贡献。同年他还与当时的南非总统德克勒克一起被授予美国费城自由勋章。1998年9月曼德拉访美，获美国“国会金奖”，成为第一个获得美国这一最高奖项的非洲人。
2000年8月被南部非洲发展共同体授予“卡马”勋章，以表彰他在领导南非人民争取自由的长期斗争中，在实现新旧南非的和平过渡阶段，以及担任南共体主席期间做出的杰出贡献。
1992年曼德拉与温妮分居，1996年3月19日，法院判定曼德拉与温妮离婚。现任妻子格拉萨·马谢尔(Graca Machel)是莫桑比克前总统萨莫拉的遗孀，1998年7月18日与曼德拉结婚。
1992年10月首次访华，5日被北京大学授予名誉法学博士学位。1999年5月，曼德拉总统应邀访华，他是首位访华的南非国家元首。
