马耀南出生于山东省长山县（今邹平）的一个农民兼手工业的家庭。父亲为私塾教师，母亲也知书达理。他自幼就受到家庭中关于忠孝节义的传统教育。少年时代，目睹德国入侵山东，占领青岛，在山东土地上筑路开矿，为所欲为。
第一次世界大战结束，中国当局屈从帝国主义摆布，同意日本取代德国在山东的权利，年仅17岁的马耀南义愤填膺。他在日记中写下了“我们要把帝国主义赶出去，我们要做真正的中国人”的豪情壮志。他进入山东省立济南第一中学后，积极参加爱国反帝活动。他同进步同学组织了“反日会”和反对日本侵略的游行，并组织同学到商埠宣传抵制日货和查封日货。在省立一中期间，他还参加了山东早期的共产党人邓恩铭、王荩美组织的“马克思学说研究会”活动，接受到一些共产主义的启蒙教育。马耀南后来考入天津北洋大学读机械工程专业。在大学里，他是一位思想活跃、社会活动能力强的学生。他很快成为大学学生会负责人，并成为天津市学生联合会的负责人之一。
1930年出席国民党的三大期间，目睹亲历了国民党内贿赂拉票的腐败行径。他当机立断，宣布退出国民党。他回到天津，积极参加倒蒋活动。蒋介石便宣布马耀南“亲共反蒋”并通令缉捕。马耀南为逃避通缉，先是跑到河北永清县中学教书，嗣后，又被聘到南通大学任教。1933年，他受家乡长山县各界联名邀请，回到故乡出任长山中学校长。他立志为国家培育有用人才，走教育救国之路。在他出任长山中学校长后，提出了一系列新的办学方针。他把挂了多少年的那块“学校重地、闲人免进”的牌子摘掉，一方面欢迎民众到学校参观，另方面还带领学生走出校门，或扫街或修路，加强同民众的联系。
1937年卢沟桥事变不久，北平和天津相继失守，日寇从南北两方进攻。马耀南决心投笔从戎，抗日救国。他在当年8月15日的日记中写道：“上海炮火异常凶猛，全国已入血战状态。自顾尚在此安逸消闲，能不愧死！自即日起，当特别振奋，求有所报命国家，获取较大代价之牺牲，方不愧生世间。”
同年底，中共山东省委派遣地下党员姚仲明、红军干部廖容标和地下党员赵明新三人先后到长山中学，并建立起以姚仲明为组长的党小组。
姚仲明、廖容标和赵明新到达长山，马耀南安排他们三人为长山中学的教员。马耀南对姚仲明他们三人表示：“你们就放手干吧，国民党县党部和县政府来找麻烦由我顶着。”
1937年12月24日，日军飞机轰炸了长山城，炸弹落在了长山中学和县政府附近。
长山中学的党组织召开紧急会议，决定把师生拉到长山九区的卫固一带进行抗日，并打出山东人民抗日救国军第五军的番号。会议还决定由马耀南任司令，廖容标任副司令，姚仲明任政委。
次日，他们分头行动。姚、廖带领师生去卫固，马耀南赴二区和八区联络人员和筹备粮款。姚仲明和廖容标带着百人师生到达卫固黑铁山下的太平庄住了下来。第二天在村小学集合全体师生，姚仲明宣读了《告同胞书》，宣布建立中国人民抗日救国军第五军。
五军的旗号打出之后，就像一块巨大磁石，吸引着四面八方抗日救国的有志之士。他们纷纷向黑铁山聚集。原长山县政府所属的武装大队，与南逃的县政府失去联系，为求生存，也投奔了黑铁山。马耀南和姚仲明从团结各界人士联合抗战出发，当即表示欢迎。这样一来，五军编了三个中队，队伍近400人，有枪200余支。
刚过了1938年元旦，日军占领了长山城。为鼓舞军民斗志，打击日军的嚣张气焰，在马、姚的策划下，由廖容标率30名队员，化装成农民，夜袭长山城，且一举成功。守城的33名伪军被一网打尽，收缴步枪17支和一些弹药。此后不久，五军又在小清河上的陶唐口伏击了日军的一艘军船。日军地区司令松井山林中将为首的12名日军全部被击毙。两次胜利，鼓舞了五军士气和群众的抗日热情，同时也震动了山东的日寇。
至1938年4月，五军队伍扩大到5000人之众。经过统一编制，组建成七个支队，下辖30个中队。其中第一支队司令员马天民是马耀南的三弟，第七支队司令员马晓云是马耀南的二弟。因而，在抗日战争中鲁北地区人民皆称之为“一马三司令”，并广为流传着称颂马家三兄弟的歌谣：“一马三司令，得了抗日病。齐心打日本，保卫老百姓。”
1938年5月，五军攻克了邹平城。在马耀南主持下，邹平第一次选举了县长。
1938年6月16日在邹平城举行了五军整编大会。山东抗日救国军第五军正式整编为八路军第三支队，司令员马耀南，政治委员霍士廉，副司令员杨国夫。下辖三个团一个营。
马耀南身为司令，始终坚持平易近人与士兵同甘共苦。他待士兵一贯像兄长待兄弟，老师对学生一样关心爱护。原来长山中学的学生兵，仍然亲切地喊他马校长。部队到了缺水的山区，找到一点水，都要分着饮，马司令从不例外。有的山区群众吃的是“湾水”，也就是村边池塘里流聚的雨水。部队到那里，都要同群众一样吃“湾水”。有的战士不习惯，马司令就带头喝。马司令口腔生疮，吃煎饼难咬。司务长为他炒个鸡蛋，受到严厉的批评。最后，只好把鸡蛋给别的病号吃。
马司令善于对每次战斗进行总结，从中找出成功和失败的经验与教训。因而他由一介书生迅速锻炼成为一位机智勇敢、多谋善断、指挥得当的军事指挥员。在他经历和指挥的几十次大小战斗中，绝大多数他都是胜利者。
1938年10月，由边区省委书记郭洪涛和特委书记霍士廉介绍，马耀南加入了中国共产党。
1939年6月初，日军纠结5000余人，配有各种炮10余门，汽车20余辆，突然包围了驻守在邹平县刘家井一带的三支队。敌人大兵压境，三支队处境十分险恶。在马耀南司令和杨国夫副司令的指挥下，我军上下同仇敌忾，顽强反击日军，并多次同日寇进行英勇悲壮的肉搏战。最后，毙伤日军井口司令以下日伪军共800余人，随之撤出战斗。当年7月21日，部队转移到桓台县牛旺庄，又遭日寇三面包围。我军经一昼夜英勇战斗，决定向东转移。并决定马司令先撤，杨副司令掩护、断后。22日当马司令一行骑马撤到紧靠牛旺庄东侧的大寨村时，突遭日军伏兵射击。马司令身负重伤落马，爬行到一墙脚，用手枪击毙数名日军。当一日军企图用刺刀杀害马司令时，马司令用最后一颗子弹把那敌人的手臂打断，并拖倒敌人用手枪击破敌人的脑壳，自己也因流血过多而壮烈殉国。年仅37岁。
为纪念马耀南的功绩，1946年，中共渤海区党委将长山县更名为耀南县。