不想意外发生了，马援还没到边郡，马况就去世了。兄弟情深，马援回到家中，为兄长服丧一年，这一年时间，马援不离墓所。

服丧期满后，正好郡督邮这个职位有空缺，马援便当了督邮，督邮的职责除了督送文书外，有时也要督送犯人。有一回，马援督送一名囚犯到司命府，这名囚犯不知犯了什么重罪，反正马援对这名囚犯起了同情心，索性半路把这名囚犯给放跑了。这样一来，马援也不敢回到衙门了，只身逃到北地。

幸好王莽这个人好大喜功，时不时搞全国大赦，马援私自放走重囚的罪也被赦免了。马援留在北地，开始他的放牧生涯。马援是个放牧能手，没多长时间，他的牛、马、羊就数量就多起来，他为人慷慨好施，所以许多江湖人士就前去投靠他，成为他的门客，人数多达数百人。这人手一多，使马援的产业越来越大，他率门客们在陇汉一带游牧，开荒种地，几年下来，积累了一笔庞大的家产，牲畜数千头，积粮数万斛，粮食价格在宣帝时最低时，边郡每斛是八钱，在成帝时，最高达每斛四百钱，如果以每斛二十钱计，那么马援应该是一位百万富翁了。

但是马援并不满足于当一名大农场主，他有经济天下的宏伟抱负，他对门客们说：“丈夫为志，穷当益坚，老当益壮！”眼看着财富一天天地增多，他感慨道：“凡是殖货财产，贵在能施舍赈济他人，否则只不过一守财奴罢了。”于是散尽千金，将全部家产，馈赠给落魄的亲朋旧友，自己则只穿羊裘皮裤（这在当时是最粗陋的服装，蛮族人穿的，非现在加工过的名贵皮衣皮裤也）。

到了王莽统治的末期，兵灾四起，王莽也不得不招募天下豪杰，马援名声在外，被举荐为新成大尹（太守），这段时间马援做了些什么事，仍然史料乏载。不久后，王莽败亡，马援逃到凉州避难。这一年（23年），马援三十七岁。

此时隗嚣在天水起兵，自称西州上将军，马援听说隗嚣这个人礼贤下士，便前去投奔隗嚣，此时的马援逐渐崭露其军政方面的才华，得到隗嚣的器重，提拔为绥德将军，参予军政事务的决策。

公元25年，公孙述与刘秀先后称帝，隗嚣想去探个虚实，于是公元28年，马援作为隗嚣的代表，拜访公孙述与刘秀。公孙述与马援是小时侯一起玩大的朋友，但是自称帝之后，便在老朋友面前大摆威风，炫耀自己，马援认为现在天下未定，鹿死谁手还未知，公孙述不能礼贤下士，不过是井底之蛙罢了，非英雄豪杰也。

之后，马援又拜访刘秀，刘秀以布包头，下殿相迎，完全没有皇帝的架子。马援说：“当今之世，非独君择臣也，臣亦择君矣。臣远道而来，陛下这些疏以防范，万一我是刺客怎么办？”刘秀笑道：“你不是刺客，你是说客！”马援叹服道：“天下反复，盗用帝王称号者不可胜数。今见陛下，恢廓大度，如同汉高祖，果然是真天子啊。”

这次马援与刘秀历史性的会面，明君遇到名将，真果如马援所说：“非独君择臣，臣亦择君。”马援敢于在光武帝面前说得这样坦率，也使刘秀佩服他的胆量与见识。

马援返回西州后，在隗嚣面前极力赞誉光武帝，隗嚣因为派遣长子入质，马援也随行到达洛阳。然而隗嚣并非诚心归附光武帝，首鼠两端，马援多次写信规劝，不料隗嚣却认为马援胳膊肘往外拐，背叛自己。

建武六年（30年），隗嚣发兵反汉。马援上书光武帝，以表心迹，光武帝知人善任，对马援不仅不怀疑，而且派五千骑车给马援，让马援奔走于隗嚣部将以及归附隗嚣的羌人之间，以分化瓦解隗嚣的势力。

建武八年（32年），光武帝刘秀亲征隗嚣，马援在此役中，创造了一项世界军事之最：他是世界战争史上第一次使用沙盘的将领。不过严格来说，马援并不是用沙盘，而是用米盘。由于西北的地形复杂，而马援则熟悉这里的山川分布，他用米堆成地形模型，将复杂的山川地形，用最简洁的方式直观地展示出来，为不熟悉地形的汉军击败隗嚣兵团打下了基础。这是马援对中国军事战争艺术的一大贡献。

击败隗嚣后，光武帝占据了西部地区，然而一个新的问题出现了。西部边郡金城，羌人很多，从王莽时代开始，天下大乱，羌人也趁机造反，不断向中国发动攻击，西部边郡如金城，基本上落入羌人之手。从光武一朝开始，东汉近两百的历史，羌乱一直是帝国的心腹大患，羌乱基本上与帝国相始终。羌族是一个松散却又坚忍的民族，民族性格剽悍如风，不亚匈奴。为什么羌乱极难平定，并非汉军的战斗力不行，而是战争的耗费极其惊人，大军所需的粮草、军备、武器都必须要长途输送。

金城郡毗邻陇西，陇西曾是隗嚣的地盘，马援对这里十分熟悉，所以要平定羌乱，非马援莫属。建武十一年（35年），马援临危受命，出任陇西太守，开始他独抵一面的辉煌军事生涯，这一年，马援四十九岁，志在千里的伏枥老骥，终于要放腿奔跑了。

马援走马上任，马上着手准备对羌人发动一次突袭，他率领三千名骑兵、步兵混成兵团，对临洮（甘肃岷县）的先零羌部落发动奇袭，先零羌人没有料到马援来得这么快，被打得措手不及，狼狈鼠窜，遗下数百具尸体，马援兵团首战告捷，俘获马、羊、牛等牲畜万余头。在隗嚣统治凉州时，有不少羌人归附隗嚣，而马援作为隗嚣的旧将，威名远扬，所以羌人听说东汉政府派遣马援前来，心中大骇，马援刚打完一场胜战，随即便有守卫要塞的羌人八千多人，集体向马援投诚。

与此同时，在陇西东南的武都郡，扬威将军马成也击败西羌的军队，平定了武都的羌乱。此时的羌乱中心转移到浩亹（甘肃碾伯县东），先零羌与其他羌部落数万人据守于此，四处抢掠。马援兵团与北上的马成兵团会师后，共同进剿浩亹。

羌人晓得马援的厉害，不敢轻敌，便将妻儿老小、粮草辎重都转移到允吾谷，企图据险与东汉兵团相抗衡。但马援是何许人啊，他的本事就是探测地形，制成沙盘（米盘），然后研究击破敌人的策略。马援寻找到一条秘密小道，大军连夜沿着小道开进，绕过羌人的正面防线，突然发动攻击。羌人见汉军从天而降，大惊失色，仓惶逃命，退守唐翼谷。

汉军穷追不舍，羌军据守唐翼谷北山，这里的地形易守难攻。马援足智多谋，深知正面强攻不易奏效，便使用疑兵之计，命令大军从正面佯攻，暗地里派遣数百名骑兵绕到羌军背后，等到天黑之后，乘夜纵火，然后又敲锣打鼓的，搞得震天响。羌军一听，哇，漫山遍野都是战鼓声，一时便乱了分寸，黑夜中也搞不清是怎么回事，还以为被马援兵团所包围，慌乱中夺路而逃。