马福祥还是一位热心民族教育的人。在蒙藏委员会委员长任内，他在行政院会议上，提出了“设立蒙古地方教育行政委员会”和“给以边疆教育基金”两个议案，均被通过。又协助一些热心回民教育的人士成立回民教育促进委员会。虽然这些在国民党政府统治下，不过形同具文，但马福祥的一片热诚，是不可抹煞的。而且他确实亲自动手做了一些实事，办了一些学校。在他任宁夏护军使时，于1918年在宁夏府城出资设立蒙回师范学校，附设高、初级小学各1所，共有各种房屋60余间，全系马福祥“自置自修私产”。该校设有监督、副监督各1人，校长1人，教职员工16人，年需经费4500余元，由马福祥付给。这个学校从1919年秋开始招生，到1930年先后毕业学生五届，约230多人，都到各县从事教育工作。他还设立“蒙回教育劝导所”。到各县提倡督促在回族聚居地方成立清真小学，到1920年，在宁夏道各县先后成立回民小学59所。其中：宁夏县高小2所、初小5所，宁朔县初小5所，中卫县初小2所，平罗县高小2所、初小16所，灵武县高小2所、初小4所，金积县高小1所、初小8所，镇戎县（今同心）高小3所、初小9所。在校学生1230余人。解决这些学校经费的办法是：开办费采用捐款的方式，常年经费用捐献基金、学田、税款等方面的收入。他自己率先捐白银1500两，在宁夏县纳家户（今属永宁县）建高小1所。又给各县象征性捐款60两、铜钱500多串，以示提倡，促使回族财主捐款办学。1919年冬，马福祥回临夏路过兰州，有两名小学毕业无力升学的回族学生向他诉说升学的困难，请求帮助。他遂捐出大洋1500元、募捐2500元，交兰州回民教育促进会，委托该会用此款作津贴，每年选派回族优秀学生到外省深造，该会用此款选出11名学生出省深造；后来此款被人贪污，马福祥就直接供给这些学生学费。他还在陕西、在临洮、在他的家乡临夏捐款办了几所回民学校，到抗战前夕，仅临夏韩家集中心小学就有学生243人，分校6处，学生500余人。他还办了一所云亭中学。
在马福祥出省做官之后，所到之处，也对提倡回民教育不遗余力。当时国民党政府对回民教育的落后情况置若罔闻，引起回族上层人士和广大群众的不满，马福祥曾委婉地指责国民党政府：“同在青天白日之下，岂宜任其长期闭塞，独抱向隅！”一些回族人士纷纷募捐筹款，开办回民学校，得到马福祥的支持。其中主要是：发起成立西北小学，扶植成达师范，参与扩建上海伊斯兰回文师范和敦化小学，发起创办《月华》杂志等。
发起成立西北小学。1928年秋，马福祥在北平与一些回族军政上层和知识分子创设清真中学于牛街，推马福祥为董事长。校址在“牛街旧守备署”，先招学生50名，当年9月开学。由马福祥每月供给大洋40元，其余募捐。到1931年，以校名冠以“清真”二字，不免狭隘之嫌，“倘限于教，量或未宏”，遂以马福祥、孙绳武为首，呈请国民党行政院批准改名为西北公学，并每月给补助费1200元。到抗战前夕，该校有中学部6个年级，小学部6个分校，学生共约1000人。
扶植成达师范。该校是1925年由马松亭阿訇等创办于济南，开始招收学生10人，后刘柏石任教，增招学生20名。1928年日帝制造“五卅惨案”，被迫停办。马福祥在北平闻讯，力主迁至北平，以他在东四牌楼清真寺后院房舍为校址。此后，马福祥不断在经费上予以支持。据现任中国伊斯兰教协会副主任马松亭阿訇说：“成达师范自1929年春搬到北平后，当年秋天招收第二班，学生共64名，以后隔年招生一班。到1932年马云亭（福祥）去世时，师范部共招生三班，毕业一班，小学部两班。每招一班，马云亭给开办费500元。他还拿出一笔资金给北平的古玩商作股金，所得利息为成达师范开支之用。成达师范的经费，一半是马云亭给的，一半是由中国回教促进会北平分会在各寺乡老中募捐的。1931年，马福祥从蒙藏委员会的经费中每月拨给700元，这是成达师范当时惟一的大宗收入。”因此，成达师范经费比较充足，规模逐渐扩大，课程内容也有革新。开设普通、宗教、社会、教育4个学科共24门课，培养了一大批回族知识分子。
参与扩建上海伊斯兰回文师范，该校于1929年由哈少甫、马福祥、马晋卿、沙善馀、蒋星阶等集资创办，有三层楼校舍一所，下二层为敦化小学，由沙善馀任义务校长，第三层为伊斯兰回文师范学校，由校长达浦生主持校务。马福祥去世后，该校经费日绌。达浦生于1934年赴宁夏请马鸿逵资助，受到冷落，不得不悻悻而去，达浦生当时曾对别人说：“没有马云老就没有我们伊斯兰回文师范。马云老去世时，前后资助我校数万元。现在马云老才故去两年，马少云（鸿逵）主席就一个钱也不给了。真没想到，云老的儿子竟不像云老！”抗日战争上海失陷后，学校停办，1939年达浦生把伊斯兰回文师范迁到甘肃平凉，改为“国立陇东师范学校”。敦化小学则于抗战胜利后复校。
发起创办《月华》杂志。1929年10月，马福祥认为“发行刊物，实为振兴吾教之要图”。于是由5人发起创办，公举马松亭董其事，马福祥捐资筹备。据马松亭说：“常川捐资，惟马云亭先生一人而已。先生自民国十八年10月以迄于二十一年6月，每月兑付百元无缺。”
马福祥对于回族宗教学者的伊斯兰教汉文译著也十分重视。他前后出资翻印王岱舆、刘介廉、马注、马复初等人的汉文著述30多种。此外，他还担负成达师范第一届留埃学生的一半经费。他去世后，马鸿逵尚能遵其遗嘱，从遗产中拿出5000大洋送这些学生出国。马福祥的夫人马书城也拿出3000大洋，捐献给北平新月女中。总之，马福祥在回民教育事业上，的确做出了一些成绩，这是不可否认的。有人认为，他的钱还不是人民的血汗？但这比广事搜刮而挥霍无度、敛财自肥的军阀，总要好得多。他的儿子马鸿逵和他就是个鲜明的对比。他热心教育在客观上产生的良好效果，是不可抹煞的。
四、思想探源
以上我们介绍了马福祥的一生。现在我们再回过头来进一步探讨，他何以形成这样的思想和言行？这就不能不从他从小受到的教育和影响谈起。马福祥的母亲韩氏，是汉族女子，对子女管教甚严。福祥幼年在私塾读书，其母不稍宽假，所以使他打下了较好的汉文基础，也养成了一种勤奋好学的习惯。同时，由于河州僻处边疆，民风强悍，有尚武精神。所以马福祥一面读书，一面习武，考取了武秀才、武举人。稍长，追随二兄马福禄，受其思想影响很深。马福禄为人磊落，富于正义感，没有回汉畛域和民族偏见，又由于中了武进士，对清王朝颇具忠心，因此当光绪年间河湟之变，他对起义回民击杀甚多，结怨于当地回族，为此他家的住宅曾被放火烧毁。但他对回民起事有自己的见解。据马福祥对其幕僚说：“先兄生前认为过去河州和循化，在清代三次事变中被官吏严酷剥削，以致民不堪命，才起而反抗；清朝官府，动辄以，操之过急，遂激成大乱。这也是因为汉回人民之间长期存在猜嫌，所以遇机会即行报复。但是，事变扩大的主要原因，则是愚昧无知、好乱成性的阿訇煽风点火，利用宗教幌子，首先掀起新旧教派的纠纷，积不相能；后来又为奸邪所利用，公然威胁群众造反，对汉民村庄攻占、残杀，从而引起回汉两民族相互残杀。”这其实也是马福祥完全继承下来的观点。他因此不主张利用门宦扩充教派势力，不主张党同伐异。对西宁马麒另创新教极表不满，他对礼拜不很重视，对阿訇也是一般的待遇，不像西宁那样抬高其地位，优厚供养。他有时也有一股正直作风。据说马福禄在河州办善后时，他的妻兄被人揭发有附从造反行为，他马上拿获，拒绝亲友营救，即处以死刑。因而被清朝统治者所赏识，认为有“大义灭亲”的严正作风。马福祥的爱国心，则来自青年时代的实践。庚子之后他跟马福禄，同侵略军拼杀过，马福禄及其亲族的战殁，他是目击者。据说他当时往见统帅董福祥，痛哭流涕，坚持解甲归田。经董严斥，并勉以报国复仇大义，才打消退志，继续为清室效力。民国以来，军阀混战，他处于各大军阀明争暗斗的夹缝之中，在其中立足、生存和发展，的确费了不少心机。相比之下他仅有较小的实力，决定他必须充当“和事佬”的角色，调和各方面，而且的确制止了一些行将爆发的战火，于国于民不无好处。马福祥虽是武人出身，却有很好的文化素养。他在西宁、宁夏、绥远任职期间，即延请知名文人教读，博览经、史、子、集，临摹名人法帖，为当地士民书写条幅，并签有“戎马书生”印章，以表示自己的志趣。他很看重读书人，幕府中延揽知名文人甚多，平时经常相互攀谈，无拘无束，遇有疑难大事，则虚心请教，对认为正确的意见，也肯于采纳，与专横独断的军阀作风大不相同。后来，也能诗能文，晚年还致力于著述。如在北平养病期间，整理他长青、主皖时之手札，合《观渊亭记并诗》、《龙珠山云亭记并诗》为一册，名为《青岛安庆留别手书稿》，复撰《积善堂训诫子侄诸孙书稿》。还为不少的伊斯兰宗教著作题签作序，予以刊行。1927年，他写了一篇《诫子侄书》，所诫共八条：一、守家风，“传家之道，惟耕与读，其次商贾工作”；二、勤学问，“孔子之昭弟子也，孝弟谨信爱众亲仁为要务”；三、修职业；四、崇礼法；五、尚节俭；六、存忠厚，“人人抱忠义之心，事事存厚道之想，己立立人，己达达人”；七、慎交游，“友直谅可以寡过，友多闻可以进德”；八、遵教典，吾教认主独一，尽性复命。既然以此“诫子侄”，当然就是他一生立身行事的经验总结。我们从中看出，这是融典型的中国士大夫思想与伊斯兰教义于一体。而且在做了官、有了社会地位之后，仍以普通百姓之家的标准训教子侄，这是值得称道的。总之，马福祥是个肯用脑子、具有思想的人物。他的主张民族团结、重视教育的思想以及他的爱国思想，都是值得称道的。与终日花天酒地、动辄武力相向的军阀，大异其趣。在其后辈中，只有其侄马鸿宾在思想作风上与他有相似之处，其余则等而下之，属于另一类型的军阀了。
据接近马福祥的幕僚透露，马福祥一生有两件心事未偿，成为终生的遗憾。一是对小儿子鸿炳未得很好安排。他的两个儿子，大儿鸿逵是原配夫人所生，小儿是妾马青岚所生，妾一直带在他身边，爱屋及乌，故对小儿十分宠爱。但小儿不争气，不好好读书、做事，还染上吸鸦片的恶习。后母对马鸿逵不好，因而他对弟弟也有芥蒂。马鸿逵驻泰安时，马福祥曾令他将三十五师师长之位让给鸿炳，马鸿逵坚拒。从此鸿炳无适当官职，成为马福祥的心病。二是推荐马鸿宾任甘肃省政府主席，他却不到一年便失去了这个位子。马福祥原意是想让马鸿宾统一甘肃局面之后，他自己来当这个省主席，让马鸿宾做河西警备司令，以便进一步向新疆发展，当时的新疆省政府主席杨增新也正需要他的支持与声援。宁夏一地，由其三兄马福寿支撑就够了。这样，他就可以稳坐西北。但马鸿宾丢了甘肃一地，他的计划便成泡影。这是他1931年心脏病发的主要原因之一。可见他在政治上还是有一番雄心壮志的。
著名学者顾颉刚对马福祥的评价是：“云亭先生以武秀才努力自修，诗文书法造诣咸深，集文武才能于一身。为教中所希有。其一生笃学爱才，到处创立学校，回民思想为之一变。”（《国防月刊》4卷1、2期合刊，1947年）曾入马福祥幕府且有高度文化素养的马廷秀先生对马福祥的处事待人有一段文字，写得中肯而凝练：
“马福祥好读书，善书法，留心时政，喜欢接近汉族中上层人士。幕府中所延揽的人中，有擅长时文的，有长于研究金石书画的，也有专写电文书札的，温文典雅，蔚然大家风范。他自称‘戎马书生’，相识之人，诩为‘儒将’。晚年自署‘贺兰舞剑，青山立马，沧海濯缨，长江观潮’，叙其经历。他长于交际，善于游说，清朝的翰林进士，北洋的督军、省长，以及国民党的显要如戴季陶、何应钦、陈果夫等人，相与往还，或订为金兰，或亲密交接，常语人：‘生平无不可言之事，天下无不可交之人。’这在他一生的政治生涯中，也取得了不小的帮助。他的处世哲学，崇尚黄老祸福相倚，‘知足不辱，知止不殆’之说，尝亲书《黄石公素书》，并以之规劝朋友，激励部属，训诫子弟。他熟悉历史掌故、封建礼俗。在宁夏期间，好整以暇，继志述事，给他父兄请恤立碑，请名人书写，精工镌刻，在原籍建立碑亭，供众浏览。为父做冥寿，发启征文，扬厉踵华。”