武訓(xùn)開始變得有錢了，而武訓(xùn)的哥哥不務(wù)正業(yè)，常向他借錢，一些親戚朋友也來要求他資助，武訓(xùn)都拒絕了：“不顧親，不顧故，義學(xué)我修好幾處。”

光緒十二年（1886年），武訓(xùn)四十九歲，已置田二百三十畝，積資三千八百余吊，決定創(chuàng)建義學(xué)。光緒十三年（1887年），兩名開明地主仰慕武訓(xùn)的為人，聯(lián)合捐出土地供武訓(xùn)辦義學(xué)之用。武訓(xùn)開始到各地購(gòu)買磚瓦木料，并親自押運(yùn)。開工后，武訓(xùn)每天早起晚睡，在工地上搬磚打水，和工人們?cè)谝黄鸸餐瑒趧?dòng)。

光緒十四年（1888年），武訓(xùn)花錢四千余吊所建的第一所義學(xué)在堂邑縣柳林鎮(zhèn)東門外落成了，取名“崇賢義塾”。武訓(xùn)用了整整三十年的時(shí)間來實(shí)現(xiàn)他的理想，在這三十年里，他受盡苦難，但始終堅(jiān)定地一步步邁向目標(biāo)?！俺缳t義塾”建成后，武訓(xùn)親自跪請(qǐng)有學(xué)問的進(jìn)士、舉人任教，跪求楊樹芳做學(xué)董，主持義塾，跪求貧寒人家送子上學(xué)。當(dāng)年招生五十余名，分蒙班和經(jīng)班，不收學(xué)費(fèi)。開學(xué)當(dāng)天，準(zhǔn)備了豐盛的筵席招待學(xué)董、老師和鄉(xiāng)紳，武訓(xùn)自己卻在外面向來賓磕頭致謝，堅(jiān)決不肯入席。他跟學(xué)生們一樣分得一斤饃饃、一碗大鍋菜，仍舍不得吃，跑到莊外的磚窖上換了幾塊新磚回來，自己仍吃些殘菜剩飯。義塾成立后，雖然已經(jīng)實(shí)現(xiàn)了他的心愿，但他依舊過著漂泊無定的流浪生活，到處去要飯，仍舊住破廟。學(xué)生們?cè)w跪求他來住義塾，他也不肯，說：“我過的生活自己不覺得苦，只要你們努力學(xué)習(xí)，我比什么都快樂。”一天大風(fēng)，廟屋上的瓦刮下來，落到武訓(xùn)頭上，砸得他頭破血流，他卻悠然自得地唱著：“打破頭，出出火，修個(gè)義學(xué)全在我?！?/p>

武訓(xùn)還十分關(guān)心義學(xué)里學(xué)生的讀書情況，時(shí)不時(shí)來探視一下，對(duì)勤于教事的塾師，武訓(xùn)常常跪叩感謝；對(duì)貪玩、不認(rèn)真學(xué)習(xí)的學(xué)生，他則是下跪泣勸：“讀書不用功，回家無臉見父兄。”一天清晨，學(xué)生都已到齊，塾師卻尚未起床。武訓(xùn)悄悄地走進(jìn)塾師的臥房，不聲不響地跪在床前不住地流淚。塾師醒來后，武訓(xùn)說：“先生睡覺，學(xué)生胡鬧，我來跪求，一了百了?！边€有一位塾師請(qǐng)假回家，逾期不歸。武訓(xùn)步行六十華里趕到塾師家，孤身等候在門外一個(gè)通宵。塾師羞愧萬分，再不敢超過期限。師生們感動(dòng)于武訓(xùn)的真摯誠(chéng)懇，沒有一人再有一刻的疏忽怠慢，學(xué)風(fēng)甚好，教學(xué)隨之而相長(zhǎng)。

時(shí)任山東巡撫的張曜聽說武訓(xùn)的義行，特地召見之。武訓(xùn)衣衫襤褸地步行到濟(jì)南府。會(huì)面時(shí)，武訓(xùn)一面和張巡撫侃侃而談，一面不斷地捻著線頭。他的率真純樸令巡撫大為感動(dòng)，下令免征義學(xué)田錢糧和徭役，另捐銀二百兩，同時(shí)奏請(qǐng)光緒帝頒以“樂善好施”匾額。清廷授以“義學(xué)正”名號(hào)，賞穿黃馬褂。這本是至高無上的榮耀，但是在欽差面前，武訓(xùn)卻不愿意下跪謝恩，也不愿意穿黃馬褂，說：“義學(xué)正，不用封，黃馬褂，沒有用。修個(gè)義學(xué)萬年不能動(dòng)。”

當(dāng)“樂善好施”的牌坊為他建成之時(shí)，武訓(xùn)若發(fā)狂一般不肯向皇上下跪謝恩！他沖進(jìn)校舍，對(duì)著孩子大聲喊：“你們記牢了，將來長(zhǎng)大，千萬別忘了咱莊稼人！”

光緒十六年（1890年），武訓(xùn)資助了證和尚二百三十吊錢，又在今屬臨清市的楊二莊興辦了第二所義學(xué)。

光緒十九年（1893年），武訓(xùn)搜集與購(gòu)買了大量的有益圖書，建起了讀書會(huì)，專供沒有錢買書的人自由借閱。有時(shí)他還攜帶圖書到村鎮(zhèn)的集市廟會(huì)上巡回展覽，供鄉(xiāng)親們閱讀。還大量翻印淺顯的學(xué)習(xí)文章和書籍，免費(fèi)散發(fā)給農(nóng)民。同一年，朝廷官員、學(xué)部侍郎裕德到山東視察，武訓(xùn)在大街上攔轎募款。裕德捐給他兩百兩銀子。

光緒二十二年（1896年），武訓(xùn)花了三千吊錢于臨清御史巷辦起第三所義學(xué)，取名“御史巷義塾”。