一八九八年十一月，戊戌變法的血跡尚未干涸。張?jiān)獫?jì)先生帶著朝廷“革職永不敘用”的大辱，離開(kāi)京城，來(lái)到上海。經(jīng)李鴻章舉薦，出任剛剛組建的南洋公學(xué)譯書(shū)院院長(zhǎng)。他到任時(shí)，書(shū)院已經(jīng)出版八種譯自日文版的兵書(shū)《日本軍政要略》、《戰(zhàn)術(shù)學(xué)》、《軍隊(duì)內(nèi)務(wù)》和《作戰(zhàn)糧食給予法》等。這是一張實(shí)用主義的書(shū)單，張先生建議改弦易張，開(kāi)拓更寬的譯書(shū)領(lǐng)域。

他開(kāi)出的第一張書(shū)單是請(qǐng)嚴(yán)復(fù)先生譯亞當(dāng)．斯密《原富》，他建議為嚴(yán)復(fù)先生支付百分之二十的版稅，這也是中國(guó)最早實(shí)行版稅制的實(shí)例之一。為此，譯書(shū)院出資兩千銀元，幾乎是譯書(shū)院當(dāng)年百分之二十的開(kāi)銷。到一九零四年離開(kāi)譯書(shū)院，加盟商務(wù)印書(shū)館之前，張先生主持譯書(shū)院開(kāi)出書(shū)目六十七種，正式出版不少于三十六種，有《中等格致讀本》、《政群源流考》、《萬(wàn)國(guó)通商史》、《英國(guó)文明史》、《美國(guó)憲法史》和《萬(wàn)國(guó)政治史》等。