司馬芝，字子華，河內郡 溫縣 人。少年時是書生，到荊州去躲避戰亂，在魯陽山裡遇到賊寇。同行的人們都丟下老人和弱小逃走了。只有司馬芝一個人坐在那裡守護老母親。賊寇來到後，用刀逼著司馬芝。司馬芝叩頭說道：「母親老了，殺掉我之後放過我的母親吧。」賊寇們說：「這是個孝子啊!殺他是不義的。」司馬芝因此免於被殺，推著小車把他母親拉走了。司馬芝在南方住了十幾年，親自耕種，恪守禮儀節操。
主簿代兵
公元208年(建安十三年)，曹操 平定了荊州，任命司馬芝作菅縣長。當時天下政權剛剛建立，居民大多不遵守法律。郡主簿劉節 是舊日的大族子弟，為人豪爽俠義，擁有一千多位賓客，外出就做盜賊，到宮署裡則擾亂吏治。不久，司馬芝派遣劉節的門客王同等人去當兵。掾史阻止說：「劉節家裡從來就沒有派人服過搖役，如果他們到時把人藏起來，一定給您造成虧空。」司馬芝不答應，給劉節寫了封信說：「您是豪門大家族，又在郡裡擔任重要職務，而您的賓客經常不服勞役，黎民百姓早就心懷怨恨和不滿，有些流言已經被上級聽到。現在征發王同等人去當兵，希望您能按時派遣他出發。」士兵們已經在郡裡集結了。但劉節把王同等人藏了起來，還乘機讓郡督郵偽稱徵調軍隊士兵去向管縣索要。
縣裡的掾吏沒有辦法，請求讓自己代替王同去當兵。司馬芝就派人騎快馬把一封信送到郡城濟南，信上詳細列舉了劉節的罪狀。太守郝光 歷來敬重司馬芝，很相信他，當即下令讓劉節代替王同去當兵。青州 人民稱司馬芝能讓郡主簿去當兵。後來司馬芝升作廣平 縣令。征虜將軍劉勳 ，地位尊貴，受寵驕橫。他又是司馬芝原來所在郡裡的將軍。劉勳賓客和子弟們在司馬芝的管界內多次犯法。劉勳給司馬芝寫信，不署上姓名，卻在信中多次囑托司馬芝幫忙。司馬芝沒有給他回信，一概按照法律處理。以後劉勳由於行為不軌被誅殺，與劉勳交往並有關聯的人全都獲罪，而司馬芝卻因為不徇私而被人們稱道。
寬恕嫌犯
不久，司馬芝被提升為大理正。有人偷竊了官府的白綢放在廁所上面。吏卒們懷疑是女工干的，就把她們抓起來關進監獄。司馬芝說：「處罰罪行時的失誤，都是失誤在用刑過分苛刻殘暴上。現在先找到了贓物，然後才去審訊，求得供詞。如果她們經不住拷打，有可能被迫說假話承認偷竊。根據假話定的案情，是不能用來判斷罪案的。而且執政寬大簡便，使人民容易服從，這是德行高尚人物的教化。不放過一個有罪的人，只是平庸世道的治理方法罷了。如今我寬恕了這些嫌疑犯，用來發揚使人民容易服從的道義，不也是可以的嗎?」曹操接受了他的建議。司馬芝歷任甘陵、沛郡 、陽平等地太守，所到之處都有政績。
黃初 年間，司馬芝被調入京城任河南尹 。他抑制豪強，扶持貧弱，私下請托也行不通了。正遇宮中太監想托司馬芝辦事，又不敢開口講，就通過司馬芝妻子的伯父董昭 傳話。董昭也害怕司馬芝，不給太監傳話。司馬芝給下屬官員們寫了告示，規定教令說：「君王能夠設立法令，卻不能讓吏員們一定不違犯法令。吏員們能觸犯教令，卻不能讓君主始終不知道。設立了法令卻有人違犯，這是君主的不足，官吏們觸犯了教令讓君主知道後，就是官吏們的災禍了。君主在上面有劣政，官吏們在下面造成災禍，這是政事得不到治理的原因。大家能不以此自勉嗎?」於是他下屬的官吏們沒有不以此勉勵自己的。門下循行 官曾經懷疑門干偷了髮簪，門干的說法與此不相符，曹掾 就把他抓來判罪。司馬芝下令說：「凡是事物都有相似得難以分別的，如果沒有離婁那樣的眼力，很少能不受迷惑。即使真是門干偷的，循行官怎麼會忍心把一個簪子看得那麼重，卻把傷害自己的同類看得很輕呢?這件事放下不要再審問了。」
執法公正
公元226年(黃初七年)，魏明帝 繼位，賜給司馬芝關內侯的爵位。不久，特進曹洪 的奶媽當，和臨汾公主 的侍者共同祭祀了無澗神，被關進監獄。卞太后派遣黃門官到官府中傳達她的命令。司馬芝不讓通報，當即下令讓洛陽監獄把這二人拷打至死，然後上奏章說：「凡是應該判處死刑的罪犯，按理都應該先上表奏明，等候聖上批復。以前聖上下制書命令禁止淫把，以端正風俗。現在這些犯人興妖作怪的罪行，剛剛審訊出供詞。黃門官吳達 就來見臣下，傳達太皇太后的命令。臣下不敢接見使者，害怕命令中有救援保護犯罪者的意思，這個命令讓聖上聽到後，就會不得已下令把犯人們保護起來。這一切又都是由於臣沒有盡早把事辦完，就是臣下的罪過了。因此臣冒犯了日常的規定制度，馬上命令洛陽縣把她們拷打死了。臣下擅自施行了刑戮，謹等候聖上予以誅罰。」魏明帝親筆批復說：「看了你的奏章，已經瞭解了你的真心。你想要奉行禁止淫祀的詔書，所以權宜從事，做得對啊!這是你奉行詔書的誠意，有什麼可謝罪的呢?以後黃門官再去你那裡，千萬不要接見。」司馬芝作了十一年官，多次評議那些法令律條中不便施行的條款。他處在公卿中間，都根據正道辦事。正趕上各位親王來朝見，和京城裡的人交結，司馬芝因此被免官。
以農為本
後來，司馬芝任大司農。在此之前，各地典農屬下的吏員和百姓，紛紛從事商販行業，以此謀求利益。司馬芝上奏說：「王者的治國方法，崇尚農耕本業，抑制商販這些末梢的行業，發展農業，重視糧食。《王制 》記載：『沒有三年的糧食儲備，國家就不成為國家了。』《管子·區言》中說要把積存糧食作為首要事務。現在吳、蜀地的賊人還沒有被消滅，戰爭不斷，國家最重要的事務就是儲備糧食和布帛。武皇帝特地創設了屯田的官員，專門從事農桑事業。建安年間，天下的倉庫都裝滿了，老百姓也家家殷實富足。自從黃初年以來，允許各典農官自己發展經濟，他們紛紛給自己的部下打算，這實在不是創立國家大業所應有的作法。王者把四海之內作為自己的家。所以《論語 》上說：『百姓不富足，國君哪能夠富足呢?』富足的原因，在於不誤天時而且能克盡地力。如今商賈們經商謀利，雖然能得到成倍的明顯利潤，但對於統一天下的大計卻已造成了無法估量的損失，還不如去多開墾一畝田地，增加收益。農民從事田間耕作，從正月裡耕地播種起，鋤地耘田，修整桑樹，放火燒荒，種麥、修打穀場，收割莊稼，到十月才完畢。然後修整穀倉，綁起浮橋，運輸租賦，修平道路，架設橋樑，粉刷居室，堵塞牆縫，一年裡沒有一天不從事農業勞動。現在各位典農官都說『留下的人給外出經商的人代干田里的農活，替他們服勞役。形勢逼迫下不得不這樣做。想不荒廢農耕，就應該讓我們平素留有餘力 。』臣下的愚見是，不應該再用商販的雜事來擾亂農業，要專門把農耕蠶桑當作要事，從國家大業考慮，這樣才是方便有利的。」魏明帝聽從了他的意見。
體貼下屬
每當上級官員有事要召見詢問，司馬芝經常先約見掾史 ，替他判斷上司的想法和事情的緣故，教他怎樣回答應付，召見時果然全和他料想的一樣。司馬芝性情豁亮 正直 ，不以嚴格廉正自矜 。他和賓客們談論時，有認為不對的，就當面指出他們的短處，回來後再沒有什麼別的怪話。司馬芝在任職期間死去，家裡沒有一點多餘的財產。自從魏國建立以來，歷任河南尹中沒有一個人能比得上司馬芝。
有子若父
司馬芝死後，他的兒子司馬岐繼承了他的爵位。司馬岐由河南丞改任廷尉正，再改任陳留相。梁郡 有些關在獄裡的囚徒，審案時的供辭牽涉到很多人，好幾年都不能結案。朝廷下詔書指示把牢獄裡關的這些囚犯遷到司馬岐 所屬的縣裡來，讓司馬岐審理並了結此案。當時縣裡的官吏請求預先置備一些獄中應用的刑具。司馬岐說：「如今有幾十名囚犯，他們的供辭虛偽狡詐，相互不符合，而且他們也對毒刑拷打感到厭倦了。這個案情很容易弄清，難道還要再把他們長久地關在牢獄中嗎?」囚犯被押到後，在審問時，誰也不敢隱瞞和說假話。司馬岐只用一天功夫就把案子處理完了，因此，被越級升為廷尉。
當時大將軍曹爽專權，尚書何晏 、鄧颺等人給他做羽翼，輔佐他。南陽人圭泰曾用言語觸犯他們，因此被綁起來拷打，送交廷尉官署。鄧颺親自審訊，準備把圭泰判處重刑。司馬岐指責鄧颺說：「國家中執掌樞密機要的大臣，是王室的重要輔弼，既不能輔弼皇上的教化，形成德政，和古代的聖賢比美，反而要盡情發洩私憤，冤枉無辜的人。這不是讓百姓感到恐懼不安，還會是什麼呢?」鄧颺十分羞愧，惱怒地離開了。司馬岐終究害怕長久這樣會招致罪過，就以有病為理由離職。他回家以後，不到一年就死了，享年三十五歲。他的兒子司馬肇繼承了爵位。