皇甫谧是个博学多才的人,不仅着有大量的诗、赋、谏、颂、传等文学与史学作品,还精通医学。他翻阅了许多医书,终于找到了针灸可以治麻痹症的记载。他仔细研究《内经·明堂孔穴》等书,先在自己身上试验,以亲身体会各个穴道,并在此基础上写了《针灸甲乙经》,阐述经络理论,明确穴位名称和位置,并阐述疾病的针灸取穴法等,总结了晋以前针灸学成就,是我国论述针灸学的第一部完整的专着。他写的《帝王世传》《高士传》《烈女传》《玄宴春秋》等著作,也有重要的文学和史学价值。
皇甫谧有了名气之后,不少人劝他放弃乡居生活,出去广交名流,以求得自己更大的名气。皇甫谧却不以为然地说:“一个人居住在穷乡僻壤,耕种在广阔的田野间,生活在熟悉的亲朋中,也是很有乐趣的事,又何必为了自己出名而去趋炎附势,追逐势利呢?”皇甫谧还数次拒绝皇帝的诏命,不愿到朝廷去做官,只以“著书为务”。他姑母的儿子梁柳,做了阳城郡的太守,将赴任时,有人劝他准备酒肉送行,他说:“梁柳没有做官时,到了我家,我不过拿家常的咸菜招待他,贫寒人家哪里拿得出酒肉来啊!现在他做了一郡的长官,却叫我备办酒食送行,这就变成了奉承阳城太守,而小看梁柳本人,我不干这样的事。”这反映了他为人的高尚品质。为了把自己的治学经验传给后人,他还热心地教授学生。像《文章志》《三辅决录志》《文章别流集》等书的作者挚虞,就是他的弟子之一。
皇甫谧铭记婶母的训诫而浪子回头,苦学成才的故事,1000多年来被传为家教佳话。