叔母的话深深地刺激了他原先麻木不仁的头脑，想想自己已经是个20岁的男子汉了，应该有所作为了，却还啥事不懂，皇甫谧实在羞愧。看着叔母的泪脸，他暗下决心，再也不能浪荡下去了，一定要像叔母教训的那样勤奋学习，做个有修养的人。
皇甫谧家里很穷，没有钱到京城求学，同乡有个名叫席坦的学者，皇甫谧就拜他为师，在席坦的指点下勤学不倦。他总是带着经书到田里，干活累了在田头休息的时候，便拿出书来诵读。
经过几年的学习，皇甫谧博览了国家的重要文献和诸子百家学说，性格变得沉静好思，有了崇高的志向，很少有个人的欲念。他觉得书籍能给人以知识，教给人道理，流传后世，造福子孙，所以决定以写作作为自己一生的事业。
工夫不负有心人。不久，皇甫谧写出了《礼乐》《圣真》等著作。甘露年间（256～260年），他不幸得了风痹症，行动不便，却仍然不间断地阅读和写作。疾病的痛苦，又促使他发愤学习医书，习览经方，采集和整理古代的医学文献资料，并且写出了《针灸甲乙经》等医学著作。