范晔出生在一个著名的士族家庭。高祖范晷为西晋雍州刺史，加左将军。曾祖范汪入仕东晋，官至晋安北将军、徐兖二州刺史，进爵武兴县侯。祖父范宁先后出任临淮太守、豫章太守。父范泰仕晋为中书侍郎，桓玄执政时被废黜，徙居丹徒。刘裕于京口起兵灭桓玄，控制东晋政府实权后。范泰重新被启用，出任国子博士、南郡太守、御史中丞等职。他为东阳太守时，因开仓供粮和发兵千人，助刘裕打败卢循有功，被加官为振武将军。从此，范泰受到刘裕的信任，屡被升迁，先后担任侍中、尚书常侍兼司空等职。宋代晋后，拜为金紫光录大夫散骑常侍，少帝时加位特进。
范晔的家庭有着正宗的家学传统。范汪“博学多通，善谈名理”，撰有《尚书大事》二十卷，《范氏家传》一卷，《祭典》三卷以及属于医学棋艺的著作《范东阳方》一百零五卷，《棋九品序录》一卷等。范宁尝作《古文尚书舜典》一卷，《尚书注》十卷，《礼杂问》十卷，《文集》十六卷，尤以《春秋榖梁传集解》十二卷“其义精审，为世所重”。范泰也有《古今善言》二十四卷及文集等多种著述。受到家庭的影响，范晔从小好学，再加上天资聪慧，因此尚未成年，便以博涉经史，善写文章而负盛名。
东晋安帝义熙十年（公元414年），范晔十七岁，州刺史征辟他为主簿。当时，范晔同其父范泰一样，在政治上是支持刘裕的，故不肯应辟就职。六年后即公元420年，刘裕代晋称帝，改国号为宋。这一年，二十三岁的范晔应召到刘裕之子彭城王刘义恭的府下为冠军参军，后又随府转为右军参军。此后十余年，他先后担任过尚书外兵郎、荆州别驾从事史、秘书监、新蔡太守，司徒从事中郎、尚书吏部郎多种职务。
宋文帝元嘉九年（公元432年）冬，扬州刺史彭城王刘义康母亲王太妃去世。刘义康把故僚们召集到府内帮助料理丧事，范晔也到场了。刘义康的母亲死了，范晔实在悲伤不起来。在临葬前的一天夜晚，轮到他的弟弟范广渊值班，范晔兄弟俩邀了一位朋友躲在屋里喝起酒来。醉意朦胧之际，范晔忘记了利害，竟推开窗子，听挽歌助酒。这件事传出后，刘义康非常恼怒。几句谗言上去，宋文帝就把范晔打发到宣城（今安徽宣城）当太守去了。
这次贬官对范晔是一次很大的刺激。仕途上的坎坷勾起了他幼年生活的某些隐痛。范晔虽然生在名门士族，但他本人却是个妾生的庶子。晋代自“永嘉以来，嫡待庶如奴，妻遇妾若婢”，（王楙《野客丛书》卷十五），嫡庶之别是官僚之家不可逾越的大分，因而也决定了子女们的社会身份。范晔的母亲把他生在厕所里，并且碰伤了他的前额，因而落下个小字为“砖”。嫡母所生的哥哥范晏嫉妒他的才学，骂他“进利”，认为他是终家破族的祸害。父亲范泰也不喜欢范晔，早早地将他过继给从伯范弘之。屈伸荣辱与宦海浮沉，使得范晔心情十分苦闷。
在宣城任上，他开始从事后汉史的编纂工作，企图以此排解这种痛苦。史事的研究，打开了他的眼界。范晔后来讲：“本未关史书，政恒觉其不可解耳。既造后汉，转得统绪。”这就是说，原来现实中的许多不能解答的问题，在同历史的经验相对照后，他逐渐整理出了一些头绪。范晔凭着个人对历史问题的理解，写出了他的历史名作《后汉书》。这一年，他三十五岁。
刘宋初年，地方官吏的任期仍承袭在晋时期六年一任的制度。大约在永嘉十五年（公元438年），范晔离开宣城，调任为长沙王镇军长史，并领衔为宁朔将军。
次年，范晔的嫡母在宜都去世。那时，其兄范暠在宜都担任太守。父亲去世后，嫡母一直随暠在官。按照礼教的规定，范晔应该即刻启程奔丧。但他对嫡母素无感情，故迟迟不肯上路，被迫动身后，又携带妻小自随。范晔一系列的违礼行为，受到了御史中丞的弹劾。宋文帝比较欣赏范晔的才能，没有将他治罪。
此后，从元嘉十七年（公元440年）到二十一年，五年多的时间里，范晔的仕途一直比较顺利。他先后担任过始兴王后军长史，并领南下邳太守。始兴王由豫州调至建康（今南京）为扬州刺史，范晔随行入京。不久，他升任为统领一部分禁军的左卫将军和职务相当于尚书令的太子詹事。
范晔具有多方面的才能，除学识渊博，善于为文外，还精通音乐，长于书法。但范晔为人傲岸不羁，不肯迎合最高统治者。他的琵琶弹得很好，并能创作新曲。宋文帝很想听听，屡次加以暗示，范晔假装糊涂，始终不肯为皇帝弹奏。在一次宴会上，宋文帝直接向范晔请求说：“我想唱一首歌，你可以伴奏吗？”话说得这份上，范晔只得奉旨弹奏。待宋文帝一唱完，他立即停止了演奏，竟不肯多弹一曲。
担任朝廷要职的官吏庾炳之、何尚之、徐湛之、沈演之等人都嫉妒他的才能，不愿意范晔得到皇帝的宠信。范晔虽然不巴结皇帝，对同僚却以诚相待。当时，沈演之为右卫将军，与范晔对掌禁旅，同参机密。每次朝见皇帝时，范晔若先到，必等沈演之到来一起进去。而同僚从来对他不怀好意，想尽办法排挤、打击甚至陷害他。像沈演之入朝向来没有等范晔的习惯。不久，范晔识破了同僚们的阴贼险恶，写了一篇《和香方》，对他们进行讥讪。根据同僚的特点，他把他们有的比作是“多忌”的麝香、“昏钝”的“枣膏”；有的比作是“虚燥”的“灵藿”、“粘湿”的“詹唐”等等，而范晔则以“沈实易和”自喻。《和香方》一出，为同僚所不容。在充满陷阱的官场上，范晔不懂得保护自己，终于引出了杀身大祸。
彭城王刘义康长期执政，威权日重，受到宋文帝的猜忌。随着时间的推移，兄弟之间的矛盾越演越烈。元嘉十七年（公元440年），宋文帝以“合党连群，阴谋潜计”的罪名诛杀、流徙刘义康的亲信刘湛、刘斌等十余人，并解除了刘义康的宰辅职务，将他贬至豫章（今江西南昌）任江州刺史。刘义康到豫章后，不甘心失败，遂加紧活动准备夺权。
