《史记》是伟大的历史著作，也是传记文学名著。它在我国散文发展史上起着承先启后的作用。
尽管封建统治阶级把司马迁看成是离经叛道的人物，把《史记》看成是“谤书”，但都不能阻止《史记》的流传和影响。书中所歌颂的许多英雄人物，如项羽、蔺相如等对后代人民特别是封建文士精神上也有影响。如唐代诗人李白在诗歌中不止一次地把古代的侠义之士引为自己的同调，并希望自己能像他们一样为国家、为人民做一番事业。
在写作方法、文章风格等方面，自汉以来的许多作家作品都从《史记》中得到有益的启发。从《汉书》起，所谓“正史”，在体裁形式上都是承袭《史记》的。在文学创作方面，如唐传奇文以至《聊斋志异》等小说，都直接或间接受《史记》影响。
唐宋以来的古文家更无不熟读《史记》。如韩愈十分推崇司马迁，把《史记》的文章看成为文的规范，他的《张中丞传后序》、《毛颖传》等文，很显然是学习《史记》的人物传记的。宋代大散文家欧阳修散文的简练流畅、纡徐唱叹的特点，深得《史记》的神韵，他的《五代史伶官传序》的格调，与《史记.伯夷列传》十分相似。
《史记》对明清以来的通俗小说和戏剧创作也有一定的影响。《史记》的人物传记有人物形象、有故事情节，简练生动，绘声绘色，千百年来在人民中间流传，为广大人民所熟悉，这都为通俗小说和戏剧创作提供很好的借鉴。特别是它的一些艺术方法，如通过人物的行动、对话来表现人物性格，避免冗长静止的叙述，以及注意故事曲折动人、语言简洁生动等，无疑都为后来优秀的小说创作所吸收并加以发展。