刘知幾于高宗永隆元年（680年）举进士而入仕，武则天长安二年（702年）开始担任史官，撰起居注。历任著作佐郎、左史、著作郎等职，并兼修国史，参与了《唐书》《武后实录》《姓族系录》《睿宗实录》，重修《则天实录》《中宗实录》等撰述活动。其间，他因不满武则天和唐中宗时史馆修史的紊乱和监修贵臣们对修史的横加干涉，曾在中宗景龙二年（708年）毅然辞去史职，“退而私撰《史通》，以见其志”。
刘知幾的史学批评意识，得力于他在史学上的修养。他自称：“自小观书，喜谈名理，其所悟者，皆得之襟腑，非由染习……其有暗合于古人者，盖不可胜纪。始知流俗之士，难与之言。凡有异同，蓄诸方寸。”[1]这说明他在史学批评上有多年的积累。他的史学批评意识，因受到武则天、唐中宗时史馆修史活动的混乱与低效而更加强烈和自觉。他深沉地写道：
既朝廷有知意者，遂以载笔见推。由是三为史臣，再入东观。每惟皇家受命，多历年所，史官所编，粗惟纪录。至于纪传及志，则皆未有其书……凡所著述，尝欲行其旧议。而当时同作诸士及监修贵臣，每与其凿枘相违，龃龉难入。故其所载削，皆与俗浮沉。虽自谓依违苟从，然犹大为史官所嫉。嗟乎！虽任当其职，而吾道不行；见用于时，而美志不遂。郁怏孤愤，无以寄怀。必寝而不言，嘿而无述，又恐没世之后，谁知予者。故退而私撰《史通》，以见其志。[2]