早在1940年下半年,《六大以来》的资料收集工作就已经开始,但当时党中央并不是为了编印《六大以来》这本书,而是为召开党的七大准备材料。因为原本预定于1941年上半年召开的党的七大的一个重要议程就是总结党的第六次代表大会以来的历史经验。
最初,材料准备工作是交给任弼时负责的,原计划1940年10月底集齐印出。但是,这项工作进行得很不顺利,到10月中旬时,还有很多重要文件没有找到。一方面,是因为从党的六大召开的1928年至1941年,时间间隔长达13年之久,所涉及的党的文献数量较多。另一方面,在这十余年间,战火纷飞,党的中央机关几经长途转移,特别是长征途中,许多文件已经销毁或散失,搜集难度很大。为了加强文献资料的收集力度,在10月的一次中央政治局会议上,决定由陈云、王明、王稼祥、洛甫(张闻天)、邓发等人分头负责收集,限定在11月底完成。然而,陈云等人当时都是中央政治局委员,工作繁忙,根本没有精力去收集。于是,不久后党中央决定,六大以来历史文献的收集工作改由中央秘书处承担,由毛泽东负责督促与审核。
为了推进工作,中央秘书处指定材料科负责管理档案的裴桐专门承担文献收集工作。当时收集历史文献主要有几种途径:一是党中央从苏区带到延安,这部分收集到的资料只是很少一部分;二是毛泽东自己保存的,这部分主要是他本人的文稿,例如《湘赣边界各县党第二次代表大会决议案》等,这部分材料的数量也比较有限;三是从党的报刊中查找,这条途径查找到的文件也十分有限,因为党的决议、命令、指示、通告等在报刊上登载的本就很少,并且长征后带到延安的报刊也很有限;四是从国民党的报刊书籍中查找,国民党出于反共需要,在20世纪30年代编辑了一套《赤匪反动文献汇编》,收集了我党历史上大量的文献资料,这出乎意料地成了当时收集六大以来历史文献的重要途径。但是从这个途径查找到的文献,很多都是被篡改过的,这就需要细致地甄别使用。