周恩来早年立志救国，在中学时期就开始注意军事问题。他在天津时和同学们发起成立敬业乐群会，当时就曾经在会中设立“军事研究团”。他发起组织国防演说会，请人讲“军舰——炮台——陆路”，引导青年学习军事知识。旅欧时期，他领导的中共旅欧支部中专门设立了军事部，这是当时中共中央和其他地方党组织都没有的。他很赞成德国革命家卢森堡提出的“我们要无军队，便不能革命”的主张，认为“这都是见到之语”。1922年，他发表《评胡适的‘努力’》一文，批判胡适所谓建立“好人政府”的主张，认为“都是些不落实际的废话”，在中国，“以为在世界帝国主义和军阀的支配下，便可建立‘好人政府’实现其政治主张，这不是做梦么?”他说：“若徒以手枪、炸弹、罢工、罢市来恐吓，则手枪、炸弹他有躲避之法，罢工、罢市他更可以军队来压迫。”他明确指出：“真正革命非要有极坚强极有组织的革命军不可，没有革命军，军阀是打不倒的。”
1924年7月下旬，周恩来回国，9月初到广州。这时正是商团叛乱的时候，革命军击溃商团军，周恩来参加了临时军事指挥部的工作。随后，他出任黄埔军校教官，11月任黄埔军校政治部主任;同时又是中共广东区委常委兼军事部部长。
黄埔军校区别于旧军校的一个显著特点，就是设有党代表和政治部。军校的一切命令，都必须由党代表副署交校长执行，未经党代表副署无效。政治部负责军校的政治思想教育工作，政治部主任是党代表的参谋长，是相当重要的。但是初期的政治部工作闲淡，形同虚设。在中国军事史上具有开创意义的军队政治工作的建立，是由周恩来在黄埔军校开始的。
周恩来到职后，健全政治工作制度和建立日常的工作秩序，设立指导、编篆、秘书三股，选员任职，重新制定政治教育计划，加授“社会进化史”、“帝国主义侵略中国史”等课程，主要是讲授中国怎样受帝国主义列强的压迫，中国的农工商备界怎样受封建军阀的压迫以及解脱的途径及办法。他建立和健全共产党与青年团组织，成立了中共黄埔军校特别支部，发动党团员和进步青年开展工作。他提出了军队政治工作的方针、方法和目的，指出：“政治工作就是使军阀军队渐渐觉悟，革命军队确实具有革命观念”，“革命军的行动要依着党的政策”，以公开讲演，找士兵个别谈话等方式，“使官佐士兵及一切群众晓得党的理沦、主义、政策”。周恩来平易近人，联系群众，经常在军校内的大榕树下同学员们促膝谈心。学员们思想觉悟迅速提高，军校出现了生动活泼的局面。
黄埔军校第一期学生毕业后，以他们为骨干组建两个教导团，每团约1000多人，编制采三三制。每连有9名军官，一半左右是共产党员。这支以共产党员为核心的部队，在统一广东革命根据地的历次战役中，成为革命军中一支劲旅。这时，周恩来把平时的政治教育转变为战时政治工作，在实践中逐步创立一套新型的军队政治工作。后来毛泽东说：“那时军队设立了党代表和政治部，这种制度是中国历史上没有的，靠了这种制度使军队一新其耳目。1927年以后的红军以至今日的八路军，是继承了这种制度而加以发展的。”朱德也说：“研究党的军史时，应当从这个老根上研究起。”
周恩来解决了建立革命军队的一系列重大理论问题。关于建军的宗旨与任务，他指出：孙中山设军校是要建立“为人民所用之军队”，“军队之打仗是为人民而打的”。革命军队的任务，“是实现我们理论的先锋”。关于军队和党的关系，他指出：“革命军是党的军队，革命军的行动要依着党的政策”，革命军队“是为主义为党国而奋斗的”。关于政治思想工作，他指出：“部队政工是革命的灵魂”。“我们做政治工作的使命，对于官长官佐要巩固其革命观念。对于士兵要使之有革命常识，所以我们要认识革命化、纪律化、统一化。就系统方面说，政治部是军队组织里面的一部分，要辅助各部处的工作，以进行政治教育实施的目的。”对于军队同人民的关系，他指出：革命军队必须同人民紧密团结，革命军“是为人民解除痛苦而来，但全恃本校军队，力量太小，若无人民援助，仍不足负重大责任”。