佐尔格第三次伤愈之后没有再回到战场，而是进入柏林大学开始学习，在大学中他开始了更多关于战争、社会的思考。不久，俄国十月革命爆发，这给了佐尔格很大的震撼，开始对共产主义产生兴趣。
1918年，佐尔格大学毕业后进入基尔大学攻读社会学博士，在这里他遇到了一个影响他一生的人——科尔特·格拉契教授。格拉契是一位着名的经济学家，有着强烈的左翼思想。佐尔格在与其交往的过程中加深了对共产主义的了解和向往，所以获得博士学位后便加入了德国共产党。从此，佐尔格的命运彻底发生了改变。
1924年他去了苏联，并加入了苏联共产党，而且凭借其广博的知识和超人的机智，很快就被当时的苏联情报部门相中。佐尔格欣然接受了这一特殊任命，并且化名拉姆齐，开始了他改变世界历史进程的王牌间谍之旅。
佐尔格成为苏联间谍后，主要是负责收集情报，并被派往不同国家执行任务，着手建立国外间谍网。佐尔格曾被派往英国帮助组织矿工罢工，还被派往斯堪的纳维亚半岛诸国组建共产党。在出色完成这一系列任务后，当时的苏联谍报高层决定派佐尔格去执行一项特殊的任务——去往东方的中国。
20世纪20年代末、30年代初的中国局势非常复杂，当时中国共产党受到了极大的挫折，苏联急需了解当时其境遇;而且苏联也想知道英、美、法，尤其是日本在中国的战略企图;同时也需要派人去组织重建被国民党政府破坏了的共产国际情报网。所以就需要佐尔格去搜集足够的情报，供苏联当局分析，同时重新建立在中国的情报网。
1930年初，佐尔格来到上海，并从此和中国结下了一段不解的缘分。来到中国之后，佐尔格凭借其德国博士的身份以及_大堆德国各个部门的推荐信，很快与德国驻中国使馆的官员以及中国政府的高层有了密切往来。
除此之外，因为佐尔格精通英、法、俄语，在很短的时间内又掌握了汉语和日语，所以和包括中国在内的很多居于上海的社会贤达人士都有了接触。而且在这一过程中，佐尔格物色了很多各方面的杰出人才加入了其间谍网，其中就包括当时日本《朝日新闻》驻华的记者尾崎秀实。这个人成为日后佐尔格在日本从事谍报工作最得力的助手，很多非常重要的情报都由他获得。