1936年，佐尔格利用自己在驻日德国大使馆的特殊关系得知，德国和日本正在就结盟事宜进行最后的谈判。但此时，佐尔格却从大使以及使馆人员那里获取不到任何内容。
原来，为了保密，德国一方撇开了外事局和驻曰大使馆，派出了当时德国情报局局长卡纳里斯海军上将直接和曰方代表进行谈判。这让一向沉着的佐尔格也感到这件事变得非常棘手了。也许是天意或者是巧合，德国派到日本的一位名叫哈克的特派员曾经在飞机上与佐尔格有一面之缘。当时两人聊得非常投机。因此佐尔格借机接触哈克，边喝酒边叙旧时，佐尔格得知了德日谈判的几乎全部重要内容。于是苏联政府早在德日正式签署协议之前，便获知了内情。
这件事看似偶然，实际上是佐尔格长期布网的必然结果。1939年，随着德国入侵波兰，二战全面爆发。在短短一年多的时间里，德军横扫北欧，大败法国，几乎占领了整个欧洲大陆。此时日本也占据了中国大片的领土，并且德、意、日三国同盟已经形成，苏联处在腹背受敌的境地。佐尔格对于局势的发展非常担心，他冒险通过各种渠道抓紧搜集情报。
经过认真细致分析，最终他认为德国将会进攻苏联。于是在1940年底和1941年初，佐尔格曾多次电告莫斯科，表明自己的观点。然而令人不解的是，不知道斯大林是相信了苏德签订的《苏德互不侵犯条约》还是被当时德国进攻英国的假象迷惑了，佐尔格的情报并未引起他的特别关注，以致在德军入侵苏联的前期招致惨痛的损失。
这样的结果虽然是惨痛的，但却证明了佐尔格情报的准确性，由此苏联政府对佐尔格所发出的情报重视程度倍增。
德军大举入侵初期，苏联由于没有足够的战前准备，导致一败千里的被动局面，失去了在欧洲的绝大部分领土。苏联政府一面要应对德军的疯狂进攻，一面又非常担心日本在远东对其展开突然袭击——鉴于德国的前车之鉴，此时的苏当局已经完全不相信在4月才与日本签订的《苏日中立协定》了，苏政府陷入了两难的境地。
此时莫斯科的最高层几乎把所有希望都寄托在了佐尔格的身上，他们不断发报，催促佐尔格尽快获取日本政府是否会违反协定进攻苏联以及日军的最新军事动态。其实，佐尔格此时也非常焦急，因为通过大使馆的关系，他获知德国正想尽一切办法说服日本从东方对苏联发起进攻，以牵制苏联在远东的力量。