轮俱乐部”里一连呆上几个晚上，诱使他的交谈伙伴——那些军官朋友酒后吐真言，而他在这种时候却始终得保持清醒的头脑。他从德国搜集到许多关于这些军事顾问的背景情况，使他在与他们周旋应付中始终占据主动。
1931年底，佐尔格从南京顾问团上校专家勒贝尔博士处获悉，在柏林的埃贝尔贝克不久前签署了一份合同，即将出任中国蒋介石政府的军事顾问。
佐尔格立即设法会见了这位“一战”中的老战友。在他们的交谈中，佐尔格了解到，德国军队将秘密帮助国民党军队设计一种新型的山炮。这种大炮是在弹道学家赫尔曼·克兰茨教授，以及柏林军事工程学院的威廉·施维宁教授指导下，由工程师们总结了第一次世界大战中的经验后，加以改进生产的。生产这种武器是德国康采恩秘密军备计划中的一项，由于凡尔赛条约禁止德国生产大口径、远射程的火炮，所以国防军通过他们的技术顾问，与瑞典波福尔斯工厂合作，准备在中国试验一下他们生产的武器性能。波福尔斯工厂计划在1932年用首批生产的48门山炮装备南京军队的两个炮团。运送时，首先要把大炮拆分成八个部分，每一部分都重达百公斤以上，用八匹骡子通过没有公路的地区运往阵地。而佐尔格的另一位战友戈特弗里德·吉尔贝特上尉负责培训中国炮手。训练学校就设在距南京蒋介石官邸以南，约18公里远的汤山，那里有一个面积很大的射击场。
这些情况引起了佐尔格的高度重视。他立即指派他的中国助手通过关系秘密复制了该校的建筑草图、设计图和测绘资料，并迅速向中国工农红军提供了敌人的最新装备情况，使其及时做好战斗准备。
通过情报小组与中共中央特科的秘密情报交换渠道，这个情况很快转到了江西红军总部。后来，当国民党军队得意洋洋地用大批骡子运输队运送这些新式山炮时，出乎意料地遭到了红军爆破小组和赤卫队的袭击。一路上，打打停停，使运输队损失过半。等把剩下的十几门山炮拼装好，秘密架设在赣南红军指挥部附近时，红军主力部队已敏捷地撤出了火炮攻击的范围。
德国军事顾问苦心经营的“大炮计划”失败了，德国兵工专家期待的那种“炮轰效果”也无法核实，最后不得不暂时中断对国民党炮兵团的补给和培训。
此外，佐尔格情报系统还有一项非常重要的任务，即观察国民党军队武器和装备，以便从质量上和数量上进行估计。由于大部分进口武器都是经港口运进内地，并在上海的大银行里结算费用，所以这项调查工作相对容易。中国军备生产如同后勤仓库一样，也高度集中。南京的兵工厂也叫军火库，是供应陆军和空军现代武器的最大补给中心。佐尔格成功地搞到了一张南京军火库的方位蓝图，并拍摄下来送到了莫斯科。
当时，江西中央苏区的主力红军约65000人，然而，这些部队却只有不到四万支枪。换句话说，中国工农红军的主力部队只有一半或三分之二的部队有枪枝。
在同国民党匪军的激烈战斗中，英勇的红军战士不得不用长矛、大刀来夺取敌人的武器来武装自己。武器成了红军部队的头等大事。在国民党军队准备对中央苏区发动第三次围剿之际，中央特科转来了一条情报：希望共产国际远东情报小组能为红军盗运大批武器。
上海的码头，成了外国向中国输送武器的集散地、中转站。据不完全统计，每天至少有上万支枪械从此运走。
佐尔格派出了精悍的情报人员开始活动。因为他发现国民党的官僚机构自上而下到处蔓延着营私舞弊、腐化堕落之风。一切都为了钱，用钱可以达到一切目的。国民党军官们为能够住进最昂贵的外国饭店，去旅行者的夜间酒吧和欧洲人开的妓院里鬼混，经常偷偷地出售武器，换取美元。德国军事顾问小组的军械员更是不愿放过赚钱的机会。
终于，有一天从德国开来一艘几千吨级的货船，上面装满了步枪和子弹，估计有七八千支，子弹不计其数。负责此项接收工作的是国民党后勤部门的一名上校陈少堂，和德国驻南京兵器检查员冯·霍恩哈特上尉。
陈少堂是个极其贪婪的人，对金钱的欲求甚至达到了贪得无厌的地步。而霍恩哈特虽然规矩一些，但迫于家境也常干些铤而走险的买卖。
佐尔格早就掌握了这两个人的底细，于是便派遣情报员米申来完成这个任务。
康斯坦丁·米申，俄国人，曾在俄军通讯连服役。日俄战争期间被日军俘获，送到东北关押。后来，他获释来到哈尔滨，在此认识了马克斯·克劳森。从此，他改变信仰，坚定地加入了共产国际的战斗行列中。由于在中国多年，米申精通汉语，熟悉这里的风土人情。此外，他的德语讲得也不错。
米申西服革履，装作一位很有钱的白俄富商，找到了霍恩哈特。经过一番试探性接触后，他开始行动了。
一天，米申对霍恩哈特说：“我必须向您说实话，我不是什么商人，我是沙俄白卫军谢苗诺夫将军的特派代表，我们需要军火。”
霍恩哈特听了并不吃惊：“谢苗诺夫的部队不是驻扎在华北，有日本人供应他武器嘛，难道军火还成问题？”
米申认真地说：“日本人是不可靠的，他们只提供少量的武器和借款，还要求将军的部队必须打到雅库茨克，否则就断绝军火……你是知道的，苏俄红军已壮大起来，我们的部队反攻谈何容易？如果没有足够的军火就更别想打回俄国去了。”
霍恩哈特答应考虑考虑，二人约好明天再见。
为保证骗局的真实性，第二天，米申约霍恩哈特来到白俄流亡者常常聚集的一家小酒馆。这家小酒馆座落在霞飞路上，是沙俄炮兵上尉特卡钦柯开设的，离佐尔格的寓所只有一百米。流亡者习惯称它为“总部”。
霍恩哈特跟随米申进入“总部”，在前屋的一个角落里置放着一个陈旧的涂金神龛，里面摆着失去光泽的尼古拉显圣的圣像，旁边的墙上挂着尼古拉二世的画像，下面是两把交叉着的军刀，军刀上面系着圣乔治缎带。这个所谓的“总部”其实是旧储藏仓库改建的。大厅中间有一个小型舞台，台上有一架钢琴，一位上了年纪的女歌手，正演唱着一支古老的抒情歌曲。听众用拳头支着下巴，悲伤忧郁地听着她的演唱，有的喝醉了，有的乱喊……
这一切都给霍恩哈特留下了深刻的印象，他确信米申是个白卫军分子。
两人来到大厅坐下，米申要了一瓶伏特加和一堆酸黄瓜、香肠，便开始了谈判。
米申大口喝着酒，说：“上尉，这是一条财路。将军手下有15000名骑兵，将来还会有更多的人加入。那么，至少得需要二万支优良的步枪。如果你能想办法弄到这些武器，钱不成问题。”
“数量太大了，无论如何弄不到这么多武器。”听了米申的话，霍恩哈特不禁吓了一跳。以往他都是十几二十支地盗卖枪支，最多也就一百支。如今，米申一张口就二万支，确实让他吃惊不小。
米申仍然不动声色：“如果你确实有困难，不妨给我们提供个机会，让我们自己搞。自然会有你一份佣金。”
这番话似乎打动了霍恩哈特，他思考了一会儿，低声说：“上海码头最近要从德国驶来几艘军火船，总计有十万支步枪，看看能不能从这些船上下手。不过，和我一起接收武器的还有一个国民党的军队的上校，如果把他……”
米申高兴地说：“这名中国军官我会解决的，只要你给我提供机会。”
霍恩哈特突然问：“佣金有多少？”
米申微笑道：“如果两万支枪都搞到，您的那份不会少于一万美元……”
几天后的一个夜晚，米申将陈少堂送进了一个欧洲人开的妓院，免费为他找了两名金发碧眼的女郎。而在同一时刻，霍恩哈特以兵器检查员的名义开据了一张证明，让米申拿着它去同港口的警卫部队交涉。
很快，米申便以德国专家要检验武器性能为名，提走了两万支步枪和上千箱的子弹，直接送上一艘德国货轮驶离上海码头。轮船行到九江时，佐尔格早已派克劳森等人化装成西门子公司的人，租用二十几辆美国道奇卡车将货卸下来装上卡车运走。很快游击队通过秘密交通线，用车拉、马驮、人扛等各种方法，将武器运到了中央苏区。
在停靠码头等待卸货的一个星期内，就丢失了两万支步枪，相当于国民党围剿部队武器的十分之一，令国民党当局异常震惊。
尽管国民党当局拼命追查，但也找不到线索。原因很简单，这个事件的主角是两个外国人，追查起来自然碍手碍脚。倒霉的陈少堂被糊里糊涂地送上了军事法庭，而霍恩哈特也被提前解职回国。当然，他的兜里已装满了一万美元的钞票。至于米申，他是以白俄分子面目出现的，就更无从寻找此人了。
在佐尔格的情报系统中，堪称中枢部分的应该是克劳森和他的电台。
克劳森在组装、调试、校准他的收发报机和试用他新买的一部频幅很宽的短波无线电收音机时，发现在上海及上海周围的上空布满了无线电信号。
作为海军无线电收发员，对此应该习以为常。但克劳森来到上海时，每天在39—60的短波频率上所听到的事，甚至可以令每一个职业发报员感到吃惊。无线电台有公用的和民用的，有官方的和业余的，另外还有公开的和带密码进行联络的无线电通讯。发报机的频率信号仅在几毫米宽的刻度上相邻，各种强度的无线电发射相互重迭，而且常常影响对方。尽管如此，业余的与受过训练的无线电发报员、官方的发报员与其他无线电台、还有那些他熟悉的呼叫方式以及各国不同的无线电发报网还是比较容易区分的。尽管情报小组最初的任务并不包括搞无线电侦查，他们缺少这方面的技术设备，尤其是没有充足的时间。但克劳森一直没有放弃。
1930 年春，佐尔格说：“我们应该想办法从空中截取情报。”他的意思是在不十分危险的情况下，在自己的范围内附带地窃听那些对情报小组有用的情报。克劳森马上做出热情的响应。佐尔格决定说：“我们最感兴趣的情报一定是先译成密码，然后再发出的。因此，我们首先要把密码搞到手，尤其是国民党军队情报部的密码。”
仅仅两个月后，佐尔格就在南京打听到，随着军队的强化建设，自1929年底以来，编码也做了根本的改变。另外，德国工程师、无线电通讯军官施特尔茨纳也来到蒋介石的侍从室，并且在军统局二处活动。佐尔格打听到施特尔茨纳住在杭州，便特意去了杭州几次，结果每次都是一无所获。施特尔茨纳是一只狡猾的狐狸，他对自己那个座落在国民党通讯总部旁的住宅采取绝对的保护措施。住宅四周布满了牵着狗巡逻的国民党兵，窗户上也钉了铁条。他拒不接见任何陌生人的来访。另外，据他户外的地面无线装置判断，他自己很可能也搞了一部私人无线电报机。克劳森建议佐尔格，把这件事同机智勇敢的章文先商谈一下，或许利用他的特殊身份可以帮助情报小组。佐尔格拒绝了克劳森的建议，说：“我们绝不能去冒这个风险。这件事是很棘手的，对方只要稍微怀疑密码受损，就会很快更改整个密码，我们的工作就会前功尽弃。”
不过，章文先到底是机智勇敢的谍报员，几天以后，他向佐尔格报告了对方的“弱点”。施特尔茨纳与一位中国富商的女儿结了婚。她既想永远地得到他，又担心会失去他，所以千方百计地设法提高自身的地位。在家里，她是唯一被允许去所有房间的人，包括施特尔茨纳那间“神圣不可侵犯”的办公室，因为施特尔茨纳信不过他雇用的所有男女佣人，然而对他的妻子，却是十分放心的。他相信，她绝对不敢过问他工作上的事情，而且她也没有受过这方面的技术训练，她只能结结巴巴的讲几句英语和德语，整天只想着穿着打扮，洒昂贵的法国香水。每逢丈夫出差去南京时，她便同母亲一起去上海采购物品。然而，在价格飞涨的年代，就连收入不菲的军事顾问施特尔茨纳也承受不起这么大的花销。强烈的虚荣心和贪欲促使这位施太太同意了情报人员提出的建议，拍摄她丈夫办公室的文件以换取昂贵的法国香水。
问题是，她不会使用现代化的微型照相机，可情报小组又没有充足的时间去训练她如何使用。这时，情报小组中一个叫约翰的小伙子出马了。他献出自己的一架莱卡照相机，对其进行了改装。他固定好所需的光圈和曝光时间，用根栓着铅块的线测定好相机与所拍物体的最佳距离。这样，章文先的助手用不到十分钟的时间就教会了施太太照相：把纸面放在落地灯或台灯的下面，用铅块压住，然后把线拉直，拿稳相机，慢慢地按下相机的快门，照完一张马上卷一下胶卷。换胶卷也并不复杂。这一套照相方法学会之后，施太太把照相机和十卷胶卷同她采购的物品以及情报小组预付她的报酬（几瓶名贵的法国香水）悄悄地拿回家，放在了她的衣箱里。
情报小组都在焦急等待她的进展。终于有一天，约翰把施太太送来的胶卷冲洗了出来。大家从定影盘里一张一张地把照片取出。照片上有德文、英文和中文，有各种数字和符号，还有私人信件和复制的指令，简直就是个大杂烩。还有许多被弄破了或是照偏了的照片。当然不能要求施太太系统地、一页一页有条不紊地进行拍摄，因为她毕竟是个外行。
克劳森、佐尔格和约翰根据语种粗略分类，而后由佐尔格看英文资料、克劳森看德文、把中文的留给常同志看。不管怎样，这个窃取国民党核心部门密码的计划初见成效。
有意思的是，施太太是个很聪明的人，在一个月以后便会熟练地使用照相机，而且根据联络员教会她的常见德文缩写句式，竟能辨别出文件的种类来。这样，初期那种大杂烩的局面逐渐减少，代之的是越来越专业的文件。不过同时，施太太的价码也在提高，从最初的香水到后来的名贵时装，以至最后的现金，情报小组都尽量满足了她的要求。
就这样，情报小组掌握了国民党南京总司令部及其下属各师、旅部进行无线电通话的密码。
三个月后，施太太从浙江最后一次将材料送来时，附带也把莱卡照相机带来了。她说要随她的丈夫去武汉，这种事情不再做了。
令人惊奇的是，施太太送来的最后一批资料中，意外地拍摄到一本附有德国军事顾问与国民党进行联络的公务电话号码和私人电话号码。根据这个材料，佐尔格向莫斯科中央总部列出了一张在中国的德国军事顾问名单和职务表，并报告了他们在中国的活动情况。佐尔格还在名单上标明了兵种的分类及所在军队的工作使命。
1931年夏，中国政局风云变幻，上海笼罩在一片白色恐怖之中。
一天，佐尔格找到方文严肃地说：“过去一年多来，我们是赤手空拳深入敌人心脏里去。现在敌人逼到了我们头上来了，我们急需防御的武器，我们应即刻买十支手枪，越快越好。这一紧急任务，我以共产国际的名义交给你，必须完成。”
方文接到这一新的紧急任务后，立即去找神通广大的蔡老板——蔡叔厚同志。
在“绍敦电机公司”，方文见到了蔡叔厚，直截了当地把买十支手枪的任务提出来。
蔡叔厚竟毫不犹豫地答应下来，这倒让方文有些吃惊，因为买枪毕竟不同于一般的买卖。方文忍不住追问他到哪里去买枪。蔡叔厚告诉他，电器公司经常和外国洋行打交道，外国商人大多兼营军火生意，因为这生意能赚大钱。
方文提醒他，外国人卖军火没人敢管，但中国人做这种事是不允许的，搞不好会吃官司的。
蔡叔厚笑着说：“没事。租界里的军阀富户都有保镖，都有枪，我只说我也做这个生意，代有钱?br />