В апреле 1918 г. вступил в РКП(б). С сентября 1918 г. служил в Красной Армии. Воевал на Южном фронте, начальник конной связи и помощник начальника штаба по оперативной части 1-й бригады 1-й Московской Рабочей дивизии, с февраля 1920 г. — инструктор-контролер 24-й бригады ВОХР Орловского сектора, с октября 1920 г. сотрудник для поручений при начальнике 5-й дивизии внутренней службы в г. Козлове.
При расформировании войск внутренней службы рекомендован в органы ВЧК. С января 1921 г. помощник уполномоченного по борьбе со спекуляцией районной транспортной ЧК Центра (г. Москва), затем уполномоченный, зам. начальника, начальник секретно-оперативной части Отдельной дорожно-транспортной ЧК и одновременно зам. начальника Отдельной дорожно-транспортной ЧК в Москве.
В апреле 1922 г. направлен в полномочное представительство ГПУ Дальневосточного ВО, был назначен зам., начальника Особого отдела 17-го Приморского корпуса в г. Никольске-Уссурийском. С февраля 1923 г. начальник экономического отделения Приморского губернского отдела ГПУ во Владивостоке. В феврале 1924 г. переведен на работу в разведку с зачислением в негласный штат по закордонной работе полномочного представительства ОГПУ Дальневосточного ВО; выезжал со спецзаданиями в Харбин и Пекин под прикрытием должности завхоза консульства СССР. С марта 1924 г. начальник 4-го отделения Экономического отдела Приморского губернского отдела полномочного представительства ОГПУ Дальневосточного ВО во Владивостоке, ответственный за борьбу с контрабандой наркотиков и оружия.
С сентября 1925 г. в аппарате ИНО ОГПУ, особоуполномоченный Закордонной части. С декабря 1925 г. легальный резидент ИНО в Хельсинки под прикрытием должности атташе полномочного представительства СССР в Финляндии. С 1927 г. на нелегальной работе в Дании. После возвращения в СССР с апреля 1929 г. особоуполномоченный Закордонной части, с января 1930 г. помощник начальника 8-го отделения ИНО ОГПУ. В марте 1930 г. назначен нелегальным резидентом ИНО ОГПУ во Франция; выехал по документам инженера Яна Кочека, словака по национальности, вместе с женой Е. Ю. Зарубиной (Горской), предварительно легализовавшись в Швейцарии. Действовал под видом совладельца гаража, затем — рекламной фирмы. Возглавляемая им резидентура ¦ получала секретные материалы не только по Франции, но и Германии, в частности, добываемую в германском посольстве политическую и экономическую информацию.
В декабре 1933 г. переведен нелегальным резидентом в Берлин. Провел ряд ценных вербовок, являлся оператором особо важного агента — сотрудника гестапо Вилли Лемана («Брайтенбах»). Полученная через него информация о структуре, кадрах, операциях РСХА, гестапо и абвера, о военном строительстве и оборонной промышленности Германии получила высокую оценку Центра.
В 1937 г. для выполнения спецзадания вместе с женой выезжал в США.
С января 1939 г. — старший оперуполномоченный 7-го отделения, с августа 1940 г. — зам. начальника 10-го отделения 5-го отдела ГУГБ НКВД СССР. Продолжал выполнять оперативные задания; в т. ч. привлек к сотрудничеству латиноамериканского дипломата, аккредитованного в Москве. Весной 1941 г. выезжал в Китай, где восстановил связь с Вальтером Стеннесом, германским военным советником Чан Кайши, в прошлом — одним из лидеров левого крыла НСДАП, руководителем берлинских штурмовых отрядов СА. Также выезжал в Швейцарию, Италию, Турцию, Польшу, Австрию. С февраля 1941 г. — зам. начальника 1-го управления НКГБ СССР.
В декабре 1941 г. был направлен резидентом в США действовал под фам. «Зубилина» и прикрытием должности вице-консула СССР в Нью-Йорке. Перед поездкой 12 октября 1941 г. имел личную беседу с И. В. Сталиным.
С апреля 1943 г. — главный резидент в США под прикрытием должности 2-го секретаря полпредства СССР. Получаемая из правительственных, военных и научных кругов США информация высоко оценивалась Центром и регулярно докладывалась советскому руководству.
Летом 1944 г. сотрудник резидентуры В. Д. Миронов написал донос на Зарубина и других коллег, якобы те являются немецкими и японскими шпионами, который отправил не только в Центр, но и директору ФБР Э. Гуверу, фактически раскрыв личный состав резидентуры.
В связи с этим в августе 1944 г. Зарубин был отозван в Москву и переведен в резерв на время расследования.
В ходе следствия было выявлено предательство Миронова. Последний был арестован и расстрелян.
По возвращении на родину до 1948 г. работал зам. начальника внешней разведки. В 1948 г. вышел в запас «по состоянию здоровья с правом ношения военной формы». После увольнения являлся председателем федерации тенниса ДСО «Динамо». В мае 1953 г. был принят П. А. Судоплатовым на работу в 9-й (разведывательно-диверсионный) отдел МВД СССР в качестве оперативного работника 1-й категории негласного штата.
Читать дальше