Помощниками Трилиссера в ИНО были Георгий Евгеньевич Прокофьев и Владимир Сергеевич Селезнев. Закордонное отделение ИНО возглавлял сам Трилиссер, бюро виз — Николай Угаров. Позднее помощниками Трилиссера в разное время были Иван Васильевич Запорожец, Михаил Савельевич Горб, Алексей Васильевич Логинов-Бустрем и Сергей Георгиевич Вележев.
По предложению Дзержинского 26 марта 1926 года Трилиссер был назначен зампредом ОГПУ. В июле 1927 года Иностранный отдел был выведен из состава Секретно-оперативного управления ОГПУ и передан в непосредственное подчинение Коллегии ОГПУ.
И января 1923 года было создано специальное Бюро по дезинформации, в состав которого вошли представители от ЦК партии, НКВД, а также РВСР и Разведупра Штаба РККА. Позднее этот орган сыграл важную роль в знаменитых операциях «Трест» и «Синдикат», а также в других операциях: «Д-7» (1924-4929) с участием легендированной «Военной организации» бывших офицеров-монархистов в Ленинграде; «С-4» (1924—1932) с участием легендированной «Внутренней русской национальной организации» (ВРИО); операции «Заморское» (1929—1932) с участием легендированной антисоветской организации «Северо-Кавказская военная организация» (СКВО); операции «Академия» (1929—1934).
Операция «Трест» была проведена для нейтрализации подрывной деятельности монархических организаций за рубежом, таких, как «Высший монархический совет», «Русский общевоинский союз» (РОВС) и другие. В процессе проведения этой операции удалось вывести на советскую территорию и захватить английского разведчика Сиднея Рейли. Важнейшее значение «Треста» заключалось также в том, что вплоть до 1927 года удавалось парализовать деятельность террористов РОВСа, руководимых Марией Захарченко-Шульц.
Целью операции «Синдикат-2» была нейтрализация деятельности эсеровского «Народного союза защиты родины и свободы». В ходе операции были арестованы главарь союза Борис Савинков и ряд его сподвижников. Серьезный удар был нанесен и по РОВ Су, который объединил остатки бежавших за границу белых армий и ставил своей задачей проведение на территории СССР террористических и других подрывных акций, а также подготовку военной интервенции. При помощи агентуры внешней разведке удалось обезглавить эту организацию. Так, в 1930 году в Париже была проведена операция по захвату и доставке в СССР руководителя РОВСа генерала Кутепова. (Генерал погиб во время проведения операции.) А в 1937 году преемник Кутепова генерал Миллер был тайно вывезен в СССР и после следствия расстрелян. Особую роль в операциях против РОВСа сыграли агенты Иностранного отдела, бывшие царские генералы Павел Дьяконов и Николай Скоблин, жена Скоблина, известная исполнительница русских народных песен Надежда Плевицкая, а также находившийся в эмиграции бывший член Временного правительства и правительства Колчака Сергей Третьяков.
В это же время в структуре разведки появляется научно-техническое направление. Начинаются контакты с органами безопасности дружественных (в то время) государств— Монголии, Турции, Литвы.
27 октября 1929 года Трилиссера сняли со всех постов в ОГПУ за открытое выступление против Генриха Ягоды. В феврале 1930 года его назначили заместителем наркома РКИ РСФСР (с 1927 года он был членом ЦКК ВКП(б), с 1930года— членом Президиума ЦКК). В 1934— 1935 годы Трилиссер, избранный на XVII съезде партии членом Комиссии советского контроля при Совнаркоме СССР, был уполномоченным КСК по Дальневосточному краю. После VII конгресса Коминтерна работал в Президиуме и Секретариате Коминтерна (под псевдонимом Москвин), курировал деятельность Польско-прибалтийского секретариата и Отдела международных связей Исполкома Коминтерна. В ноябре 1938 года Меер (Михаил) Абрамович Трилиссер был арестован и 2 февраля 1940 года расстрелян по приговору Военной коллегии Верховного суда СССР. Посмертно реабилитирован в 1956 году.
На посту начальника ИНО и зампреда ОГПУ Трилиссера сменил Станислав Адамович Мессинг.
Он родился в Варшаве в 1890 году в семье музыканта. Учился в гимназии (не окончил), работал в типографии. В 1907 году вступил в «Социал-демократическую партию Королевства Польского и Литвы, арестовывался полицией, жил в эмиграции в Бельгии (1908—1911), в 1913— 1917 годы служил в русской армии в Туркестане и. на Кавказском фронте. Участвовал в Октябрьской революции в Москве. С 1918 года по предложению Дзержинского, знавшего Мессинга по варшавскому подполью, работает в ЧК. Руководил Сокольнической районной ЧК, был заместителем председателя и председателем Московской ЧК, с конца 1921 года до конца 1929 года руководил органами ЧК-ГПУ в Петрограде-Ленинграде, с 1920 года был членом Коллегии ВЧК-ОГПУ.
Мессинг провел реорганизацию Иностранного отдела. В январе 1930 года был объявлен новый штат ИНО (94 сотрудника). Вместо Закордонной части и Отделения иностранной резидентуры было создано 8 отделений. Заместителем начальника стал Артур Христианович Артузов, помощниками начальника Абрам Аронович Слуцкий и Михаил Савельевич Горб.
Начальниками отделений ИНО стали:
1-
е отделение (нелегальная разведка) — Л. Г. Эльберт,
2-
е отделение (вопросы выезда и въезда в СССР)— И.А.Бабкин,
3-
е отделение (США и крупнейшие государства Европы) — М. Г. Молотковский,
4-
е отделение (Финляндия и страны Прибалтики) — А. П. Невский,
5-
е отделение (белая эмиграция) — А. П. Федоров,
6-
е отделение (страны Востока) — К. С. Баранский,
7-
е отделение (экономическая разведка) — А. А. Нейман,
8-
е отделение (научно-техническая разведка) — А.М.Орлов.
Штат отдела составил 121 человек.
Эти меры были приняты после заседания Политбюро ЦК ВКП(б) 30 января 1930 года, на котором была рассмотрена работа разведки, в решении были определены главные задачи разведывательной работы. В постановлении Политбюро отмечалось, что Советский Союз находится на пороге новой войны, рекомендовалось переводить работу заграничных аппаратов ИНО из советских учреждений на нелегальное положение. Увеличилось финансирование разведки. Была создана самостоятельная спецгруппа под руководством Якова Исааковича Серебрянского, вошедшая в историю советской разведки как «группа Яши», для развертывания диверсионно-террористической деятельности в глубоком тылу противника на случай начала войны с «западными демократиями». Первоначально эта группа действовала в составе ИНО ОГПУ, но позднее она перешла в непосредственное подчинение наркома внутренних дел СССР, а с 1937 года при секретариате Наркомата внутренних дел. За это время Серебрянский и его сотрудники создали двенадцать резидентур в Европе, Азии и Америке.
1 августа 1931 года Мессинг, вместе с другими руководителями ОГПУ выступивший против Ягоды, был снят с должности начальника Иностранного отдела.
Мессинг был переведен на хозяйственную работу. С августа 1931 года он был членом коллегии Наркомата внешней торговли СССР, руководил всесоюзным объединением по внешней торговле с Монголией и Тувой. В июне 1937 года Станислав Адамович Мессинг был арестован и 2 сентября того же года расстрелян «в особом порядке». Посмертно реабилитирован в 1956 году.
Преемником Мессинга стал Артур Христианович Артузов, член Коллегии ОГПУ с 31 июля.
Артузов (настоящая фамилия Фраучи) родился 5 (17) февраля 1891 года в селе
Установо Кашинского уезда Тверской губернии в семье сыровара, выходца из Швейцарии. Окончил с золотой медалью Новгородскую классическую гимназию и металлургический факультет Петербургского политехнического института, работал на Урале и в Петрограде. Большевик с декабря 1917 года, Артузов работал (под руководством своего родственника по материнской линии известного большевика Михаила Сергеевича Кедрова) в органах Наркомвоена на Северном фронте (Архангельск, Вологда) и в Москве в Военном контроле. С 1919 года в Особом отделе ВЧК: особоуполномоченным, начальником отделения, помощником и заместителем начальника отдела. С момента образования Контрразведывательного отдела ГПУ был его начальником (1922— 1927). Артузов разработал и провел такие крупные операции, как «Синдикат-2» и «Трест». С 1927 года был помощником начальника Секретно-оперативного управления ОГПУ. 1 января 1930 года назначен заместителем начальника ИНО.