Фильм рассказывает о событиях 1944 года и об одной операции СМЕРШа - спецотдела советской контрразведки. Командование подозревает, что на освобожденной территории работает враг, который должен достать компрометирующие советское правительство документы (речь идет о тайных переговорах с немцами), оставшиеся где-то в подземелье бывшей ставки Гитлера.

В основу сериала «Смерть шпионам-2» положены события Великой Отечественной войны - противостояние фашистской разведки и советской контрразведки во время подготовки к ялтинской конференции встреч глав государств-союзников.

На территории Польши, оккупированной немцами, действует разведшкола, готовящая диверсантов. У каждого из них свои жизненные обстоятельства, заставившие служить врагам. Группу из шести человек отправляют в советский тыл, чтобы уничтожить важный стратегический мост в районе Житомира.

Май 1943 года. Начальник УКР СМЕРШ генерал-майор Полуноченко поручает молодому сотруднику — лейтенанту ГБ Николаю Ковальчуку проверить ничем не примечательного школьного сторожа, которым заинтересовалась немецкая разведка. Ковальчук узнает, что Вениамин Шубников на самом деле — бывший сотрудник украинского физико-технического института, физик-ядерщик. В 1939 году Шубников был арестован по делу физиков-вредителей. Однако по дороге в лагерь ему и еще одному фигуранту харьковского дела, арестованному за шпионаж немецкому физику Георгу Хоутермансу, удалось бежать.

1944 год, Белоруссия. Немецкие диверсанты, действующие в советском тылу, совершают нападение на машину представителя Генерального штаба Красной Армии и похищают важные документы. Пытаясь перейти линию фронта, командир группы немецкий полковник Нойбер прячет документы в лесу и попадает в плен. Теперь только он знает место тайника с секретным портфелем. По поручению Гиммлера, Скорцени готовит новый отряд специально подготовленных бойцов, цель которого — освободить из плена полковника Нойбера и вывезти спрятанные им документы в Германию. Диверсантам противостоят сотрудники советской армейской контрразведи «Смерш».