Возникновение русской церкви в православном Белграде отвечало насущной потребности русских людей, выброшенных революцией за пределы своей страны. Организация церковного прихода в гостеприимной Сербии связана с личностью отца Петра Беловидова
В сентябре 1920 года им была отслужена первая служба в столовой Русского общества взаимопомощи (ул. Краля Петра). Богослужения там совершались до октября месяца, когда было получено помещение в здании школы на Богоявленской улице. Позднее службы проводились в зале Третьей мужской гимназии (Негошева ул.), а в 1922-1924 годы — в палатке походной русской военной церкви при храме Св. Марка (Ташмайдан).
На собранные пожертвования и помощь, оказанную правительством, по проекту и под руководством инженера-полковника Валерия Владимировича Сташевского, на Ташмайданском холме был построен русский храм в традициях псковско-новгородского зодчества. Освещение храма состоялось 24 декабря 1924 года. На Рождество 1925 года был установлен колокол — личный дар премьер-министра Николы Пашича, бывшего посланника Королевства Сербии в Петербурге.
Над росписью 48 икон иконостаса в стиле новгородского письма XV века по предварительно разработанным эскизам, и при участии Е. И. Конопацкого, трудилось несколько художников.
В храме расположены и иконы в резных киотах: «Пресвятой Богородицы Донской» (работа известного иконописца Пимена Софронова), Пресвятой Богоматери «Знамение» (благословение русской обители на Афоне), «Св. Великомученника Пантелеймона» (благословение афонского Свято-Пантелеймоновского монастыря), а также киоты, созданные в память адмирала Александра Колчака (икона Св. Александра Невского), Патриарха Сербского Варнавы (преданного защитника русских беженцев, икона Св. Апостола Варнавы, — работа художника В. Я. Предаевича), протоирея Петра Беловидова (основателя прихода и первого настоятеля храма, икона Св. Петра Московского).
После Второй мировой войны в этот храм из города Сараево привезены Малый Сараевский киот с иконой «Воскресения Господня» и сень с иконами Святителя Чудотворца Николая и Святого Князя Александра Невского (сооруженная в память убиенных Государя Императора Николая II и Югославского Короля Александра I). В храме также выставлено много ценных русских икон, подаренных прихожанами.
При храме Св. Троицы действовал Приходской совет, занимавшийся благотворительной деятельностью, устраивались миссионерские курсы и лекции, издавался вестник церковной жизни.
До 1944 года здесь в киоте хранилась и святыня-заступница Русского Зарубежья, чудотворная икона Божьей Матери «Знамения», известная как «Курская Коренная», вывезенная из России епископом Курским и Обоянским Феофаном (с 1957 года она находится в Нью-Йорке).
Храм Св. Троицы в Белграде стал известен всему Русскому Зарубежью, как средоточие церковной жизни Русской Православной Церкви за рубежом (РПЦЗ). Здесь приняли священнический сан многие иерархи Русской церкви, отправляли службу все сербские патриархи. Ежедневные богослужения в нем отличались строгой уставностью, проводились по монастырскому типику.
До 1944 года храм был хранилищем знамен и штандартов славных полков Русской императорской армии, вывезенных с юга России. С октября 1929 года в храме покоятся останки Главнокомандующего Русской армией генерал-лейтенанта барона Петра Николаевича Врангеля.
После кончины первого настоятеля протоиерея Петра Беловидова (1869-1940), его сменил отец Владислав Неклюдов (1898-1949), оставшийся при храме после эвакуации на Запад Управления РПЦЗ (осенью 1944 года во главе с митрополитом Анастасием). При протоиерее Владиславе храм Св. Троицы перешел в ведение Московской Патриархии, а после разрыва государственных и партийных отношений между СССР и Югославией, настоятель трагически окончил свою земную жизнь в одиночной камере следственной тюрьмы. Короткое время, до своего выезда в СССР, настоятелем храма состоял протоиерей Иоанн Сокаль (впоследствии епископ Смоленский Иннокентий; 1883-1965).
