Леонид Рымарь (Иосиф Рымарь) родился в городе Киев, Украинская ССР, СССР в рабочей семье. Окончил вокальное отделение училища при консерватории имени Н.А. Римского-Корсакова. Потом пел в армейском ансамбле Прикарпатского военного округа во Львове. После армии вернулся в Киев. Его приняли в хор капеллы киевского завода "Большевик". На одном из конкурсов молодого талантливого певца заметил режиссер Киевского театра оперетты. Леонида пригласили работать в хоре театра и одновременно учиться в студии по подготовке актёров оперетты. В 1965 году рижский актёр Альфред Озеров услышал молодого певца и порекомендовал его администрации Рижского театра оперетты, после чего он приехал в Ригу на прослушивание и сразу был принят в труппу театра оперетты.