Учась в медицинском училище, Ольга пела на вечерах отдыха в студенческом ансамбле. На одном из конкурсов она и участник их коллектива Сергей Коржуков (будущий солист группы «Лесоповал»), который тоже учился в этом училище, исполнили песни из кинофильма «Романс о влюблённых», после чего заняли первые места. Этот дуэт заметил на конкурсе шансонье Александр Заборский и пригласил обоих в свою группу «Почтовый дилижанс» при московском Главпочтамте. Так Ольга училась в училище и, в свободное время, пела в новом коллективе. Первая встреча с композитором Вячеславом Добрыниным произошла на Главпочтамте в 1977 году. Добрынин предложил популярному ансамблю «Лейся, песня» (руководитель — Михаил Шуфутинский) прослушать юную певицу. Ольга проходит прослушивание и записывает с ансамблем бэк-вокалом песню «Вот увидишь».
Первое появление Ольги Зарубиной на телеэкранах с «Песенкой о капитане» происходит всё в том же 1977 году в телепередаче «Споёмте, друзья!». Тогда же на конкурсе молодых исполнителей в ДК им. Горбунова на юную певицу обратил внимание композитор Давид Тухманов, сидевший в жюри. Он записал в блокнот фамилию певицы и пообещал в скором времени написать для неё песню. И он сдержал обещание. Через год песня Давида Тухманова «Так не должно быть» на стихи поэта Леонида Дербенёва была исполнена певицей в новогоднем «Голубом огоньке» (эфир 1 января 1979 года) дуэтом с артистом Михаилом Боярским, что принесло Зарубиной всесоюзную известность. Также был отснят номер для фестиваля «Песня года» (однако впоследствии номер был вырезан из телеэфира).[источник не указан 1590 дней]
После того конкурса, в конце 1977 года по совету Тухманова Ольгу Зарубину пригласили работать в ВИА «Музыка» (художественный руководитель Николай Воробьёв) на исполнение главной женской роли Ассоль в опере-феерии «Алые паруса», композитором и поэтом которой является Андрей Богословский. Зарубина не только блистательно исполнила данную ей роль (в детской и подростковой партии), но и записала с ансамблем песни: «Весенняя бессонница», «Я к тебе приеду», «Не всегда», «Не красавец» и др. В 1979 году в кинофильме «Летние гастроли» она исполнила песни: «Радость моя» и «Возьми меня с собой» композитора Алексея Мажукова и поэта Михаила Танича.
В 1980 году ВИА «Музыка» распался из-за ложного обвинения его руководителя якобы в том, что он украл и продал музыкальные инструменты у своего коллектива. Николай Воробьёв покинул ансамбль. Воспользовавшись случаем, руководитель из Москонцерта Михаил Ильич Якон создал ансамбль «Метроном» и забрал часть состава, включая Ольгу Зарубину, из ВИА «Музыка». Недолго проработав в новом коллективе, Зарубина ушла из него на сольное отделение Москонцерта. Пришедший в «Метроном» ещё никому не известный музыкант Александр Выгузов (позже Малинин) завязал с Ольгой отношения. В 1983 году пара поженилась, но трёхлетний брак оказался непрочным. Они расстались в 1985 году, сразу после того как родилась их дочь Кира.
«Пожениться надо было хотя бы потому, что у Саши не было московской прописки. Сама ему и подсказала».
— Ольга Зарубина: Я счастлива, что вы меня не забыли — Журнал для женщин «Сударушка»
Ольга Зарубина многократно участвовала в телепередаче «Шире круг» (в 1977—1991 годах, одновременно в 1983 году была ведущей выпусков программы к праздникам 8 марта, 7 ноября и Новому году). Неоднократно участвовала в передаче «Утренняя почта» (в 1982, 1983, 1985 и 1986 годах). Для неё писали песни самые известные композиторы и поэты: Алексей Мажуков, Михаил Танич, Леонид Дербенёв, Вячеслав Добрынин, Михаил Рябинин, Игорь Азаров и многие другие.
После развода пела в ресторане гостиницы «Космос»[3]. В 1985 году вышел сольный миньон «Кукла», изданный фирмой «Мелодия».
В 1987 году познакомилась с будущим мужем, известным администратором Владимиром Евдокимовым, который помог ей вернуться на эстраду и устроил ей гастроли[3]. Наибольший успех пришёл в конце 1980-х годов, когда Зарубина дважды выходила в финалы телевизионного фестиваля «Песня года» (в 1987 году — с самой популярной своей песней «На теплоходе музыка играет», в 1989 — с песней «Разгуляй»). В 1988, 1990 и 1991 годах участвовала в промежуточных выпусках фестиваля[4]). В 1988 году певица стала лауреатом фестиваля советской песни в Зелёной Гуре.
В 1988 году на экраны вышел фильм «Приморский бульвар», в котором Ольга Зарубина спела две песни, одну из них («Почему мы не вместе?») дуэтом с певцом Евгением Головиным. В 1991 году Ольга Зарубина создала один из самых женственных образов на экране, сыграв народную шотландскую святую — Безумную Лори (англ. the Mad Lory, Лори Макгрегор), колдунью и целительницу — в экранизации повести-сказки Пола Гэллико «Томасина. Кошка, которая думала, что была Богиней» (фильм «Безумная Лори»).
В конце 1980-х годов в телепередаче «Прожектор перестройки» был показан сюжет о выступлении Ольги Зарубиной под фонограмму на концерте в Чебоксарах. После этого карьера певицы пошла на спад
В июне 1991 года из-за творческой неудовлетворённости эмигрировала с