Кобзон се родио 11. септембра 1937. године у Украјини, у граду Часов Јар у Доњецкој области, а певањем је почео да се бави још у детињству.
Као деветогодишњак је наступио у Кремљу пред Јосифом Стаљином. Соло-певање је похађао на Државном музичко-педагошком институту „Гњесини“.
По окончању академије, почео је да наступа у дуету с колегом Виктором Кохном на Свесавезном радију. Победа на Сверуском такмичењу естрадних уметника и на фестивалу у пољском Сопоту 1964. године учврстила је његову позицију на естради.
У Совјетском Савезу није било човека коме није био познат његов лирски баритон. Кобзон је више од пола века веома активно наступао широм света. Активно је учествовао у друштвено-политичким процесима у Русији и био посланик Државне думе Русије.