Курмангазы родился в семье бедняка в урочище Жидели в Казахстане. Его талант и страсть к музыке проявились с раннего детства, но, как это часто бывает, отец увлечение сына не одобрял и считал, что музыка не может быть достойным занятием в жизни. В 6 лет Курмангазы отдали в услужение к баю пастухом, но тяжелый каждодневный труд не убил в будущем композиторе любовь к музыке. Домброй он виртуозно овладел еще в раннем детстве, а секретам мастерства учился у заезжих кюйши.
В 18 лет он сбегает из родного аула и ведет жизнь бродячего исполнителя-кюйши. Участвует в музыкальных состязаниях, дает концерты в юртах и аулах, и вскоре молва о нем как об одном из самых талантливых домбристов, распространяется по всей округе. Бродячая жизнь открыла композитору глаза на окружающий мир.
В 1880 году Курмангазы уже в статусе уважаемого в народе аксакала поселился в селе Сахма в Володарском районе Астраханской области. Он собрал вокруг себя учеников, которым старался передать свои знания и опыт. Самыми известными его астраханскими учениками стали Дина Нурпеисова, Мамен, Ергали Есжанов.
В 1896 году Курмангазы Сагырбаева не стало. Похоронен он в селе Алтынжар Володарского района Астраханской области. По одной из версий, здесь находилось родовое захоронение, а по другой — сам Курмангазы завещал похоронить себя здесь, рядом с могилой друга. На этом месте был создан музей. Идея создать музей родилась у местного учителя истории и обществознания в 1979 году.
21 декабря 1986 года музей был торжественно открыт. Поначалу здесь было всего два зала — один рассказывал о творчестве Курмангазы Сагырбаева, второй — о его последователях.
В 1990 году площадь музея расширяется, появляется еще одна экспозиция, посвященная жизни казахов на Нижней Волге. А сам он входит в состав Астраханского государственного объединенного историко-архитектурного музея-заповедника в статусе филиала.
В 1996 году над захоронением Курмангазы возвели белоснежный мавзолей, который видно издалека — он стал местом паломничества почитателей композитора, а также единственным российским мавзолеем в восточном стиле. Многие посетители, однако, не догадывались о существовании в центре села еще и музея, а потому просто проезжали мимо него.
Тем не менее, музей привлекает довольно много туристов. Люди едут сюда, чтобы познакомиться с творчеством композитора, побывать на могиле великого казаха. Считается даже, что захоронение Курмангазы Сагырбаева обладает мистической силой, способной исцелять и разрешать жизненные проблемы.
В честь великого казахского музыканта в Астрахани поставлен памятник. Памятник Курмангазы стал подарком правительства Республики Казахстан к 450-летнему юбилею Астрахани. Комплекс, представляющий собой скульптуру коня, на котором восседает певец с домбрОй в руках, выполнен из бронзы и достигает шести метров в высоту и метра в основании. Памятник установлен на трёхметровом постаменте, выполненном из куртИнского гранита. Торжественное открытие скульптурного комплекса состоялось 13 декабря 2008 года. Монумент расположен на пересечении улиц Советской и Калинина. Авторы памятника — известные в Казахстане скульпторы Едиге Рахмадиев и Токтарбек Рахиев.