Родился 21 сентября 1882 года в лакском селении Шуни в семье многодетного бедного крестьянина. Приобщаться к труду Абуталиб стал с восьми лет – пас телят состоятельных односельчан.
В одиннадцать лет он был отдан на обучение к кузнецу-лудильщику в селение Кумух. Овладев мастерством, он вместе с хозяином-мастером отправляется на отхожий промысел.
Абуталиб побывал в Дербенте, Баку, Гяндже, Тбилиси, Астрахани, Царицыне и выучился говорить по-кумыкски и по-азербайджански, по-грузински и сносно по-русски.
Вернувшись в Дагестан восемнадцатилетним парнем, Абуталиб стал аульским чабаном. Смастерив себе камышовую свирельку-балабан, наигрывая на ней, стал сочинять незамысловатые песни. Позже научился играть на зурне, чонгуре и агач-кумузе. К тому периоду (1915-1916 гг.) и относится начало его творческой деятельности.
Революционные события 1917года Абуталиб Гафуров встретил, находясь на заработках в Карабудахкенте. В годы гражданской войны он вступил в отряд красных партизан и участвовал в боях за установление советской власти в Дагестане. В бою под Араканами он был ранен. Позже сражался под Манасом с турецкими оккупантами. В 20-е годы XX в. несколько лет работал сезонным рабочим на рыбных промыслах, позже – кустарем-лудильщиком в Махачкале.
В годы культсанштурма Абуталиб овладел грамотой и начал записывать свои стихи. С 1929 года Гафуров стал работать музыкантом в национальном ансамбле Даградиокомитета.
В начале 30-х годов XX в. произошла встреча Гафурова с Э. Капиевым, которая предопределила его дальнейший творческий путь и открыла читателям его самобытное творчество.
В 1932 году в альманахе «Шаги революции» впервые были опубликованы на родном языке стихи Абуталиба: «Ленин», «Красная Армия», «Новый мир» и другие. Позже его стихи стали появляться на страницах областных газет на русском языке в переводе Э. Капиева и на языках народов Дагестана.
Гафуров — участник Первого Вседагестанского съезда писателей, член Союза писателей СССР с 1937 года. В 1939 году ему было присвоено звание народного поэта Дагестана.
В годы Великой Отечественной войны Гафуров работал на строительстве оборонительных сооружений на подступах к Дагестану. Военное командование высоко оценило самоотверженный труд поэта, представив его к награждению орденом Трудового Красного Знамени и Почетной грамотой Дагестанского государственного Комитета Обороны.
В 1942 году в Даггизе вышла в свет его книга стихов «За Родину!», а в следующем году – сборник стихов «Голос Дагестана».
В послевоенные годы в дагестанских книжных издательствах выходят его книги стихов: «Победа», «Родные горы», «Светлый путь», «Счастливая жизнь», «Избранные произведения», «Достигнутое желание», «Избранное», «Медоносная пчела», «Весеннее утро», «Хорошее слово», «Расцвет жизни», «Новая ступень», «Избранное и поэмы» и другие. Всего в дагестанских и московских издательствах в разные годы вышло около тридцати книг Гафурова, из них шесть на русском языке. Стихи Гафурова переводились и публиковались на всех языках народов Дагестана, на многих языках народов СССР и ряда иностранных языков.
Абуталиб Гафуров принимал активное участие в общественной жизни республики. С 1955 года он являлся депутатом Верховного Совета Дагестанской АССР шести созывов, членом его Президиума, делегатом второй Всесоюзной конференции сторонников мира в Москве, членом Правления Союза писателей Дагестана.
В 1970 году ему была присуждена республиканская премия им. С. Стальского (за книгу стихов «Шаги жизни»).
В 1974 году в Москве в издательстве «Современник» вышел сборник стихов Гафурова «Абуталиб сказал», переведенный на русский язык талантливым русским поэтом В. Солоухиным.
Абуталиб Гафуров был награжден орденом Ленина, двумя орденами Трудового Красного Знамени, орденом Октябрьской революции, медалями «За оборону Кавказа» и «За доблестный труд в Великой Отечественной войне 1941-1945гг.».
Образ мудрого поэта увековечен Расулом Гамзатовым в книге «Мой Дагестан». Его именем названа одна из улиц в Махачкале. Бюст поэта установлен в центральном сквере столицы Дагестана.