Родился в аварской семье, отец был председателем колхоза, кроме него, в семье было еще восемь детей. В 1975 окончил исторический факультет Дагестанского государственного университета, в 1978 — аспирантуру Ленинградского государственного университета (ЛГУ), в 1985 стал доктором философских наук, защитив диссертацию на тему «Национальные отношения развитого социалистического общества».
С середины 1970-х годов находился на партийной работы — заместитель заведующего отделом агитации и пропаганды Тляратинского райкома КПСС (1974-1975). В 1978-1987 преподавал философию (заведовал кафедрой) в Мурманском военном инженерном морском училище.
В 1988-1990 в аппарате ЦК КПСС — заведующий сектором Отдела межнациональных отношений.
В 1990 был избран народным депутатом РСФСР, а также в Верховный Совет, где возглавил Совет национальностей РСФСР. Во время предвыборной кампании по выборам президента России баллотировался в вице-президенты в паре с В. Бакатиным, выступавшим с умеренно-реформистских позиций. По итогам выборов заняли последнее место, собрав 3,42% голосов.
Во время Августовского путча в 1991 приехал из Махачкалы в Москву в «Белый дом» и выступил в поддержку российского руководства.
Весной 1992 Совет Национальностей ВС одобрил концепцию государственной программы национального возрождения народов России, разработкой которой руководил Абдулатипов. Был руководителем рабочей группы по разработке Федеративного договора, сторонником его подписания и включения в Конституцию. В дальнейшем постоянно выступал за его проведение в жизнь, внесение соответствующих ему изменений в законодательство Российской Федерации.
В сентябре 1993 осудил роспуск Съезда народных депутатов Президентом Ельциным. Участвовал в переговорах с представителями Президента о возможных компромиссах. Достигнутые договоренности были, однако, отвергнуты Верховным советом. Вскоре после подавления вооруженного сопротивления сторонников парламента и вице-президента А. В. Руцкого был назначен первым заместителем председателя Государственного Комитета по делам Федерации.
В декабре 1993 был избран в Совет Федерации, где стал одним из троих заместителей председателя Совета Федерации, оставался на этом посту до начала 1996.
В 1995-1997 депутат Государственной думы РФ. С августа 1997 по апрель 1998 — заместитель председателя Правительства Российской Федерации.
В 1998-1999 министр национальной политики в правительстве Е. М. Примакова. В 1999-2000 министр (без портфеля) в правительствах С. В. Степашина и В. В. Путина. С декабря 2000 представитель губернатора Саратовской области Д. Аяцкова в Совете федерации. Является председателем общественной организации «Совет народов России».
27 апреля 2005 года полномочия представителя губернатора прекращены в связи с истечением срока. Доктор философских наук, профессор, академик РАЕН. Почетный председатель Союза мусульман России. Автор десяти книг и более ста статей. Награжден орденом Дружбы. Женат, дочь, два сына.