Карим Абдрауфович родился 28 ноября 1892 года в деревне Дюсяново Белебеевского уезда Уфимской губернии. Начальное образование Карим получил в медресе села Каргалы. В возрасте 15 лет был вынужден покинуть родную деревню. Карим Хакимов заканчивает знаменитое медресе «Галия» в Уфе, затем учится в Томской мужской гимназии. Но и здесь он не получает необходимых знаний и, не окончив учебу, уезжает в Среднюю Азию. Для него начались годы скитаний и лишений. Он работал чернорабочим на угольной шахте, затем служил в армии.
Октябрьскую революцию 1917 года К. Хакимов встретил в Оренбурге. Его избирают членом Оренбургского военно-революционного комитета, затем губисполкома, членом губкома РКП(б). Он становится командиром 2-го батальона интернационального полка на Актюбинском участке Оренбургского фронта, начальником политотдела 1-й Приволжской татарской бригады. Отправной точкой политической деятельности Карима Хакимова стал пост народного комиссара по просвещению в Оренбургской губернии.
Отсчет работы в дипломатической сфере у К.А. Хакимова начинается с 1920 года когда, по рекомендации В.В.Куйбышева, его берут на работу в НКИД, тогда и начинается его активная деятельность, направленная на налаживание тесного сотрудничества между советским правительством и арабским миром.
До 1921 года Карим Хакимов занимает должность заместителя начальника политуправления Туркестанского фронта, одновременно являясь секретарем временного ЦК компартии Туркестана, полномочным представителем РСФСР в Бухарской народной республике и секретарем ЦК Бухарской коммунистической партии. Последующие три года он продолжает свою работу в качестве Генерального консула РСФСР/СССР в Персии (ныне Иран). Работает в городах Мешхеде, Реште.
К.А.Хакимов принимал непосредственное участие в становлении нового государства Саудитов. Он стал личным другом главы-основателя правящей ныне династии Абдель Азиза ибн Сауда и завоевал доверие простых жителей Аравийского полуострова.
В течение трех лет (1924-28 года) К.А.Хакимов работает полномочным представителем СССР в Королевстве Хиджаз, Неджд и присоединенных областей (с 1932 года – Королевство Саудовская Аравия).
Следующие три года – 1932-1935г.г. – полномочный представитель СССР в Йеменском королевстве, одновременно – генеральный представитель «Ближневостокторга».
В 1936 году К.А.Хакимов становится полномочным представителем СССР в Королевстве Саудовская Аравия. Год спустя его отзывают в Москву. В 1937 году он становится жертвой сталинских репрессий, расстрелян в 1938 году. С 1930-х до 1990-х годов все дипломатические отношения с КСА были заморожены, в Эр-Рияде не было советского посла. После того как дипломат СССР и близкий друг короля Карим Хакимов по возвращении домой был репрессирован и расстрелян, король Абдель Азиз отказался принимать новых представителей советского государства.
28 января 1956 года Карим Хакимов был реабилитирован посмертно.