İbrahim Əbilov 1881-ci ildə Ordubadda anadan olmuşdur.
Məhəmməd Tağı Sidqinin Ordubaddakı "Əxtər" məktəbində oxumuş, atasının vəfatından sonra ailəsini dolandırmaq üçün təhsilini yarımçıq qoymuşdur. 1903-cü ildən Petrovsk-Portda (indiki Mahaçqala) və Bakıda fəhləlik etmiş, inqilabi hərəkata qoşulmuş, ilk Azərbaycan sosial-demokrat təşkilatı "Hümmət"in (menşevik) üzvü kimi fəaliyyət göstərmişdir. 1907-ci ildə Bakı Xəzər Ticarət donanması dənizçilərinin tətilinin təşkilatçılarından olub. 1908-ci ildə Güney Qafqazda və Güney Azərbaycanda iranlı zəhmətkeşlər arasında inqilabi iş aparan "İctimaiyyun-Amiyyun" (azərb. "Mücahid") sosial-demokrat təşkilatının sədri Nəriman Nərimanovun tapşırığı ilə İrana göndərilmişdir. 1909-cu ildə Bakıya qayıdan Əbilov 1912-ci ildə dərc olunan "Bakı həyatı" qəzetində redaktor vəzifəsində işləmişdir. Çar hökuməti tərəfindən dəfələrlə həbs edilən İbrahim Əbilov Tiflisdə menşevik "Hümmət" təşkilatının görkəmli xadimlərindən biri kimi fəaliyyət göstərmişdir. 1918-ci ilin axırlarında Bakıya gələn Əbilov Azərbaycan Xalq Cümhuriyyəti parlamentinə deputat seçilmiş və onun sosialist fraksiyasına başçılıq etmişdir. 1920-ci ildə Bakı menşeviklərinin orqanı olan "İskra" qəzetinin redaktoru idi. 1920-ci ildə Azərbaycanda sovet hakimiyyəti qurulduqdan sonra Azərbaycan SSR daxili işlər nazirinin müavini təyin olunmuş, Şərq xalqlarının Bakıda çağrılan birinci qurultayında Şərq Xalqları Təbliğat və Təşviqat Şurasının katibi seçilmişdir. 1921-ci ilin iyununda Azərbaycan nümayəndə heyətinin tərkibində Kommunist İnternasionalının üçüncü konqresində iştirak etmişdir. 1921-ci ildə Nəriman Nərimanovun tövsiyəsi ilə Azərbaycan SSR-in, sonra isə ZSFSR-in Türkiyədə fövqəladə və səlahiyyətli səfiri olmuş, Sovet-Türkiyə, o cümlədən Azərbaycan-Türkiyə dostluq münasibətlərinin təşəkkül tapmasında və möhkəmləndirilməsində böyük rol oynamışdır. Onun təşəbbüsü ilə Türkiyənin Trabzon və Samsun şəhərlərində Azərbaycanın konsulluqları açılmışdır. İbrahim Əbilovun səmərəli diplomatik fəaliyyəti və bilavasitə iştirakı sayəsində sovet respublikaları ilə Türkiyə arasında bir sıra ikitərəfli və çoxtərəfli müqavilələr imzalanmışdır. Naxçıvan muxtariyyətinin təməlini qoymuş 1921-ci il Moskva və Qars müqavilələrini digər naxçıvanlı diplomat, Sovet-Türkiyə danışıqlarında Azərbaycan nümayəndə heyətinin başçısı Behbud ağa Şahtaxtinski ilə birlikdə Əbilov da imzalamışdır.
Türkiyə Respublikasının banisi və ilk prezidenti olan Mustafa Kamal Atatürk ilə Əbilov arasında dostluq münasibətləri var idi. Əbilov Azərbaycan hökuməti adından dostluq və qardaşlıq rəmzi olaraq Atatürkə qızıl xəncər hədiyə vermiş, Atatürk Ankarada Azərbaycan səfirliyinin binası üzərində ölkəmizin bayrağının qaldırılması mərasimində iştirak etmişdir.
İbrahim Əbilov 1923-cü ildə fevralın 23-də Türkiyənin İzmir şəhərində vəfat etmiş, Bakıda dəfn edilmişdir.