Bağdat'ta doğdu. Babası yüksek rütbeli bir memur ve Bağdat'ın eski ve bilinen sülâlelerinden biri olan Alûsîzâde sülalesinden Arif Hikmet Bey; annesi ise yine Bağdat'ın ileri gelenlerinden Kahyâzâdeler'in kızı Sara Hanım'dır. Meşhur tefsir alimi Mahmud el Alûsî, Ahmet Haşim'in babasının dedesidir.[1] Babasının Arabistan vilâyetlerindeki memuriyetleri sebebiyle, düzensiz bir ilkokul tahsili gördü. Aynı sebepten dil olarak da sadece Arapça ve Farsça öğrendi. Annesinin ölümü üzerine 12 yaşında babasıyla birlikte İstanbul'a geldi. 1897'de Galatasaray Sultanîsi'ne yatılı olarak kaydoldu. Hâşim'in sanat ve edebiyata ilgisi, Galatasaray Sultanîsi'nde başlar. Haşim 1933'te Kadıköy'deki evindeki yardımcısı Zarife Özgünlü ile evlendi. Evlendikten 18 gün sonra 4 Haziran 1933'te 46 yaşındayken vefat etti. Ahmet Haşim, Eyüp Sultan Camii'nin yanına defnedildi.