Hoca Hilmi Efendi ve Huriye Cemil Hanım'ın çocuğu olarak 1894'te İstanbul Fatih'te dünyaya gelen Atay'ın asıl adı Mustafa Rıfkı idi.
Soyadı Kanunu ile "Atay" soyadını alan usta yazar, yaptığı bir açıklamada bu tercihini, "Ben bir sabah Tarama dergisini açmış, ilk sayfalarda en sevimli kelimeyi soyadı almaya karar vermiştim. 'Atay', o sabahki seçmenin eseridir." ifadeleriyle açıklamıştı.
Eğitim hayatında sırasıyla Sıbyan Mektebi, Rehber-i Tahsil Rüştiyesi ve Mercan İdadisinde öğrenim gören Atay, Hüseyin Cahit Yalçın'ın okul müdürü olduğu Mercan İdadisindeyken şiir kaleme almaya başladı.
Atay'ın ilk şiirleri "Kenar-ı Kabrinde" ve "İhtizar-ı Müebbed" eserleri 1910'da Servet-i Fünun dergisinde, ilk düzyazı denemesi ise 1911'de, "Tecelli" dergisinde yayınlandı.
İstanbul Darülfünun Edebiyat Fakültesinde eğitim gören Atay, daha sonra Çerkeş'te subay olarak görevli ağabeyinin yanına gitti. Yazarın ilk siyasi yazısı, 1913'te Tanin gazetesinde yayımlandı. Mektubi, Sadaret ve Dahiliye kalemleri ile Talat Paşa'nın yanında çalışan Atay, Akşam, Şehbal, Şair, Nedim ve Yeni Mecmua'da fıkra, makale ve tartışma yazıları yazdı.
Falih Rıfkı Atay'ın kariyeri savaşın ve değişimin tam ortasında şekillendi. Talat Paşa'nın Bükreş'e yaptığı geziye katılarak ilk yurt dışı röportajını yapan Atay, Birinci Dünya Savaşı sırasında ihtiyat zabiti olarak görevlendirildi.
Suriye ve Filistin'de bulunan Cemal Paşa'nın özel katipliğini yapan Atay, Türk edebiyatının en sarsıcı anı kitaplarından biri olan "Zeytindağı" eserini 1932'de okurla buluşturdu. Bu eser, sadece bir askeri hatırat değil, bir imparatorluğun çöküşünü açıkça anlatan bir vicdan muhasebesi olarak kabul edildi.
Yazar, Zeytindağı'nın önsözünde şu ifadeleri paylaşmıştı:
"Biz, şimdi kırkına yaklaşanlar, Osmanlı İmparatorluğu'nun son gençleriyiz. 1914'te üç, beş, yedi yaşında bulunan çocuklar, bugün yeni Türkiye'nin gençleri olmuşlardır ve hatırlarında imparatorluktan hiçbir iz kalmamıştı. İşte onlara, saltanatın, Suriye'de, Filistin ve Hicaz'daki son yıllarını anlatmak istiyorum."
Cemal Paşa, Bahriye Nazırı olarak İstanbul'a atanınca Atay da Bahriye Nezareti Kalem-i Mahsus Müdür Muavinliği görevine getirildi. Kurtuluş Savaşı döneminde İstanbul'da olmasına rağmen Milli Mücadele konusunda çalışmalar yapan Atay, Yunan ordusunun geri çekilirken yaptığı zulmü incelemek için kurulan Tetkik-i Mezalim Heyeti'nin üyeleri arasında yer aldı. Yakup Kadri Karaosmanoğlu, Halide Edip Adıvar ve Mehmet Asım gibi isimlerin yer aldığı bu heyetle Batı Anadolu'da incelemeler yaptı.