Caine, Londra'nın güneyinde Rotherhithe'da doğdu. Annesi Ellen Frances Marie (Burchell), babası ise Maurice Micklewhite idi. Babası balık pazarı bekçisiydi idi. Caine Ulusal Servis'in emriyle Kore Savaşı'na gitmek zorunda kalmış, ülkesine döndükten sonra bir tiyatroda asistan sahne yönetmeni olarak çalışmaya başlamıştı. Caine aktris Patricia Haines ile 1955-1958 yılları arasında evli kalmıştır.Çiftin Dominique adında bir kızı vardır. Caine daha sonra aktris ve model Shakira Baksh ile 8 Ocak 1973'de evlenmiştir. Çiftin Natasha isiminde bir kızı vardır. Michael Caine menajerinin ısrarıyla soyadını Caine olarak değiştirmişti, Caine ismi 1954 yapımı The Caine Mutiny filminden alınmıştı.