Jack Nicholson, babası tarafından terk edilerek New Jersey'deki büyükannesinin yanında büyüdü. 17 yaşında Los Angeles'a taşındı ve Metro-Goldwyn-Mayer (MGM) stüdyosunda ofis görevlisi olarak Hollywood’a adım attı. Roger Corman'ın yapımcılığını üstlendiği The Cry Baby Killer filmi ile ilk kez sinema perdesinde genç bir suçlu rolünde boy gösterdi. 1960'lı yıllar boyunca korku ve western türündeki B-film tarz yapımlarda yer aldı.

1968'de Bob Rafelson ile çalışmaya başladı ve pop müzik grubu The Monkees ile birlikte yazdığı ve ürettiği Head isimli bir komedi filmine imza attı. Easy Rider filminde üstlendiği avukat rolüyle yıldız statüsünü parlattı. 1970'ler boyunca, Nicholson, genellikle karmaşık ve aşırı uçlardaki karakterleri canlandırarak Hollywood'un önemli aktörleri arasına girdi. Roman Polanski'nin kara filmi Chinatown'da özel dedektif rolüyle üçüncü kez Oscar adaylığı kazandı. Ve nihayet bir yıl sonra, Milos Forman'ın bir akıl hastanesindeki hastayı merkezine aldığı Guguk Kuşu filmindeki R.P. McMurphy rolüyle ilk Akademi Ödülü'nü kazandı.

1980'de, Stanley Kubrick'in Shining filminde hafızalara psikotik yazar Jack Torrance olarak kazındı va akabinde, aile draması Terms of Endearment (1983) (ki En İyi Yardımcı Erkek Oyuncu Oscar'ına uzanmıştır ve) ve Reds gibi iyi eleştiri alan filmlerde oynadı. 1990'lı yıllarda ikon haline gelen Nicholson, Batman'da Joker rolüyle bu kötü karaktere adeta sınıf atlattı. Bu efsane rolü takip edeni birkaç işinden sonra The Crossing Guard, Mars Attacks ve As Good as It Gets filmlerinde rol aldı ve son filmindeki performansıyla ikinci kez En İyi Erkek Oyuncu Akademi Ödülü’ne uzandı.

2002'de yaşlanan bir polis memurunu canlandırdığı The Pledge filminin ardından, About Schmidt ve Anger Management filmlerini de filmografisine kattı. 2006'da, Martin Scorsese'nin The Departed filminde, azılı bir mafya patronu olarak unutulmaz bir performans sergiledi. Yakın dönemde beyazperdede daha nadir seyirci karşısına çıkan Jack Nicholson, Rob Reiner'ın imzasını taşıyan The Bucket List filminde, Morgan Freeman ile birlikte başrolleri paylaştı.