Proveniente de uma família de atores e cineastas, jogou rugby na seleção espanhola e estudou pintura, antes de se decidir pela carreira cinematográfica. Até então, contava apenas com uma pequena participação no cinema: com onze anos, atuou ao lado da mãe, Pilar Bardem.
Estudou na conceituada escola de interpretação Estudio Juan Carlos Corazza para el actor.
Em 1994 ganhou os prémios Fotograma de Prata, de melhor actor no Festival de San Sebastián e o Prémio Fernando Rey de melhor interpretação, por Días contados. Em 1995 e 1996, ganha o Prémio Goya. Em 1997, é escolhido o melhor actor do cinema europeu, por sua atuação em Carne trémula, de Pedro Almodóvar.
Por sua atuação em Before Night Falls, em que vive o papel do poeta cubano Reynaldo Arenas, discriminado e perseguido por ser homossexual, recebe o prémio de melhor ator no Festival de Veneza. Com este filme ganha projeção internacional e se torna o primeiro espanhol indicado ao Oscar de melhor ator.
Protagonizou o filme de estréia de John Malkovich como diretor, The Dancer Upstairs (2002), que narra a história da captura de Abimael Guzmán, líder do grupo guerrilheiro Sendero Luminoso, do Peru.
Em 2003 voltou a ganhar o Prémio Goya por seu papel em Los lunes al sol. Na cerimônia de entrega do prémio, faz um protesto contra a invasão do Iraque pelos Estados Unidos. No ano seguinte, venceu novamente no Festival de Veneza por seu complexo papel em Mar adentro. Neste filme, Bardem interpreta uma personagem real, ou tetraplégico Ramón Sampedro que empreende nos tribunais espanhóis uma batalha judicial pelo direito de se suicidar. Em 2005 foi membro do júri no Festival de Cannes.
No ano de lançamento do Goya’s Ghosts, de 2006, ao lado de Natalie Portman, Bardem esteve envolvido em vários projetos. No ano de 2007 apareceu em Love in the Time of Cholera, baseado em romance de Gabriel García Márquez, interpretando Florentino Ariza, filho de Tránsito Ariza, vivida pela brasileira Fernanda Montenegro.
Em 2008, recebeu o Óscar na categoria de melhor actor secundário, pelo seu papel no filme No Country for Old Men, tornando-se no primeiro actor espanhol a receber este galardão. Em 2010, venceu o prémio de melhor actor no Festival de Cannes por sua atuação no filme mexicano Biutiful. O prémio foi dividido com o actor italiano Elio Germano, que atuou em La Nuostra Vita.
Em julho de 2010, Bardem casou-se com a atriz Penélope Cruz, com quem namorava havia três anos, nas Bahamas.
Em 25 de janeiro de 2011, Javier Bardem recebeu sua segunda nomeação ao Oscar de melhor actor, desta vez por Biutiful, atuando em espanhol, sua língua materna.
Em outubro de 2011, anunciou na rede de televisão ABC que atuaria no próximo filme de James Bond, Skyfall.
Em 9 de novembro de 2012, o ator ganhou uma estrela na Calçada da Fama de Hollywood, colocada bem ao lado de sua esposa, a também atriz Penélope Cruz.