D'origine algérienne, né à Paris, il commence sa carrière comme assistant de mise en scène à la télévision, de 1977 à 1984. Durant cette période, il réalise quelques courts métrages. Rachid Bouchareb réalise son premier long métrage en 1984. En 1989, il entame une carrière de producteur de cinéma en s'associant à Jean Bréhat pour créer la société de production 3B Productions. Ainsi il produira plusieurs films, notamment La Vie de Jésus (1997), L'Humanité (2000), Flandres (2006), des films de Bruno Dumont qui sont récompensés au Festival de Cannes.

Rachid Bouchareb réalise ensuite plusieurs longs-métrages. Il est à plusieurs reprises nommé pour ses films. En 1991, Cheb est primé au Festival de Cannes, et présenté en compétition pour l'Oscar du meilleur film étranger. En 1995, Poussières de vie est nommé pour l'Oscar du meilleur film étranger. En 2001, Little Senegal est nommé pour l'Ours d'or de Berlin et reçoit le Prix du meilleur long métrage au 11e Festival du cinéma africain de Milan. Mais le plus grand succès fut celui d'Indigènes en 2006 qui fut en lice pour la Palme d'or et reçut le Prix d'interprétation masculine pour l'ensemble de ses acteurs au Festival de Cannes 2006. Rachid Bouchareb reçoit le Prix Henri Jeanson, décerné par la SACD, pour l’ensemble de son œuvre en 2006. En février 2009, son film London River reçoit une distinction à la Berlinale. L'acteur Sotigui Kouyaté y reçoit l'Ours d'argent du meilleur acteur.

Rachid Bouchareb est aussi scénariste. Il a notamment écrit les scénarios de tous ses longs métrages. Celui d'Indigènes lui a notamment valu un César.

En avril 2007, il est nommé Chevalier de la Légion d'honneur. Il est également membre du conseil d'administration de la Fémis.

En 2011, il commence le tournage du premier volet de sa trilogie américaine : Just Like a Woman, un road movie avec Sienna Miller et Golshifteh Farahani en 2012 suivi d'un deuxième, La Voie de l'ennemi en 2013.

En 2014, il réalise avec l'historien Pascal Blanchard une série télévisée historique, Frères d'armes, présentant en 50 courtes biographies des hommes et femmes du monde entier (et en particulier de l’ancien empire colonial français) ayant combattu au service de la France.

1985 : Bâton Rouge
1991 : Cheb
1994 : Poussières de vie
2001 : Little Senegal
2006 : Indigènes
2009 : London River
2010 : Hors-la-loi
2011 : Omar m'a tuer
2014 : La Voie de l'ennemi (Two Men In Town)