Dans le Mississippi des champs de coton, dans une petite bourgade sordide, Sparta, un crime vient d'être commis : un industriel sur le point de monter une usine est retrouvé assassiné dans la rue. Un voyageur inconnu assis dans le hall de la gare est arrêté par l'adjoint du shérif, il est aussitôt accusé du meurtre car il est noir et a beaucoup d'argent sur lui. Après vérification de son identité, il s'avère que cet homme venu de Philadelphie est Virgil Tibbs, un officier de police de cette ville. Il est alors relâché sans un mot d'excuse. Son supérieur lui ordonne alors de rester à Sparta et de collaborer avec le shérif Gillespie pour retrouver le meurtrier, demande appuyée par la veuve de la victime qui n'a pas confiance dans la police locale.