Dovrebbe derivare da un soprannome di un capostipite dedito alla produzione o commercializzazione della spezia (il pepe) oppure direttamente o tramite una forma ipocoristica, da modificazioni familiari dialettali dell'aferesi del nome Giuseppe.
Il cognome Pepi è molto diffuso in Toscana, in particolare nel fiorentino, nel senese e nel grossetano, con un ceppo anche in Sicilia nell'area che comprende il nisseno, il ragusano ed il catanese.