Potrebbe derivare dal nome proprio Gervasio (dal germanico e significa "acuto come una lancia") oppure da toponimi come ad esempio Palazzo S. Gervasio (PZ).
Tracce di questa cognomizzazione si trovano nel cosentino nel 1600 dove un certo Giuseppe Gervasi guidò una rivolta nel paese di Spezzano Piccolo (CS), nel leccese sempre nel 1600 a Veglie (LE) dove operava il notaio Antonio Maria Gervasi e a Sondrio nel 1700 con Cristiano de Gervasi, Cancelliere del Governatore di valle.
Il cognome Gervasi è sparso in quasi tutta l'Italia.