Potrebbe derivare dal cognomen latino Scarus di cui si un esempio d'uso con Marcus Aemilius Scarus governatore romano della Siria nel primo secolo avanti Cristo: ".. sed ex omnibus maxume Marcus Aemilius Scarus, homo nobilis, impiger, factiosus, avidus potentiae, honoris, divitiarum, ceterum vitia sua callide acdultans. ..".. E' anche possibile una derivazione dal termine longobardo skara (squadra armata, una specie di coorte longobarda) o dal nome nordico Skar in uso anche presso i popoli slavi.
Il cognome Sgarra, pugliese, è specifico del barese. Sgarro, molto meno diffuso, è specifico del foggiano.