Dovrebbe derivare dal nome greco Kosmas o dal nome normanno Gossmann oppure, data la notevole presenza slava in loco, portrebbe derivare da un soprannome originato dal vocabolo slavo kosmac, "uomo peloso, barbuto".
Tracce di questa cognominizzazione si riscontrano nel barese fin dal 1600.
Il cognome Cosmai è tipico del barese.
Il cognome Cosmai è 1269° nella regione Puglia Il cognome Cosmai è 80° nella provincia di Barletta-Andria-Trani Il cognome Cosmai è 12° nel comune di BISCEGLIE (BT)