Masseria nacque a il 17 gennaio 1886 in Sicilia a Menfi, provincia di Agrigento, per poi trasferirsi con tutta la famiglia a Marsala da una famiglia di sarti. Fu conosciuto anche come "Joe the Boss". Si può considerare uno dei primi boss della mafia italo-americana a New York City. Quando giunse in america, come molti immigrati italiani con precedenti penali, seguendo la propria indole criminale, non trovò meglio da fare che unirsi alle bande clandestine italiane a New York. Era basso e corpulento, aveva le guance paffute e gli occhi piccoli tanto che qualcuno tra i suoi nemici lo appellava “Il cinese”. Da giovane, Masseria lavorò per la famiglia criminale Morello che operava ad Harlem e Little Italy. Dopo l’arresto del capo dei capi Giuseppe Morello e del cognato Ignazio Lupo detto the Wolf, per il reato di contraffazione con la conseguente condanna scontata nel carcere federale di Atlanta, si creò un vuoto di potere al vertice della prima famiglia mafiosa di New York. Per riempirlo le famiglie mafiose elessero D'Aquila Salvatore. Nel frattempo Masseria, uscito dal carcere di Sing Sing, approfittò dell'opportunità per formare la sua banda. Con il suo naturale talento per la violenza Masseria divenne presto uno dei gangster più potenti e temuti di New York. Nella malavita aveva la fama di essere un criminale spietato e sempre accompagnato dalla buona sorte. In almeno due volte riuscì a scansare le pallottole che i gangster rivali gli spararono addosso. Nella sua banda Masseria annoverava non solo i fratellastri di Morello ovvero i fratelli Terranova, ma anche giovani e promettenti criminali che sarebbero diventati il gotha della mafia americana tra quali i Salvatore Lucania, Francesco Castiglia e Gaetano Lucchese. Il primo si sarebbe fatto chiamare successivamente Charles Lucky Luciano, il secondo Frank Costello e il terzo Tommy “Tre dita” Brown. Con la sua banda per farsi spazio tra le altre gang aveva ordinato una trentina di omicidi.