Grunnlagt i 1979 av palestinske studenter i Egypt som har gått fra palestinske muslimske brorskapet i Gaza-stripen. Grunnleggerne var påvirket av den islamske revolusjonen i Iran i tillegg radicalization og militante av egyptiske islamske studentorganisasjoner. De fastholdt nære forbindelser med radikale islamske egyptiske studenter, hvorav noen var involvert i drapet på president Sadat, og resultatet palestinske islamske radikale ble utvist fra Egypt og returnerte til Gazastripen, hvor de formelt begynte sin aktivitet som en Islamsk Jihad organisasjon. 1980 ble det dannet flere andre grupper av palestinske Islamsk Jihad, men fraksjonen som har overlevd er denne, den ene som Professor Sami al-Arian var angivelig arbeider med.