För vilka värde på a och b har ekvationssystem

Hej! Jag har fastnat på den här uppgiften, jag vet inte hur ska jag tänka och lösa den!!!