Kunskaps matrisen

Hej,behöver hjälp att lösa uppgiften på bilden nedan. Har försökt med cosinus satsendär jag satt  (36^2=25,2^2+c^2-(2bc*cos120). Jag samlar alla tal i ett led och sätter de lika med 0 och går vidare med pq formeln, men får inte rätt svar.... Hjälp.