Hur ska man hitta sådana uttryck. Ska man testa olika samband?

Jag tycker du är på rätt väg. Men kolla uppställningen av Pythagoras sats.
För sidorna a och b är det rätt, kvadraten blir $a^2$ respektive $b^2$. Men vad blir kvadraten på sidan som är 3a lång?

EDIT: När du satt upp Pythagoras sats kan du förenkla vänsterledet.

Jag gjorde det och fick 4a²=b²

Tänk på sidan som är 3a lång. När man beräknar kvadraten behöver man titta på hela uttrycket:
${\left(3a\right)}^2$blir $3^2{a}^2 = 9a^2$

Så nu har vi 9a²=b²

Nästan, glöm inte sidan a.

Så uppställningen med Pythagoras sats blir $a^2 + 9a^2 =b^2$

Alltså: $10a^2 = b^2$.
Tar man kvadratroten ur båda leden (och kastar om VL och HL), så får man

$\sqrt{b^2} =\sqrt{10a^2}$, vilket kan skrivas b = $\sqrt{10}a$

Då får man ett samband mellan a och b.

Tack, nu förstår ja bättre.