Borde svaret inte bli 5 eller är det pga (3y+5))

Varför borde det bli 5?

Nej, man kan inte förkorta bort ett "3y" i täljaren och ett i nämnaren när det är + mellan de båda talen i täljaren. Om det hade varit gånger istället hade det fungerat.