Vad är en linjär modell?

Jag är likaledes osäker.

Det jag tänker är att en linjär funktion (vilket inte med nödvändighet är samma sak som en linjär modell) kan uttryckas på formen y= k*x+m. I alternativ 6 kan man sätta att ${\theta }_1=0$ och låta de andra $\theta$-värdena vara vad som helst, och det är då på formen y= k*x+m.

Förutsatt att m är ett positivt tal.

Vilka modeller är icke-linjära? Vad jag kan se tycks det bara vara 6:an som kan bli en linjär funktion.

Ditt resonemang låter rimligt. Det räcker att modellen är linjär i $\mathbf{\theta}$ så 1, 3 och 4 är linjära för k kan ju vara 0. 

Förstår dock inte heller hur 5 då kan vara icke-linjär. Man kan ju sätta $\theta_1=0$. 

Vad säger facit?

Att 2 och 5 är icke-linjära.

Nu vet jag inte hur exakt begreppet "linjär modell" definierades i er kurs/kursbok, men här är min gissning:

Skillnaden mellan 5 och 6 är antalet parametrar.

I 5:an har man bara två parametrar, $\theta_0$ och $\theta_1$, och det finns inte någon möjlighet att göra ett variabelbyte så att uttrycket blir linjärt i bara två variabler.

I 6:an har man tre parametrar, $\theta_0$, $\theta_1$ och $\theta_2$. Det går att göra ett variabelbyte så att $M$ blir ett linjärt uttryck i tre variabler:

• $\tilde{\theta}_0 := \theta_0^2$
• $\tilde{\theta}_1 := 2\theta_0 \theta_1 + \theta_2$
• $\tilde{\theta}_2 := \theta_1^2$

Med detta byte blir uttrycket $M = \tilde{\theta}_0 + \tilde{\theta}_1 x + \tilde{\theta}_2 x^2$, vilket är linjärt i variablerna $\tilde{\theta}_0, \tilde{\theta}_1, \tilde{\theta}_2$

Det låter logiskt! Men stämmer det verkligen att parametrarna inte behöver vara oberoende? Eller beror det på hur man definierat linjär?

Detta är vår definition: 

För att en modell skall vara linjär i parametrarna krävs att koefficienterna framför de linjärt oberoende basfunktionerna kan variera fritt och oberoende. De måste kunna anta godtyckliga reella värden.

I uppgift 5 får du uttrycket $\theta_0^2+2\theta_0\theta_1x+\theta_1^2x^2$, det innebär att du inte kan välja koefficienten framför $x$ helt godtyckligt utan att samtidigt ändra antingen koefficienten framför $1$ eller $x^2$. Du har två frihetsgrader.

I uppgift 6 räddas du av $\theta_2$ som ger ytterligare en frihetsgrad. Då kan uttrycket tecknas 

$\bar{\theta}_0+\bar{\theta}_1x+\bar{\theta}_2x^2$ 

med helt godtyckliga val av parameter. Avbildningen $(\theta_0, \theta_1, \theta_2) \mapsto (\bar{\theta}_0,\bar{\theta}_1,\bar{\theta}_2)$ målar upp hela $\mathbb{R}^3$.

Okej, det var ju väldigt rimligt.

Stort tack till alla!