Ajuste de curva usando métodos de mínimos quadrados lineares irrestritos e restritos

Esta calculadora online constrói um modelo de regressão para ajustar uma curva usando o método de mínimos quadrados lineares. Se restrições adicionais na função de aproximação são incluídas, a calculadora usa multiplicadores de Lagrange para encontrar as soluções.

A calculadora abaixo usa o método dos mínimos quadrados lineares para ajuste de curva, em outras palavras, para aproximar uma função variável utilizando análise de regressão, assim como a calculadora de Aproximação de função com análise de regressão. Porém, ao contrário da calculadora anterior, esta pode encontrar uma função de aproximação se for adicionalmente restringida por pontos particulares, o que significa que o ajuste da curva calculado deve passar por esses pontos específicos.

Os multiplicadores de Lagrange são usados ​​para encontrar um ajuste de curva no caso de restrições. Isso impõe algumas limitações ao modelo de regressão usado, isto é, apenas modelos de regressão linear podem ser usados. É por isso que, ao contrário da calculadora mencionada acima, esta não inclui regressões de potência e exponenciais. Entretanto, inclui regressões polinomiais de 4ª e 5ª ordem. Fórmulas e uma breve recapitulação da teoria podem ser encontradas abaixo da calculadora, como de praxe.

Observe que se o campo de valores de x for deixado vazio, a calculadora assume que x muda começando de zero com um incremento de +1.

PLANETCALC, Ajuste de Curva usando Métodos de Mínimos Quadrados Lineares Irrestritos e Restritos

Ajuste de Curva usando Métodos de Mínimos Quadrados Lineares Irrestritos e Restritos

A função deve passar por pontos específicos

Itens por página:

Dígitos após o ponto decimal: 4
Regressão quadrática
 
Coeficiente de correlação
 
Coeficiente de determinação
 
Erro relativo médio, %
 
Regressão cúbica
 
Coeficiente de correlação
 
Coeficiente de determinação
 
Erro relativo médio, %
 
Regressão polinomial de 4ª ordem
 
Coeficiente de correlação
 
Coeficiente de determinação
 
Erro relativo médio, %
 
Regressão polinomial de 5ª ordem
 
Coeficiente de correlação
 
Coeficiente de determinação
 
Erro relativo médio, %
 
Regressão linear
 
Coeficiente de correlação linear
 
Coeficiente de determinação
 
Erro relativo médio, %
 
Regressão logarítmica
 
Coeficiente de correlação
 
Coeficiente de correlação
 
Erro relativo médio, %
 
Regressão hiperbólica
 
Coeficiente de correlação
 
Coeficiente de determinação
 
Erro relativo médio, %
 
Regressão polinomial de 6ª ordem
 
Coeficiente de correlação
 
Coeficiente de determinação
 
Erro relativo médio, %
 
Regressão polinomial de 7ª ordem
 
Coeficiente de correlação
 
Coeficiente de determinação
 
Erro relativo médio, %
 
Regressão polinomial de 8ª ordem
 
Coeficiente de correlação
 
Coeficiente de determinação
 
Erro relativo médio, %
 
Resultados
O arquivo é muito grande; pode ocorrer lentidão do navegador durante o carregamento e a criação.

Mínimos quadrados lineares (MMQ)

Os mínimos quadrados lineares (MMQ) é a aproximação de mínimos quadrados de funções lineares para dados. E o método dos mínimos quadrados é uma abordagem padrão em análise de regressão para aproximar a solução de sistemas sobredeterminados (conjuntos de equações em que há mais equações do que incógnitas), através da minimização da soma dos quadrados dos resíduos feita nos resultados de cada equação.

Você pode encontrar mais informações, incluindo fórmulas, sobre a aproximação de mínimos quadrados em Aproximação de função com análise de regressão.

Aqui iremos demonstrar com modelos de regressão linear, portanto a função de aproximação é a combinação linear de parâmetros que precisam ser determinados. Os valores determinados, é claro, devem minimizar a soma dos quadrados dos resíduos.

Suponha que temos um conjunto de pontos de dados $(x_1,y_1), ..., (x_m,y_m)$.

Nossa função de aproximação é a combinação linear de parâmetros que serão determinados, por exemplo
y(x;a_1,a_2,a_3,a_4,a_5,a_6)=a_1+a_2x+a_3 \cdot ln(x) + ... + a_6x^{10}

Nós podemos usar uma notação de matriz para expressar os valores desta função

\begin{bmatrix} \hat{y}_1 \\ ... \\ \hat{y}_m \end{bmatrix} = \begin{bmatrix} 1 & x_1 & ln(x_1) & ... & x_{1}^{10} \\ ... & ... & ... & ... & ... \\ 1 & x_m & ln(x_m) & ... & x_{m}^{10} \end{bmatrix} \begin{bmatrix} a_1 \\ ... \\ a_6 \end{bmatrix}

Ou, simplificando,:

\mathbf{\hat{y}=Xa}

Uma vez que estamos usando a aproximação de mínimos quadrados, devemos minimizar a função a seguir

f(\mathbf{a})=\sum_{i=1}^m[\hat{y}(x_i;\mathbf{a})-y_i]^2,

ou, em forma de matriz

f(\mathbf{a})=|\mathbf{Xa-y}|^2

Este valor é a distância entre o vetor y e o vetor Xa. Para minimizar essa distância, Xa deve ser a projeção para o espaço de X colunas, e o vetor Xa-y deve ser ortogonal a esse espaço.

Isso é possível então
(X\mathbf{v})^T(X{\mathbf{a}}-\mathbf{y})=\mathbf{v}^T(X^TX{\mathbf{a}}-X^T\mathbf{y})=0,

que v seja um vetor aleatório no espaço das colunas. Uma vez que é aleatório, a única maneira de satisfazer a condição acima é ter

X^TX{\mathbf{a}}-X^T\mathbf{y}=0,

ou

X^TX{\mathbf{a}}=X^T\mathbf{y},

por isso

\mathbf{a}=(X^TX)^{-1}X^T\mathbf{y}

A calculadora usa a fórmula acima no caso do método dos mínimos quadrados lineares irrestritos.

Multiplicadores de Lagrange

Agora vamos falar sobre restrições. Podem ser:
– o ajuste da curva deve passar por pontos específicos (isso é suportado pela calculadora)
– inclinação da curva em pontos específicos deve ser igual a valores específicos.

Portanto, precisamos encontrar a função de aproximação, que, por um lado, deve minimizar a soma dos quadrados,

f(\mathbf{a})=|\mathbf{Xa-y}|^2

e, por outro lado, deve satisfazer as condições

\begin{bmatrix} y_{c_1} \\ ... \\ y_{c_k} \end{bmatrix} = \begin{bmatrix} 1 & x_{c_1} & ln(x_{c_1}) & ... & x_{c_1}^{10} \\ ... & ... & ... & ... & ... \\ 1 & x_{c_k} & ln(x_{c_k}) & ... & x_{c_k}^{10} \end{bmatrix} \begin{bmatrix} a_1 \\ ... \\ a_6 \end{bmatrix}

ou, em forma de matriz,

\mathbf{b = Ca}

Isso é chamado de extremo condicional e é resolvido através da construção da mecânica lagrangiana F(a,\lambda) utilizando multiplicadores de Lagrange.

F(a, \lambda)=f(a)+\lambda\varphi(a)

Em nosso caso, a mecânica lagrangiana é

F(a, \lambda)=|\mathbf{Xa-y}|^2+\lambda  (\mathbf{Ca - b})

e a tarefa é encontrar seu extremo. Depois de algumas derivações, as quais eu não listei aqui, a fórmula para encontrar os parâmetros é

\begin{bmatrix} a \\ \lambda \end{bmatrix} = \begin{bmatrix} 2X^TX & C^T \\ C & 0 \end{bmatrix}^{-1} \begin{bmatrix} 2X^Ty \\ b \end{bmatrix}

A calculadora usa a fórmula acima no caso do método dos mínimos quadrados lineares restritos

URL copiado para a área de transferência
PLANETCALC, Ajuste de curva usando métodos de mínimos quadrados lineares irrestritos e restritos

Comentários