EğRİ uydurma

EĞRİ UYDURMA

Genellikle deneysel çalışmalar sonucu elde edilen veriler noktasal değerlerdir.Veriler arasında sürekli bir fonksiyon tanımı yoktur.Böyle durumlarda veriler;

(x₁ , y₁) , . . . ,(x_n , y_n)

şeklinde nokta çiftleri olarak verilir.j = 1 , . . . , n için f(x_j) ≈ y_j olacak şekilde f(x) fonksiyonunun bulunması istenir.

Yani ; bir fonksiyonun nokta nokta verilen değerlerinde , fonksiyona en yakın başka bir fonksiyonun belirlenmesi veya pratikte kullanımı zor olan fonksiyonların yerine geçerek hesaplamalarda kolaylık sağlayabilecek yeni fonksiyonların araştırılması “eğri uydurma” problemidir.

1)En Küçük Kareler Yöntemi

Yöntemin temeli;gerçek değerlerin regresyon doğrusundan uzaklaşmalarını minimum yapan denklemin bulunmasıdır.

y_i(x) : gerçek değerler

(x) : tahmini değerler(regresyon değerleri)

q_i : bu değerler arasındaki fark

olmak üzere;

= = minimum

olan denklem,dağılımı en iyi temsil eden denklemdir.

q_i ’nin gösterimi;

(x₀ , y₀) , (x₁ , y₁) , (x_n , y_n) noktaları arasından sonsuz sayıda doğru geçebilir.Her doğru için y_i(x) ve (x) değerleri arasında değişik farklar çıkacaktır.Bunların içinde herhangi bir doğru için,farkların kareleri toplamı minimum ise;o doğru,dağılımı en iyi temsil eden doğrudur.

(x₀ , y₀) , (x₁ , y₁) , . . . , (x_n , y_n) noktasından geçen doğru denklemi ,

ax_i + b

şeklindedir.

Bu denklemi = denkleminde yerine yazarsak;

=

elde edilir.

değeri minimum olacak şekilde a ve b değerleri bulunmak isteniyor.Bunun için; toplamını sıfıra eşitleyip a ve b’ye göre kısmi türevler alırsak şu denklemler elde edilir:

= a + nb

= a + b

Bu denklemlere ‘normal denklemler’ denir.Normal denklemler yardımıyla a ve b değerleri bulunduktan sonra ; y = a + bx denkleminde yerine yazılarak, istenen regresyon denklemi elde edilmiş olur.

ÖRNEK 1 : Verilen x ve y değişkenleri için en küçük kareler yöntemini kullanarak y = ax + b şeklinde bir fonksiyon bulalım.

(-1.0 , 1.000) , (-0.1 , 1.099) , (0.2 , 0.808) , (1.0 , 1.000)

Ayrıca ihtiyaç duyulan toplamlar şu şekilde hesaplanmıştır:

n = 4 , = 0.1 , = 2.05 , = 3.907 , = 0.0517

ÇÖZÜM :

Normal denklemler ; = a + nb

= a + b şeklinde idi.

Soruda verilen değerleri normal denklemlerde yerine yazarsak;

3.907 = 0.1a + 4b

0.0517 = 2.05a +0.1b

denklemleri elde edilir.Sistem çözülürse;

a = -0.0224 , b = 0.9773

bulunur.Denklem ;

y = 0.9773 – 0.224x

olarak elde edilir.

Yukarıda kullandığımız bu yöntemi genelleştirelim.Bunun için y = ax + b yerine , m < n - 1 olmak üzere;

p(x) = b₀ + b₁x + . . . + b_mx^m

polinomunu alacağız.Yani ;

s =

toplamını en küçük yapacağız.s ’i minimum yapmak için;

= 0 , = 0 , . . . , = 0 olması gerekir.

Böylece, m + 1 bilinmeyenli ve m + 1 lineer denklemden oluşan bir lineer denklem sistemi elde etmiş oluruz.Bu sistemi çözersek;

b₀ , b₁ , . . . , b_m katsayılarını bularak ve bunları

p(x) = b₀ + b₁x + . . . + b_mx^m

polinomunda yerine yazarak,istenen polinomu elde ederiz.

m = 2 için;

p(x) = b₀ + b₁x + b₂x²

şeklindedir . Bunun için normal denklemler şöyledir ;

b₀n + b₁ + b₂ =

b₀ + b₁ + b₂ =

b₀ + b₁ + b₂ =

ÖRNEK 2 :

10 öğrencinin matematik ve fizik notları şu şekildedir:

Matematik	75 80 93 65 87 71 98 68 84 77
Fizik	82 78 86 72 91 80 95 72 89 74

1. 
   Matematik notları bağımsız değişken iken, veriler için en uygun doğruyu bulunuz.
   
2. 
   Matematik dersinden 75 alan öğrencinin Fizik dersinden kaç alması beklenir?
   
3. 
   Fizik dersinden 95 alan öğrencinin Matematik dersinden kaç alması beklenir?
   

Şu değerler hesaplanmıştır:

= 798 , = 819 , = 66045 , =64722

ÇÖZÜM :

1. 
   Normal denklemler : = a + nb
   

= a + b

şeklindedir.

Verilen değerleri denklemlerde yerine yazarsak ;

798a + 10b = 819

64722a + 798b = 66045

Sistemleri çözersek ; a = 0.66 ve b = 29.23 elde edilir.Değerler denklemde yerine yazılırsa ;

y = ax + b y = 0.66x + 29.23

şeklinde elde edilir.

2. 
   x : Matematik notları olduğundan (x = 75)
   

= 0.66 (75) + 29.23 ≈ 79

3. 
   y : Fizik notları olduğundan (y = 95)
   

95 = 0.66x + 29.23 ⇒ x = 99.65 ≈ 100

Tanım:

Eğer ={ 0, j≠k ve a_k>, j=k ise

{φ₀, φ₁,…,φ_n} fonksiyonlarına [a,b] aralığında w ağırlık fonksiyonuna göre ortogonaldir denir.Eğer k=0,1,…,n için a_k=1 ise bu durumda {φ₀, φ₁,…,φ_n} fonksiyonlarına ortonormaldir denir.

En küçük kareler yönteminin bir genelleştirilmesi

q=

integralinin en küçük yapılmasıdır. Burada w(x) negatif olmayan bir ağırlık fonksiyonudur ve φ_k(x) polinomları j≠k için genelleştirilmiş anlamda

= 0 ortogonal polinomlardır. Bu durumda a_k katsayıları

şeklindedir. Eğer s_k= denirse

q_min=- ile verilir. Bu da

≤ bessel eşitsizliğini ve m sonsuza giderken serisinin yakınsak olduğu gerçeğini verir.Eğer ilgili ortogonal aile,tamlık olarak bilinen bir özelliğe sahipse ve eğer y(x) yeterince düzgün bir fonksiyon ise o zaman gerçekten q_min deki integrale yakınsar.Bu da p(x) polinomunun derecesi arttıkça yaklaştırmanın hatasının azalacağı anlamına gelir.

Teorem:

Aşağıdaki şekilde tanımlanan {φ₀, φ₁,…,φ_n} fonksiyonları [a,b] aralığında w ağırlık fonksiyonuna göre ortogonaldir. Her xє[a,b] için φ₀(x)Ξ1, φ₁(x)=x-B₁ şeklindedir.Burada

şeklinde tanımlanır.Genel olarak her xє[a,b] ve k≥2 için

φ_k(x)=(x-B_k) φ_k-1(x)-C_k φ_k-2(x) dir. Burada

şeklindedir.

Örnek: {p_n} Legendre polinomlarının [-1,1] aralığında w(x)Ξ1 ağırlık fonksiyonuna göre ortogonal olduğu bilinmektedir.Legendre polinomlarını kullanarak birinci,ikinci,üçüncü,dördüncü ve beşinci dereceden en küçük kareler yaklaşım polinomlarını bulunuz.

Çözüm: Bir kere ilgili teorem gereğince sıfırıncı dereceden en küçük kareler yaklaşım polinomu p₀(x)Ξ1 şeklindedir.Birinci dereceden en küçük kareler yaklaşım polinomu

P₁(x)= x-B₁p₀(x) şeklindedir. Burada

olarak hesaplanır ve yerine yazılırsa p₁(x)= x-B₁p₀(x)=x olarak bulunur.İkinci dereceden en küçük kareler yaklaşım polinomu p₂(x)= (x-B₂) p₁(x)-C₂p₀(x) şeklindedir.Buradaki B₂ ve C₂ değerleri

olarak hesaplanır ve yerlerine yazılırsa

p₂(x)= (x-B₂) p₁(x)-C₂p₀(x)=(x-0)x-⅓=x²-⅓ olarak elde edilir.Benzer şekilde p₃(x)=x³-⅗x ,

p₄(x)=x⁴- x²+ ve p₅(x)= x⁵- x³+ x

ÇOK DEĞİŞKENLİ REGRESYON

Bağımsız değişkenin birden fazla olduğu durumlarda, normal denklemler, en küçük kareler yöntemiyle ve daha önce açıkladığımız yolla bulunur. Bununla beraber pratik olarak, regresyon denleminin her iki tarafı, söz konusu değişkenlerle ayrı ayrı çarpılarak taraf tarafa toplanır. Örneğin iki bağımsız değişkenli problemlerde regresyon denklemi;

z=a+b₁x+b₂y

şeklindedir. Normal denklemlerin bulunması için, eşitliğin he riki yanı taraf trafa n defa toplanarak birinci denklem elde edilir. Sonra bu denklemin her iki tarafı x ile çarpılarak ikinci denklem, ardından da y il e çarpılarak ikinci denklem elde edilir.

Böylece

∑z=na+b₁∑x+b₂∑y

∑xz=a∑x+b₁∑x²+b₂∑xy

∑yz=a∑y+b₁∑xy+b₂∑y²

elde edilir.

ORTOGONAL POLİNOMLAR ve EN KÜÇÜK KARELER YÖNTEMİ

Eğer y(x) verisi sürekli ise,

q=

integralini en küçük yapacağız.Burada

p(x)=b₀+ b₁x+…+b_mx^m=

şeklinde polinomdur.

Şimdi q yu

q=

j=0,1,…,m için

Olmasıdır. Yani

, ,…, olmalıdır.

Böylece m+1 bilinmeyenli m+1 lineer denklemden oluşan

J=0,1,…,m

Şeklinde normal denklemler elde edilir.Bu denklem sisteminin çözülmesiyle

a₀,a₁,a₂,…,a_m katsayıları bulunur ve p(x)= a₀+a₁x+ …+a_mx^m

polinomu içinde yerine yazılarak istenen polinom elde edilmiş olur.

Örnek

En küçük kareler yöntemini kullanarak, [0,1] aralığında =y(x) fonksiyonu için ikinci dereceden yaklaşık bir polinom bulunuz.

Çözüm

[0 , 1] aralığında y(x) fonksiyonu için p(x)= a₀+a₁x+a₂x² şeklinde bir polinom elde edeceğiz.Probleme göre normal denklemler;

Şeklindedir. Normal denklemlerdeki integrallerin hesaplanmasıyla

a₀+ a₁+ a₂=

a₀+ a₁+ a₂=

a₀+ a₁+ a₂=

Lineer denklem sistemleri elde edilir.Bu denklem sistemi çözülürse;

A1=-0.050465 a₂=4,12251 a₃= -4.12251

Bulunur.Buradan da istenen polinom

P(x) = -0.050465 + 4.12251x – 4.12251x²

Olarak elde edilir.

Yukarıdaki örnekte eğer daha yüksek mertebeden bir polinom elde etmemiz istenmiş olsaydı işimiz zorlaşacaktı çünkü lineer denklem sistemlerindeki bilinmeyen ve denklem sayısı arttıkça çözüm bulmak zorlaşır. Bu durumda karşı büyük matris hesapları çıkar.

LİNEER OLMAYAN REGRESYON
Bu modellerde, bağımlı değişken parametrelere göre lineer olmayan bir bağıntı ile bağımsız değişkenlere bağlıdır.

Örneğin, f(x)=a₀(1-e^-a1x) modeli basit yöntemlerle lineer hale getirilemez. Bunun çözümü için çeşitli yöntemler olmakla birlikte, biz Gauss-Newton yöntemi üzerinde duracağız.

Gauss-Newton yöntemi, lineer olmayan fonksiyonun Taylor seri açılımı esas alarak, ardışık işlemler sonucu parametreleri yaklaşık hesaplamaya dayanır. Her defasında hesap edilen parametrelerin, hataları minimum yapma eğiliminde değişim göstereceği kabulü altında iterasyonlara devam edilir.

Bu yöntemi yi=f(xi;a,b) modeli üzerinde açıklıyalım. Bu fonksiyonu, (a,b) civarında, ikinci mertebeden türevleri içeren terimlerden sonraki terimleri ihmal ederek, Taylor serisine açalım. Böylece ∆a=a_j+1-a_j ve ∆b=b_j+1-b_j olmak üzere

y-f(x)j=+e_i

elde edilir. Bu denklemi,tüm gözlemler için matris formunda yazmaya çalışalım. Bu durumda

zj=

elde ederiz. Bu durumda

D^T ={y1-f(x1) ,…, yn-f(xn)} vektörü, fonksiyon değerleri ile ölçümler arasındaki farkları içerir. Yine ∆A parametre değerlerindeki değişimi içeren vektör olup,

∆A=[] şeklindedir.

Buna göre D=[zj]∆A+E yazılabilir. Bu ifadeye en küçük kareler yöntemi uygulanırsa

[zj^T z_j] ∆A= [zj]^TD normal denklemleri elde edilir. Bu sistem çözülürse

∆A=[zj^T z_j] ^-1 [zj]^TD şeklinde bulunur. Böylece yeni a₀ ve a₁ değerleri

a_0,j+1= a_0j +∆a₀

a_1,j+1= a_1j+∆a₁ olarak elde edilir.

Örnek: Aşağıdaki tablodaki değerler verilmektedir.

X	0.25	0.75	1.25	1.75	2.25
Y	0.28	0.57	0.68	0.74	0.79

a₀₀= 1.0 ve a₁₀=1.0 ilk tahmin değerleri ile iterasyona başlayarak verilere f(x)= a₀ (1-e^-a1x) tipinde lineer olmayan bir model uyumu sağlayınız.

Çözüm: Başlangıçta hataların kareleri toplamı 0.0248 olup, her adımda bu değer azalacaktır.

=1- e^-a1x ve = a₀e^-a1x

olduğundan, z₀= yazılabilir.

O halde z₀^Tz₀= olacağından,

[z₀^Tz₀]^-1= bulunur. Model tahmini ile gözlemler

arasındaki farklardan oluşan D vektörü

D= = olduğundan,

[z₀]^TD= bulunur.

Böylece ∆A= olarak elde edilir. O halde 1.iterasyon sonucunda parametre tahminleri, olarak elde edilir. Bu şekilde iterasyonlara devam edilerek sonuçta

a₀=0.79186 ve a₁=1.6751 değerleri elde edilir. Bu adımda hata kareleri toplamı 0.00062 olur.

Trigonometrik Fonksiyonlar Yardımıyla Eğri Uydurma

Bu kısımda trigonometrik fonksiyonlar yardımıyla verilere nasıl eğri uydurulacağını göreceğiz. Bilindiği gibi sinüs ve kosinüs fonksiyonları polinomların birçok istenen özelliğini paylaşır. Ayrıca bunlar hızlı yakınsayan serilerle kolaylıkla hesaplanırlar. Ardışık türevleri yine sinüs ve kosinüslerdir ve bu integraller için de geçerlidir. Ayrıca ortogonallik özelliğine ve polinomların sahip olmadığı periyodikliğe de sahiptirler. Bu nedenlerden dolayı trigonometrik fonksiyonların yaklaştırma teorisinde kullanılırlar.

Sürekli fonksiyonlar olan

1, sin x, sin2x, sin nx, cos x, cos 2x, …, cos nx

dizileri (0,2π) aralığında birbirine ortogonal fonksiyonlardır. Yani

1. 
   0, Tüm m ve n için
   
2. 
   =
   
3. 
   =
   

Koşullarını sağlar. Bu özellikler göz önüne alınarak herhangi bir fonksiyonu,

=

şeklinde Fourier serisine açılabilir. Bu formüldeki katsayıları

, n=0,1,…,

, n=1,2,..

şeklinde hesaplanır. Herhangi bir fonksiyonunun Fourier Serisi ile yaklaşık ifade edilebilmesi için aşağıdaki dört koşulun sağlanması gerekir.

1. 
   İstenilen aralıkta sürekli olduğu her noktada fonksiyonun tek değerli olması,
   
2. 
   İstenilen aralıkta sonlu olması,
   
3. 
   İstenilen aralıkta sürekli olması,
   
4. 
   İstenilen aralıkta sonlu sayıda maksimum veya minimum değerleri alması.
   

Eğer fonksiyonu sürekli olmayıp, n tane eşit aralıklı ayrık noktalardaki değerleri olarak verilirse yukarıdaki integral işlemlerinin yerine toplam sembolleri kullanılır. Özellikle x değişkeninin artan değerleri karşısında y değişkeninin değerleri periyodik bir değişim gösteriyorsa, matematiksel model olarak kesikli Fourier serisi seçilecektir. En genel durumda kullanılacak Fourier modelinin matematik ifadesi,

şeklinde olur. Buradaki T değeri x değişkeninin türünde ve biriminde olan periyottur. Eğer gözlenen noktaları yardımıyla periyot belirlenemiyorsa,

olarak seçilebilir. katsayıları daha önce gördüğümüz gibi hata kareleri toplamı minimum olacak şekilde belirlenecektir. Şimdi

, i=1,2,,…,n

Dönüşümü yapalım. Bu durumda

yazılır. Bu ifadenin minimum olması için gerek ve yeter koşul

k=0,1,…,m

olmasıdır. Buradan k=0,1,…,m için

,

ve

formülleri elde edilir. ve parametrelerinin sayısı için, n gözlenen nokta sayısı olmak üzere, 2m+1≤n yazılabilir.

Şimdi m=1 kabul ederek , ve parametrelerinin nasıl elde edilebileceğini görelim;

, i=1,2,…,n

olduğundan

yazabiliriz. Bu ifadenin minimum olması için gerek ve yeter koşul:

olmasıdır. Böylece sırasıyla , ve parametrelerine göre kısmi türevleri alınırsa;

elde edilir. Bu denklemler matris formunda

şeklinde yazılır. katsayılar matrisindeki toplamlar için,

, =0, =, =, =0

yazılarak elde edilen sistem çözülürse,

bulunur.

1. 
   Örnek 0<=x<=8 aralığında
   

t	0	1	2	3	4	5	6	7
y	11	13	20	21	17	16	14	11

Tablosu veriliyor. Öyle bir = + + trigonometrik eğri uyumu yapınız ki hata karaleri toplamı minumum olsun.

Çözüm. T = 8-0 = 8 olduğundan

i=1,2,….,8

dönüşümü yapılır. Buna göre

	0	1	2	3	4	5	6	7
	0
	1	0.707	0	-0.707	-1	-0.707	0	0.707
	0	0.707	1	0.707	0	-0.707	-1	-0.707
	11	9.191	0	-14.847	-17	-11.312	0	7.777
	0	9.191	20	14.847	0	-11.312	-14	-7.777

Tablosu yapılır. Tablodaki değerler kullanılarak,

ve

Katsayıları elde edilir. Bu katsayılar denkleminde yerine yazılırsa istenen trigonometrik eğri

olarak elde edilir.

2. Örnek ve katsayıları öyle belirleyinizki

toplamı minumum olsun. Burada

MŞeklinde trigonometrik toplamdır.

Çözüm. Bir kere

Olduğunu biliyoruz. buradan

elde edilir. Bu ifadenin karesini alır, x noktaları üzerinden toplar ve ortogonallik özellikleri kullanılırsa

Buluruz. Sadece ilk iki terim ve ya bağlıdır. Bunlar negatif olmadıklarından, minumum tek bir şekilde tüm bu terimleri sıfır yaparak elde edilebilir. Böylece minumum için

ve

olmalıdır. Eğer T(x) toplamı k=M de dersek en küçük kareler trigonometrik toplamı verir. Ayrıca

Olarak bulunur. Benzer hesaplama ile

olduğu görülür ve bu da

Şeklinde ifade edilebilir. M artıkça bu toplam giderek azalır ve M=L olduğunda sıfır olur. Çünkü bu durumda en küçük kareler toplamı ile T(x) toplamı aynı olur.