İ n f o r m a t I k a

İ N F O R M A T İ K A 

 

____________________________________________________________ 

20 

anlayışı “

dəhşətli şəkildə abstraktdır

”. 

“

Entropiya

” kəlməsini ilk dəfə 1865-ci ildə alman alimi Rudolf Klauzius elmə 

əsərində  istifadə  etmişdir.  Alimin  fikirinə  görə  “

soyuq  cisimdə  olan  istiliyin  isti 

cismə keçməsi müşkül məsələdir

”. 

Yunan dilində entropiya sözü “

daxilimdə çevrilirəm

” və ya “

özümə gəlirəm

” 

anlamını verir. Sonuncu kəlam avstriya alimi Ludoviq Boltsmanı çox maraqlandırır, 

kəlamı  təhlil  edən  alim  1872-ci  ildə  onunla  bağlı  əsər  çap  etdirir  və  əsərində 

“entropiya” termininin izahını verir və entropiyanı əks neqentropiya adlandırır. 

 

Görkəmli  alim  Norbert  Vinerə  görə  entropiya  sistemdəki  xaos  (qarışıqlıq), 

intizamsızlıq  ölçüsüdürsə,  informasiyanın  miqdarı  isə  intizamlılıq,  sahmanlıq 

ölçüsüdür.  Bu  mənada entropiyaya  informasiya çatışmazlığı  ölçüsü  kimi baxmaq 

olar.  İnformasiya  isə  mənfi  entropiya  mənası  daşıyır.  Buna  görə  informasiyanı 

Leon Nikolya Brillyuen “neqentropiya” (mənfi entropiya) prinsipi mövqeyində izah 

edir. “Neqentropiya” prinsipi informasiya ilə entropiyanı birləşdirir və sübut edir ki, 

bunları bir-birindən təcrid edərək öyrənmək mahiyyətcə düzgün deyildir. 

 

Nobert  Viner 

Leon Nikolya Brillyuen 

 

Beləliklə,  idarəetmə  (informasiyanın  alınması,  saxlanması,  işlənilməsi 

prosesi)  sistemdəki  entropiyanı azaltmağa xidmət  edir.  Buna görə  də  idarəetmə 

aktı  həm  təsadüfi,  həm  də  məqsədə  yönəldilmiş  ola  bilər.  Idarəetmə  aktı 

məqsədə yönəldilirsə, bu “

qərar qəbul edilməsi

” adlanır. 

Klod Elvud Şennon yanaşmasının mahiyyətini aşağıdakı kimi şərh etmək olar.  

---

İ N F O R M A T İ K A

 

 

____________________________________________________________  21 

Çox  hallarda  baş  verən  hadisələri  törədə  biləcək  mümkün  hallar  eyni 

ehtimallı olmur. Məsələn, pul və ya zər simmetrik deyilsə, onun bir üzünün düşmə 

ehtimalı fərqlənəcəkdir. 

Müxtəlif  ehtimallı  mümkün  hallar  üçün  informasiyanın  miqdarı  düsturunu 

1948-ci ildə K.Şennon təklif etmişdir.  

i

N

i

i

P

P

I









1

2

log

 

Burada:  I-informasiyanın  miqdarı,  N-mümkün  halların  sayı,  P

i

  i-ci  halın 

ehtimalıdır. 

Fərz edək ki, qeyri-simmetrik üzlərin düşmə ehtimalları: 

8

1

;

8

1

;

4

1

;

2

1

4

3

2

1









p

p

p

p

 kimidir. Bu halda informasiyanın miqdarı:  

75

,

1

8

14

8

3

4

2

2

1

8

1

log

8

1

8

1

log

8

1

4

1

log

4

1

2

1

log

2

1

2

2

2

2













































I

 

bit olar. 

Eyni ehtimallı  hallar üçün  Şennon  disturu 

N

N

I

N

i

1

log

1

1

2









 şəklinə  düşür. 

Eyni  ehtimallı  hallarda  bu  informasiyanın  miqdarı  2  bit  (4=22=21  və  ya 

2

4

log

2





I

) olur. 

Göründüyü kimi, eyni ehtimallı hallarda alınan informasiyanın miqdarı daha 

çoxdur.  Bu,  əslində  maksimal  miqdardır.  İnformasiyanın  miqdarının  təyini  üçün 

təklif edilən bu yanaşma ehtimallı üsul adlanır və bu üsul hər hansı suala cavab 

vermək üçün azı nə qədər cəhd edilməsini təyin etməyə imkan verir (məsələn, 32 

hərfli əlifbanın hər hansı hərfinin təyini üçün azı 5 addım tələb olunur). 

Son  dövrlərdə  elektronikanın  inkişafı  ilə  əlaqədar  informasiyanın  ən  kiçik 

həcm  ölçü  vahidi  olan  bitdən  yaranan  daha  böyük  ölçü  vahidlərindən  də  geniş 

istifadə olunur. 

İnformasiyanın  kəmiyyətcə  qiymətləndirilməsinin  göstərilən  qaydaları 

informasiyanın 

saxlanması 

sistemini 

ikili 

təşkili 

ilə 

üzvü 

surətdə 

əlaqələndirilməsinə imkan verir. 

Nəzərə  almaq  lazımdır  ki,  informasiyanın  semantik  kəmiyyət  ölçüsü  məna 

yükünün ölçülməsi üçün istifadə oluna bilməz. 

İnformasiya  məna  yükünün,  başqa  sözlə  semantik  səviyyədə  kəmiyyətinin 

ölçülməsi üçün informasiyanın tezarus ölçüsü daha məqbul sayılır. 

Belə  yanaşma  Y.U.  Şneyder  tərəfindən  təklif  edilmişdir.  Y.U.  Şneyder 

informasiyanın semantik xassəsini ilk növbədə istifadəçinin verilən xəbərləri qəbul 

etmək qabiliyyəti ilə əlaqələndirir və “istifadəçinin tezaurusu” anlayışını təklif edir. 

---