Elmi əsərlər -Ученые записки - Scientific works, №1, 2014 İSSN 1815-1779
Nəqliyyat-Tранспорт-Transport
A.M. Allahverdiyev
104
UOT 65.050.2
İNFORMASİYA VƏ ENTROPİYA
A.M. ALLAHVERDİYEV
(Azərbaycan Texniki Universiteti)
E-mail: allahverdiaztu@gmail.com
Xülasə: Məqalədə informasiya anlayışının texniki, fəlsəfi, gibernetik mənası göstərilir. İnformasiya və entropiya
arasındakı oxşarlıq, Şennon entropiyası ilə Klauzius və Bolsman entropiyasının termodinamik anlayişı ilə əlaqəsi
təhlil olunur. İnformasiyanın termodinamik məna daşıdığı əsaslandırılır.
Açar sözlər: informasiya, entropiya, informasiya ehtimalı, məlumatlar ehtimalı, evolyusiya.
“Nəqliyyatda informasiya texnologiyası” fənni Nəqliyyat fakültəsinin magistr qruplarında tədris
olunduğundan fənnin müəyyən anlayışlarının nəzəri əsaslandırılması lazım gəlir.Bu baximdan
informasiyanın mənasının ehtimal nəzəriyysi və termodinamik entropiya vasitəsi ilə təhlili böyük
maraq doğurur. İnfomasiya anlayışına hər bir elm sahəsi öz düşündüyü mənanı verir. Məzmununa
görə informasiya “verilənlər”, “məlumatlar”, “bildiriş”, “xəbərvermə” ( mesaj, əlaqə və s.) kimi
başa düşülür. Son zamanlar infomasiya prosesinə filosoflar böyük maraq göstərirlər, gibernetik
mənada informasiyanı materiyanın universal xassələrindən biri hesab edirlər. Gibernetikada
infomasiya miqdar ölçüsü olmaqla sistemin qeyri-müəyyənliyi və ya informasiya entropiyasının
kiçilməsi hesab olunur. Güman edilir ki, məlumat (xəbər) nə qədər az ehtimal olunursa, onun
informasiyaları bir o qədər böyük olmalıdır. 1928-ci ildə Xartli sistemin informasiya tutumunun
qiymətləndirilməsini təklif etmişdir. Seçimin qeyri-müəyyənlik ölçüsü və ya bir seçimdəki
informasiyalar sayı bu haldakı onun bütün halları ehtimalının funksiyası olmalıdır və maksimal
qiymətini bütün ehtimalların bir-birinə bərabər olduğu halda almalıdır. 1948-ci ildə Klod Elvud
Şennon (ABŞ) entropiya və informasiya anlayışını elmə gətirdi. Siqnalların ötürülməsi prosesində
faydalı informasiya ölçüsü kimi enrtopiyadan istifadə olunması təklif olundu. İnformasiya altında
istifadəçiyə faydalı olan siqnallar başa düşülür. Əgər əlaqə (əlaqələndirmə) kanalı çıxışındakı siqnal
onun girişindəki siqnalın tamamilə eynidirsə, onda informasiya nəzəriyyəsinə görə bu, entropiyanın
yoxluğunu göstərir. Burada maniənin olmaması maksimum informasiyanı göstərir. Entropiya və
informasiya arasıdakı əlaqə aşağıdakı kimi göstərilmişdir [1-7]:
S + İ= 1,
burada S-entropiya, İ-informasiyadır. Entropiyanın hesablanması üçün Şennon Bolsmanın
termodinamikadakı klassik ifadəsinə uyğun olan aşağıdakı tənliyi təklif etmişdir:
S
ş
= ∑ P
i
log
2
(1/p
i
) = - ∑ P
i
log
2
P
i,
burada Ş
ş
- Şennon entropiyası, P
i
-məlumatlar ehtimalıdır.
Öz funksiyasını entropiya adlandırmaqla Şennon əslində müasirlərinin bu anlayış oblastından
hədsiz dərəcədə geniş istifadənin qarşısını aldı. Şennon düsturunun entropiyanın klassik ifadəsinə
oxşar olduğunu göstərək. Bilirik ki,
S
B
= k ln P = k ( N ln N-∑ N
i
ln N
i
),
burada S
B
- Bolsman entropiyası, N
1,
N
2,
N
3,
...,N
n
- atom və ya molekulların 1,2,3,..., n hallarındakı
sayıdır.
N
i
= P
i
N olduğundan,
S=- k N( ln N -∑( N
i
/ N) ln N
i
) = - k N∑P
i
ln P
i
N= 1 olduqda,
S= - k∑P
i
ln P
i
alarıq. Deməli, S
ş
və S
B
entropiya ifadələri qismən oxşardır.
Şennon entropiyasının Klauzius və Bolsman entropiyasının termodinamik anlayışı ilə əlaqəsini
aydınlaşdırmağa çalışaq. Entropiya anlayışı ilk dəfə 1865–ci ildə Klauzius tərəfindən irəli sürülmüş
və sistemin termodinamik halının funksiyası kimi təqdim olunmuşdur: S=Q/T, burada Q- istilik, T-
temperaturdur (o zaman onlar informasiyanı entropiya ilə əlaqələndirməmişlər). Bu funksiyanın
təhlili göstərir ki, entropiya sistemin daxili enerjisinin bir hissəsi olmaqla, işə çevrilə bilməz.
Göründüyü kimi, Şennon və Klauzius düsturları tamamilə oxşar deyildir, Klauzius düsturunda
temperatur iştirak edir ki, bu da informasiyanın əlaqə (əlaqələndirmə) nəzəriyyəsində heç cür tətbiq
Elmi əsərlər -Ученые записки - Scientific works, №1, 2014 İSSN 1815-1779
Nəqliyyat-Tранспорт-Transport
A.M. Allahverdiyev
105
edilə bilməz. Bolsman və Şennon düsturları da ancaq xaricdən oxşar görünür. Tutaq ki, əlaqə kanalı
üzrə eyni siqnal ötürülür (A hərfi və pauza) və maneə yoxdur. Siqnal A-nı aşkar etməyin ehtimalı
½- ə bərabər olar, onda Şennon entropiyası S
ş
= ½ loq
2
½ + ½ loq
2
½=1 olar. Yəni kanalla İ=loq
2
2=
1 bit sayda informasiya ötürülür. Şennon informasiyasının məqsədi bir siqnalı digərindən düzgün
fərqləndirməkdir (məsələn, kanalın giriş və çıxışındakı siqnalları). Həqiqətən də, əlaqə
(əlaqələndirmə) nəzəriyyəsində Şennon tərəfindən təklif olunmuş siqnal doğruluğunun
qiymətləndirilməsi metodu böyük rol oynayır. Məşhur fizik Lui de Broyl Şennon entropiyasını
gibernetikanın ən vacib ideyası adlandırmışdı. S və S
ş
entropiyalarının oxşarlığı bir də ondadır ki,
sistemin eyni ehtimallı halına yaxınlaşdıqca hər iki entropiya artır. W nə qədər böyük olarsa S də o
qədər yüksək olar, Şennonda isə S
ş max
= 1 qiymət alar. L. Bolsman statistik fizika metodu ilə
entropiyanın nəzəri ifadəsini aldı: S= klnw , burada k- Bolsman sabiti, w- termodinamik ehtimaldır.
Bolsman entropiyası idel qaz üçün alınmış, sistemin nizamsız və xaos ölçüsü kimi şərh olunur. İdel
qaz üçün Klauzius və Bolsman entropiyası mənaca eyni olduğundan, Klauzius empirik funksiyası
molekulyar sistemin halının ehtimal ölçüsü kimi izah olunmağa başladı, belə fikir formalaşdı ki,
entropiya və nizamsızlıq eyni bir şeydir. Entropiyanın üç variantı məlumdur- termodinamikada hal
funksiyası (Klauzius) və qeyri –intizamlıq ölçüsü (Bolsman), informasiya nəzəriyyəsində isə
infomasiyanın əlaqə (əlaqələndirmə) kanalı üzrə ötürülməsinin doğruluq ölçüsü kimi təqdim olunur.
Bolsmanın entropiyası molekulyar sistemin qeyri- intizamlıq (intizamsızlıq), xaotiklik, bircinslik
ölçüsü olan, Klauzius entropiyası işə çevrilməsi mümkün olmayan sistemdəki enerjinin miqdarı ilə
mütənasib olan, Şennon entropiyası isə ötürülən siqnalın doğruluğunu miqdarca xarakterizə edən və
informasiya miqdarının hesabatı üçün istifadə oluna bilən entropiyadır. Bolsman dünyanı o qədər
bəsitləşdirdi ki, az qala ona ideal qaz kimi yanaşdı, molekulların öz daxili strukturunun müxtəlifliyi,
onların qarşılıqlı təsiri, cazibə sahəsində olmaları, rəqsi hərəkətləri və s. nəzərdən qaçırıldı. Kainat
həm sıxlıq, həm də temperatura görə bircinsli deyildir, onun kimyəvi tərkibi çox mürəkkəbdir,
hidrogen və helium sadə atomlarından başqa ulduzların daxilində bildiyimiz elementlərin hamısı
mövcuddur. Kainat meqamiqyasda bircinsli hesab oluna bilər, lakin qalaktika ölçüsündə ona
bircinsli kimi yanaşmaq olmaz. Bolsman real molekulyar sistemdəki potensial enerjini nəzərə
almamışdır. Klauzius düsturu empirik olmaqla bütün enerji növlərini əhatə edir. Buna görə də
Bolsman və Klauzius entropiyalarının qiyməti ancaq idel qazlar üçün eyni götürülə bilər (haradakı
potensial enerji hədsiz kiçikdir). Maye və bərk cisimlərin entropiyasının hesablanması zamanı
ancaq Klauzius düsturundan istifadə etmək olar. Kainatdakı stasionar strukturlar qarşılıqlı təsir
qüvvəsinin təsiri altında mövcuddur ki, burada Bolsman entropiyası nəzərə alına bilməz, deməli,
kainatın “İstilik ölümü” proqnozu səhvdir. Bolsman entropiyanın köməyi ilə həyatın nə olduğunu
aydınlaşdırmağa çalışdı. Onun fikrincə həyat öz entropiyasını azaltmağa qadir olan hadisədir.
Mövcud olmaq (yaşamaq) uğrundakı ümumi mübarizə entropiyaya əks olan mübarizədir. Bolsman
və onun müasirlərinə görə kainatdakı proseslərin hamısı xaos istiqamətində dəyişir. Bu qaranlıq
proqnoz elmdə uzun müddət hökm sürdü, lakin daha dərin tədqiqatların nəticələri bu ehkamı yox
etdi. XX-ci əsrin birinci yarısında insanlığa Kainatın yaranma və evolyusiya modeli bəxş olundu,
kainatda destruktiv (dağılma) proseslərin üzərində materiyanın özünübərpa prosesləri üstünlük
təşkil etdi. Kainatda baş verən proseslərin qorxuducu halları həmişə (15- 20 milyard il bundan əvvəl
də) baş vermişdir və yenə də hallanır. Deməli təbiətdə iki keçid hökm sürür: nizamlı hərəkət- xaos
və onun əksi olan xaos- nizamlı hərəkət. İzoləolunmuş sistemdə isə nizamlı hərəkətin xaosa
çevrilməsi prosesləri gedir (lakin bu da həmişə mümkün olmur). Hər bit informasiyanın öz
entropiya qiyməti vardır və informasiya vahidi olan bit ölçüsüzdür, entropiya vahidi isə, məsələn,
Coul/Kelvin-dir. Müxtəlif tədqiqatçılar termodinamik ehtimal və informasiya ehtimalı vahidləri
arasında əlaqə yaratmaq üçün kln2~10
-23
C/K-entropiya ekvvalentindən istifadə etmişlər. Məlum
olmuşdur ki, bit termodinamik vahidlə müqayisədə hədsiz kiçikdir (ucuzdur) və insan
mədəniyyətini ifadə edən informasiyanı termodinamik vahidlə ölçmək olmaz. Lakin bu onu
göstərirmi ki, belə ekvvalent məna kəsb etmir? Bir bitin kiçik olan qiymətinin termodinamik
vahidlə göstərilməsi o deməkdir ki, informasiya iki böyük kəmiyyətin – informasiyanın alınmasına
qədərki entropiyanın və informasiyanın alınmasından sonrakı entropiyanın fərqindən ibarətdir,
aydındır ki,bu fərq müsbətdir və ya sıfra bərabərdir. İnformasiyanın artması entropiyanın azalması
Elmi əsərlər -Ученые записки - Scientific works, №1, 2014 İSSN 1815-1779
Nəqliyyat-Tранспорт-Transport
A.M. Allahverdiyev
106
ilə ekvvalentdir və hər iki kəmiyyət eyni vahidlə ölçülür. Yəni informasiya statistik sistemin
mikrohalına aiddir, entropiya isə həmin informasiyanın çatışmazlıq ölçüsüdür. Məsələn, mayenin
buxarlanması zamanı qabın müəyyən hissəsindəki molekulların olduğu yer haqqında informasiya
itir və entropiyanın ekvvalent artımı baş verir. Molekulların qabda olması haqqındakı informasiya
onların qaz daxilindəki toqquşmalarından yaranan sürəti və vəziyyəti arasındakı korrelyasiyalar
haqqındakı informasiyaya çevrilir, bu isə infomasiya deyil, entropiyadır. İstənilən fiziki ölçmə
informasiyanın alınması ilə həyata keçirilir ki,bu da energetik və entropik itkilər tələb edir. Ölçmə
prosesi sistemin makrohalı haqqındakı informasiyanın alınması olmaqla dönməyən prosesdir.
Ölçmə nə qədər dəqiqdirsə itki də bir o qədər çox olur. İstənilən ölçmənin ilkin nəticəsi haqqndakı
informasiya dəqiqlik üçün bir daha emal olunaraq ( məsələn, EHM-də) yoxlanır və bu da əlavə xərc
tələb edir. Görürük ki, infomasiya müəyyən termodinamik məna daşıyır, lakin ədəbiyyatlarda
informasiya anlayışı təhrif olunur və ya onun qeyri-fizikiliyi haqqında əsassız olaraq fikirlər
söylənilir. Hazırda entropiya, informasiya və həyat haqqında geniş elmi- tədqiqat işləri aparılır.
Kainat, Günəş sistemi və Yerin evolyusiyası ilə bioloji evolyusiya arasındakı asılılıqlar tədqiq
olunur ki, burada yeni informasiya sisteminin yaradılması lazım gəlir və bu da geniş tədqiqat işləri
nəticəsində əmələ gəlir. Kosmoloji, geoloji və ya bioloji sahədəki yeni informasiya sisteminin
yaradılması faza keçidi (sıçrayışla baş verən) xarakteri daşıyır. Bu sahədəki və daha qlobal
istiqamətlər üzrə aparılan geniş tədqiqat işləri ancaq informasiya və entropiyaya əsaslanmaqla daha
dolğun nəticələrə malik ola bilər.
Ədəbiyyat
[1].Афанасьев В.Г. Информация как ресурс управление. Кибернетика. Становление
информации. – М.: Наука, 1986.
[2].Власов В.М. Информационные технологии на автомобильном транспорте. – М.: Наука,
2006.
[3].Бриллюен Л. Наука и теория информации. –М.: Иностр. Лит., 1960.
[4].Волькенштейн М.В. Энтропия и информация. –М.: Наука,1986.
[5].Гленсдорф П. Термодинамическая теория стуруктур, устойчивости и флюктуации. М.:
ГИНФО, 2000.
[6].Шеннон К.Э. Работы по теории информации. – М.: Иностр. лит.,1966.
[7].Naziyev Y.M., Allahverdiyev A.M. Texniki termodinamika. Ali tex.mək.üçün dərslik.- Bakı,
Maarif, 1987, 304 səh.
ИНФОРМАЦИЯ И ЭНТРОПИЯ
А.М. АЛЛАХВЕРДИЕВ
(Азербайджанский Технический Университет)
E-mail: allahverdiaztu@gmail.com
Аннотация: В этой статье выдается технический, философский, кибернетический смыслы
понятия «информация». Анализируется сходство между понятиями информация и энтропия,
связь термодинамического понятия энтропии Больцмана, а также энтропиями Шеннона и
Клаузиуса. Обоснуется термодинамический смысл информации.
Ключевые слова: информация, энтропия, вероятность информации, эволюция.
INFORMATION AND ENTROPY
A. M. ALLAHVERDIYEV
(Azerbaijan Technical University)
E-mail: allahverdiaztu@gmail.com
Summary: In this article is given technical, philosophical, cybernetic meanings of the concept
"information". Similarity between concepts information and entropy, communication of
thermodynamic concept of entropy of Boltzmann, and also Shannon and Klauzius's entropiya is
analyzed. The thermodynamic sense of information will locate.
Keywords: information, entropy, probability of information, evolution.
Daxil olub:19.01.2014
Rəyçi: t.e.n., dosent S.K. Gözəlov
Dostları ilə paylaş: |