Teorija informacija

Osnovni pojmovi teorije uveden u četrdesetim godinama dvadesetog stoljeća, Shannon. teorija informacija - znanost o procesu prijenosa, pohranu i dohvaćanje podataka u prirodnim, tehničkim i društvenim sustavima. U mnogim primjenama znanstvenih područja kao što su informatika, lingvistike, kriptografiju, teorija kontrole, obrada slike, genetike, psihologije, ekonomije, organizacije proizvodnih metoda koristi ovu znanost.

U suvremenim uvjetima s teorijom informacija vrlo usko povezana s teorijom kodiranja, govori o najčešćim problemima usklađenosti između signala i poruka i teorije obrade signala, pri čemu je kvantizacija studirao i oporavak signali i spektralna i korelacijska analiza istih.

Teorija informacije razmatraju osnovne pojam „informacija” za najveći dio kvantitativno, ne uzimajući u obzir vrijednost, a ponekad besmislene. U ovom pristupu, stranica teksta sadrži otprilike istu količinu podataka određuje po broju znakova i simbola, a ne ovisi o činjenici da je, strogo govoreći, postoji tiskanom, čak i ako je apsolutno besmislena i kaotična skup nekih simbola.

Ovaj pristup je opravdan, ali samo za simulaciju komunikacijskih sustava, jer oni moraju precizno prenijeti informacije o komunikacijskim kanalima, koji mogu biti bilo koji skup znakova i simbola. Zatim, kada je potrebno uzeti u obzir vrijednost i značenje podataka, kvantitativni pristup je neprihvatljiv. Ove okolnosti nameću značajne ograničenja na području moguće primjene ove teorije.

Osnove teorije informacija uključuje razmatranje o različitim pitanjima, uključujući i izravno se odnose na prijenos i prijem podataka. Glavna komunikacijska shema, što se smatra u nastavi je kako slijedi. Informacije Teorija i kodiranje On smatra da su izvor poruke, koja je riječ ili skup riječi napisane određenih slova abecede. Izvor poruke može biti tekst na bilo koji prirodni ili umjetni jezik, ljudski jezik, baze podataka i nekih matematičkih modela, stvarajući slijed slova. Odašiljač pretvara poruku u jedan signal koji odgovara fizičke prirode komunikacijskog kanala - medij za prijenos signala. Tijekom prolaska, kao što je podložna smetnjama, koja uvesti poremećaje u vrijednosti parametara informacija. Prijemnik oporavlja izvornu poruku iz primljenog iskrivljene signala. Poruka u smanjenom obliku dođe na odredište - određene osobe ili tehničkog uređaja.

izvor Poruka je statistički u prirodi, tj pojavom svake poruke je određena određenom vjerojatnošću. Shannon teorija informacija vjeruje da ako je vjerojatnost poruke jednaka jedinici, odnosno, njegov izgled značajno i nesigurnosti ne vjerujem da ne nosi nikakvu informaciju.

Jedan od važnih problema teorije informatike smatra koordinaciju komunikacijski kanal i informacijskih svojstava izvora poruke. Propusnost određuje jedinica 1 bita u sekundi.

Jedan od problema s komunikacijskim sustavima su smetnje na željeni put signala. Shannon, na žalost, ne daje nam posebne metode za rješavanje tih. Najjednostavniji način za uklanjanje koja se ponavlja više puta poruke nisu vrlo učinkovit, jer je potrebno više vremena troškove za prijenos informacija. Mnogo veća učinkovitost omogućava korištenje kodova koji vam omogućuju da otkrije i ispravi greške u prijenosu podataka.