WikiDer > Informationstheorie
Informationstheorie ist der Mathematiker Theorie zur möglichst effizienten und zuverlässigen Übertragung und Speicherung von Daten and Information über unzuverlässig Kanäle (Medien). Ein Artikel von Claude Shannon 1948 veröffentlicht, wird allgemein als Grundlage dafür angesehen Disziplin. Wichtige Ergebnisse dieser Theorien sind Shannons Quellcodierungstheorem und Shannons Codierungstheorem für verrauschte Kanäle. Die Informationstheorie ist zutiefst mathematischer Natur und mit anderen Disziplinen verbunden, wie z Kontroll systeme, künstliche Intelligenz, Komplexitätstheorie, Kommunikationstheorie, Codierungstheorie, Wahrscheinlichkeit, Statistik und Kybernetik.
Unzuverlässigkeit eines Kanals, zum Beispiel mit Additiv Lärm, kann dazu führen, dass die empfangenen Informationen von den gesendeten Informationen abweichen. Wir sagen dann: Der Kanal macht Fehler. Ein wichtiges Konzept in der Informationstheorie ist die Kanalkapazität. Die Kanalkapazität eines unzuverlässigen Übertragungskanals ist definiert als die maximale Informationsmenge, die diese ÜbertragungKanal pro Zeiteinheit mit beliebig kleiner Fehlerrate.
Andere Schlüsselbegriffe in der Informationstheorie sind:
- Selbstauskunft und bedingte Selbstauskunft
- Entropie (durchschnittlicher Überraschungswert), Neuntropie und bedingte Entropie
- gegenseitige Information
Informationstheoretiker
Bekannte Informationstheoretiker sind:
- Claude Shannon (Begründer der Informationstheorie)
- Andrei Kolmogorov