Grundlagen der Informationstheorie Kluge Köpfe der Informationstheorie: Ralph Hartley

Anbieter zum Thema

MES Electronic Connect GmbH & Co. KG

ROHM Semiconductor GmbH

IBR Leiterplatten GmbH & Co. KG

Ralph Hartley leistete bedeutende Beiträge zur Informationstheorie und Elektronik, insbesondere durch die Entwicklung des Hartley-Oszillators. Sein bekanntestes Werk, das Hartley-Gesetz, legt den Grundstein für die moderne Informationstheorie, indem es die Beziehung zwischen der Menge an Informationen und den verfügbaren Signalen beschreibt.

Mit dem Shannon-Hartley-Gesetz sowie der 1948 veröffentlichten Informationstheorie haben die Elektrotechniker Claude Shannon und Ralph Hartley wichtige Grundlagen für viele Bereiche der modernen Funk- und Computertechnik verantwortet. Wir werfen einen Blick auf die Erkenntnisse und Errungenschaften von Ralph Hartley, der hinter Claude Shannon eher in der zweiten Reihe agierte. Shannon werden wir in Kürze in einem weiteren Artikel separat thematisieren.

Starten wir zuerst mit dem Shannon-Hartley-Gesetz und der Informationstheorie. Die zugrunde liegende Frage von Shannon war, ob und wie man die Faktoren für eine möglichst verlustfreie Datenübertragung mathematisch berechnen kann. Hierzu entwickelte er zusammen mit Hartley die Informationstheorie, die im Bereich der Statistik als Verwandte zur Wahrscheinlichkeitstheorie einzuordnen ist.

Bildergalerie

Bildergalerie mit 6 Bildern

Wichtig war die Informationstheorie ab Ende der 1940er-Jahre für die Nachrichtentechnik und primär für Fortschritte bei der Funktechnik. Die Informationstheorie beschreibt auf mathematische Weise den Begriff der Information beziehungsweise den Informationsgehalt einer Nachricht auf quantitativer Ebene. Dabei spielt auch der sogenannte Informationskanal eine Rolle. Dies ist eine mathematisch-statistische Beschreibung des Mediums, durch das ein Absender Nachrichten an einen Empfänger sendet, wobei der Informationskanal eine begrenzte Kapazität für die fehlerfreie Übertragung von Informationen hat. Da es eine quantitative Betrachtung ist, wird dabei nicht die Relevanz der Informationen bewertet.

Ein wichtiger Faktor ist dabei der Begriff Entropie, der die Informationsdichte beschreibt, indem er die maximale Datenübertragungsrate beschreibt und dabei die Bandbreite und das Signal-zu-Rausch-Verhältnis beachtet. Die Entropie wiederum führt unmittelbar zum Shannon-Hartley-Gesetz, das wir als Nächstes anschneiden wollen.

Hartley und Shannon: Gesetz zur Bitraten-Obergrenze

Das zweite Gemeinschaftsprojekt von Shannon und Hartley ist das nach beiden benannte Shannon-Hartley-Gesetz, welches die theoretische Obergrenze einer Bitrate beschreibt und im Jahr 1949 von Claude Shannon separat zur Informationstheorie veröffentlicht wurde. Das Gesetz und dessen Ideen waren bereits ein Bestandteil der Informationstheorie, denn es geht bei der Bitraten-Obergrenze auch um die zwei Faktoren Bandbreite und das Signal-zu-Rausch-Verhältnis – diese Faktoren kennen wir aus der Entropie der Informationstheorie.

Im Detail dient das Gesetz der Bestimmung der maximalen Bitrate bei einem Übertragungskanal unter der Annahme einer bestimmten Wahrscheinlichkeit für eine fehlerfreie Übertragung, wobei das Ergebnis von der Bandbreite und dem Signal-zu-Rausch-Verhältnis des Kanals abhängt. Bei der Bandbreite geht es, an einem praktischen Beispiel verdeutlicht, um die mögliche Anzahl an Spannungsveränderungen in einem Kabel pro festgelegter Zeitspanne. Die Spannungsänderungen übertragen etwa Zeichen für eine telegrafische Nachricht.

Das Verhältnis der gesendeten Spannungsänderungen zu der Zahl an vom Empfänger identifizierbaren Spannungsänderungen ist wiederum das Signal-Rausch-Verhältnis, welches auf dem Datenfluss-Weg auftretende Störfaktoren wie Rauschen abbilden soll. Die Shannon-Hartley-Formel lässt sich auch auf modernste elektronische Bauteile anwenden, sodass sie noch immer im Bereich von WLAN-Entwicklungen und ähnlichen Komponenten eingesetzt wird.

Um die theoretische Obergrenze für einen Informationskanal zu erreichen, war für Shannon klar, dass eine Codierung der Informationen nötig sein wird. Doch selbst mit modernsten Methoden erreichen heutige Elektroingenieure und Softwareentwickler nur gut 50 Prozent des aus der Formel ableitbaren Maximums für die Bitraten. Die mathematisch formulierte Gesetzmäßigkeit dient heutzutage auch dazu, an energieeffizienteren elektronischen Bauteilen zu feilen.

Hartleys Leben – mit 26 Jahren zum ersten wichtigen Patent

Nachdem wir nun ausführlich die zwei wichtigen Projekte beschrieben haben, an denen er zusammen mit Claude Shannon beteiligt war, gehen wir nun noch auf Hartleys Leben und weitere erwähnenswerte Begebenheiten ein. Geboren wurde er mit dem vollen Namen Ralph Vinton Lyon Hartley am 30. November 1888 in den USA. Sein Geburtsort ist die kleine, schon seit langer Zeit verlassene Gemeinde Sprucemont (Nevada), gut 200 Kilometer westlich von Salt Lake City.

In Salt Lake City studierte Hartley und erhielt dort 1909 einen Bachelor of Arts. Er ging danach nach England an die Oxford University ins St. John’s College, um dort ebenfalls einen Bachelor of Arts (1912) sowie einen Bachelor of Science (1913) zu erhalten. Er kehrte nach Abschluss seiner England-Studienzeit in die USA zurück und war ab 1915 bei der Western Electric Company angestellt, die die meiste Zeit lang eine Tochterfirma des Großkonzerns AT&T war. Dabei ging es von Anfang an um Radioempfänger sowie auch um kabellose Empfangs- und Sendegeräte.

Schon im ersten Jahr, also 1915 und im Alter von 26 Jahren, entwarf Hartley die Hartley-Schaltung, die er im selben Jahr als Patent einreichte. Es handelt sich bei der auch als Hartley-Oszillator bekannten Schaltung um eine Dreipunkt-Oszillatorschaltung, um mit einem Kondensator sowie zwei Induktivitäten Schwingungen zu erzeugen. Die Schaltung hat ihre Stärken zum Einsatz in Empfängern für hochfrequente elektromagnetische Signale. Erfunden hatte Hartley sie für Versuche mit kabelloser, transatlantischer Kommunikation. 1920 wurde das Patent für die Hartley-Schaltung offiziell erteilt.

Sie gilt auch heute noch als wichtige Grundlage für verschiedene oszillierende Schaltungskonzepte. Wie nachhaltig die Erfindung war, zeigt die Tatsache, dass noch in den 1960er-Jahren Hartley-Oszillatoren in der damals ersten elektronischen Heimorgel, der niederländischen Philicorda eingesetzt wurden und dort als Hauptoszillatoren für die Sinusschwingungen dienten, die die Orgeltöne erzeugen.

Die Zeit des Ersten und Zweiten Weltkriegs

Während des Ersten Weltkriegs heiratete er im Jahr 1916 Florence, geborene Vail of Brooklyn, wobei aus der Ehe keine Kinder hervorgehen sollten. Zudem schuf er eine Methode, um per Funkpeilung nach verschollenen Flugzeugen oder Schiffen suchen zu können. Hartley arbeitete nach dem Ersten Weltkrieg für die Bell Laboratories, die ebenfalls zu AT&T gehörten. Dabei setzte er seinen neuen Schwerpunkt auf Repeater, also Geräte, die Signale empfangen und verstärkt weitergeben, sowie die kabellose Übertragung von Stimmen.

Während der 1930er-Jahre litt Ralph Hartley unter gesundheitlichen Problemen, die ihm die Arbeit in Entwicklungslaboren erschwerten und zum Teil auch unmöglich machten. Da sich die Probleme schon vorher andeuteten, hatte Hartley in den Bell Laboratories 1929 eine Forschungsgruppe ins Leben gerufen, die sich auf Theorie und einzelne Experimente konzentrierte. Im Kern ging es dabei um nicht lineare Oszillatoren und besonders rauscharme Verstärker, wobei Hartley wegen seines Gesundheitszustandes bis über das Jahr 1940 hinaus vordergründig in einer leitenden, aber weniger aktiven Position arbeitete.

Zudem wurden die Entwicklungsschwerpunkte durch den Zweiten Weltkrieg beeinflusst – Hartley verstärkte die Bemühungen rund um die Servotechnik und war mitverantwortlich für Erkenntnisse, die die heutige Robotik betreffen. Ganz allgemein gesprochen hat Ralph Hartley auch abseits seiner Zusammenarbeit mit Shannon auf vielen elektrotechnischen Gebieten für Fortschritte gesorgt, die die Miniaturisierung von Funktechnik, aber auch integrierte Schaltkreise und Servotechnik betreffen.

Eigene mathematische Theorie, Auszeichnungen und Tod

Neben den praktischen Erfindungen und Forschungsfeldern war Ralph Hartley auch nach seiner Arbeit an der Informationstheorie im Theorie-Bereich tätig: Mit der Hartley-Transformation hat er eine eigene theoretisch-mathematische Formel entwickelt, die in ihrem Kern eine reale Transformation im Bereich der Frequenztransformationen ermöglicht. Die Formel steht in einem engen Bezug zur Fourier-Transformation des gleichnamigen 1830 verstorbenen französischen Mathematikers und Physikers Jean Baptiste Joseph Fourier.

Eine diskrete Abwandlung der Hartley-Transformation, abgekürzt DHT, die der Elektroingenieur Ronald N. Bracewell im Jahr 1994 vorgestellt hatte, wird heute bei der digitalen Signal- und Bildverarbeitung genutzt. Hartley erhielt für seine Arbeiten im Jahr 1946 eine Ehrenauszeichnung des Berufsverbandes der Elektroingenieure (IRE, Institute of Radio Engineers), nämlich die IRE Medal of Honor. Aus der IRE wurde inzwischen die in New York ansässige IEEE (Institute of Electrical and Electronic Engineers), die das Ziel hat, für die Menschheit sinnvolle technische Innovationen zu fördern.

Außerdem entstand zeitweise eine heute nicht mehr genutzte Einheit mit dem Namen Hartley als Maß für Datenmengen. Die Einheit hieß zuvor Ban und wurde im Jahr 1940 von den Mathematikern Alan Turing und Irving John Good entwickelt. Wegen Hartleys Beteiligung an der Informationstheorie wurde die Einheit Ban nach einigen Jahren auch mit dem Namen Hartley genutzt. Es war schließlich sein Forschungspartner Shannon, der den Begriff Bit vorschlug, der sich bekanntermaßen als Einheit für Datenmengen etabliert hat. Ralph Hartley verstarb im Alter von 81 Jahren in der Kleinstadt Summit in New Jersey am 1. Mai 1970. (sb)

Kommentar von Dr. Devis Lussi, Yokoy

Eine kurze Geschichte der KI – Teil 1

A/D-Wandler im FPGA

Keine Angst vor halben Bits

(ID:50086651)