Transatlantische Netzverbindung

Robert Stoy

Wie in dem vorhergehenden und den nachfolgenden Artikeln aufgezeigt, konnten die beschriebenen Demonstrationen und Entwicklungen auf der Basis einer dedizierten transatlantischen Netzverbindung zwischen dem HLRS und den kooperierenden Einrichtungen in USA - dem PSC und SNL - zum Erfolg geführt werden. Um den hohen Qualitätsanforderungen der Metacomputing-Anwendungen gerecht zu werden, wurde als Ergänzung zum Standard-Internet Pfad - bereitgestellt vom DFN-Verein - ein direkter ATM Link mit einer dedizierten Bandbreite von 2 Mbit/s aufgebaut.

In der Regel nutzen die an das DFN-Netz (B-WiN) angeschlossenen Einrichtungen in Deutschland als Netzanbindung in die USA die vom DFN Verein bereitgestellte transatlantische Verbindung als Standard Internet-Pfad. Diese basiert auf ATM Links mit einer Kapazität von 2*45 Mbit/s und wird von allen an das B-WiN angeschlossenen Einrichtungen geteilt.

Metacomputing stellt hohe Qualitätsanforderungen an das Netz, das die einzelnen Supercomputer verbindet. Die CRAY T3E`s am RUS und PSC wurden daher seit Juni 1997 für jeweils sechs Stunden pro Woche über den direkten ATM Link gekoppelt. Zur SC `97 im November wurde das auf dem ATM Link basierende Netz auf die in der Abbildung 1 gezeigte geographische Ausdehnung erweitert.

Abb. 1: Transatlantische ATM-Verbindung zur SC `97

Der wichtigste Bestandteil des Netzes ist der dedizierte ATM Link, der die IP Router am RUS und im vBNS verbindet. Der direkte ATM Link ist als virtueller ATM-Kanal mit einer Bandbreite von 2 Mbit/s über die in Tabelle 1 genannten Netze und Service Provider geschaltet.

Netz Endpunkte Service Provider Anzahl ATM-Knoten
ATM (B-ISDN) RUS - Sylt Deutsche Telekom 4
CANTAT-3 Sylt - Nova Scotia Teleglobe, Deutsche Telekom gemeinsam -
Telglobe, Canada Nova Scotia - Montreal Teleglobe 3
CA*Net II Montreal - STAR-TAP, Chicago CANARIE 10

Tab. 1: Details zum dedizierten ATM Link

Die wesentlichen technischen Elemente, Service Provider, Netze, Verbindungspunkte und Endsysteme, der erweiterten Netz-Konfiguration zur SC `97 sind in Abbildung 2 dargestellt.

Abb. 2: Netztopologie der Kopplung der Supercomputer von HLRS, PSC und SNL zur SC `97

Kernstück des ATM Links ist das CANTAT-3 Seekabelsystem, das auf SDH-Basis eine Leitungsbandbreite von 155 Mbit/s bietet. Der ATM-Dienst über das Kabel wird gemeinsam von Teleglobe und Deutscher Telekom bereitgestellt. Für die transatlantische Netzverbindung vBNS-RUS wurde ein virtueller Kanal mit einer garantierten Bandbreite von 2 Mbit/s geschaltet. Der Verbindung zum CANTAT-3 Zugangspunkt in Hamburg wird über das ATM-Netz der deutschen Telekom geschaltet.

Auf nordamerikanischer Seite endet CANTAT-3 in Kanada, Nova Scotia, wo der Zugangspunkt von Teleglobe betrieben wird. Über das kanadische Forschungsnetz CA*Net II, betrieben von CANARIE, wird schließlich der Zugang zum STAR TAP (Science, Technology And Research Transit Access Point) geschaltet. Dieser wurde von der NSF (National Science Foundation) als Transitpunkt für direkte internationale Verbindungen zum vBNS geschaffen.

Über das vBNS, ein von der NSF und MCI betriebenes Netz, das die nationalen Supercomputer Zentren in USA über einen ATM Backbone mit derzeit 622 Mbit/s Kapazität verbindet, wurde schließlich die Verbindung zum PSC hergestellt.

Zur SC `97 wurden zu dieser Konfiguration außerdem noch das SNL bei Albuquerque /New Mexico und natürlich die SC `97 in San Jose an den direkten ATM Link angebunden. Für den Zugang zu SNL wurde über einen vBNS Router in Chicago der Transit zum ESnet hergestellt. Für den Zugang zur SC `97 wurde eigens dafür ein Link mit 45 Mbit/s Bandbreite zwischen San Jose und vBNS eingerichtet.

Daneben wurde auf Betreiben von Sandia zwischen Albuquerque und San Jose eine ESnet-Verbindung geschaltet.

Vergleich der Leistung von ATM Link und Standard-Pfad

Für das Metacomputing sind die wichtigsten Performance-Parameter Latenzzeit und erzielbare Übertragungsraten, wobei letztere wesentlich von der Paketverlustrate be-einflußt wird. Hinsichtlich dieser Parameter ist der Vergleich beider transatlantischer Pfade - ATM Link und Standard Internet-Pfad - interessant. Die nachfolgend beschriebenen Ergebnisse basieren auf Messungen, die zwischen einer Testworkstation am RUS und der CRAY T3E in Pittsburgh durchgeführt wurden.

Pfad übernominelle Bandbreite [Mbit/s]Anzahl RouterTCP-Durchsatz [kByte/s] 3Paket-Verluste [%]round trip time [ms]
TagNachtTagNachtTagNacht
DFN2*4515503003031801160
ATM Link25200-001502-

Tab. 2: TCP-Leistung zwischen RUS und PSC, Juli 1997
1: Mittelwert über 24 h (Variationim Bereich 160 - 300 ms)
2: Wert fast konstant (Variation im Bereich 150 - 155 ms)
3: gemessen mit TCP-Socketpuffer 64 kByte

Es zeigte sich, daß derzeit die Leistung des Standard-Pfades für eine einzelne Verbindung stark schwankt und wesentlich von den europäischen Arbeitszeiten bestimmt wird. Während der frühen Morgenstunden sind die Paketverluste (Paketgröße 1 kByte) und round trip times akzeptabel und ein TCP-Durchsatz von 300 kByte erzielbar. Während der europäischen Arbeitszeit steigt jedoch die Paketverlustrate auf 30 % an und der TCP-Durchsatz wird auf 50 kByte/s reduziert. Die round trip times schwanken zu dieser Zeit zwischen 150 und 300 ms, der in der Tabelle genannte Wert ist ein 24h-Mittelwert.

Über den direkten ATM Link traten nahezu keine Paketverluste auf. Im November, d.h. auch während der SC `97 konnte eine geringe Paketverlustrate beobachtet werden, die aufgrund von Bandbreiten-Engpässen in Kanada auftraten.
(Nach dem nun vollzogenen Wechsel auf das neue CA*Net II sollte dieses Problem be-hoben sein). Die round trip time über den ATM Link ist nahezu konstant und schwankt zwischen 150 und 155 ms.

Die hohe Anzahl der Router auf dem Standard-Pfad führt eine nur sehr kleine zusätzliche Verzögerung ein, so daß während der Nachtstunden bei geringer Last auf dem Standard-Pfad die round trip times auf beiden Wegen vergleichbar sind.

Am Beispiel zweier Tagesverläufe zeigt Abbildung 3 den oben beschriebenen Unterschied der Paketverlustrate und der round trip time zwischen dem Standard-Pfad (a) und dem direkten ATM Link (b). Der Verlauf über den direkten ATM Link wurde während der SC `97 aufgenommen, der Verlauf über den Standard Link wenige Tage später.

Abb. 4: Tagesverlauf von Paketverlusten und round trip times zwischen RUS und PSC im November 1997

TCP-Leistung

Aufgrund des hohen Bandbreiten*Delay-Produkts auf transatlantischen Verbindungen spielt hinsichtlich des TCP-Durchsatzes die Socketpuffer-Größe in den Endsystemen und die daraus abgebildete TCP Window-Größe eine bedeutende Rolle. Abbildung 4 zeigt den TCP-Durchsatz auf dem dedizierten ATM Link mit einer physikalischen Bandbreite von 2 Mbps zwischen einer Testworkstation am RUS und der T3E am PSC über der Socketpuffer-Größe.

Abb. 3: TCP-Leistung zwischen RUS und PSC über dedizierten ATM Link im Juli 1997

Der Durchsatz geht ab einer Socketpuffer-Größe von 64kByte in die Sättigung über, und beträgt ab diesem Wert ca. 200 kByte, was bei dem ATM Link mit 2 Mbit/s Bandbreite (einschließlich ATM Overhead) dem praktisch erzielbaren Maximum entspricht.

Entsprechende Messungen über den Standard-Pfad zeigten den Übergang in die Sättigung ebenso bei 64 KByte Socketpuffer-Größe. Die TCP-Durchsatzmessungen mit den in Tabelle 1 dargestellten Ergebnissen wurden daher über beide Pfade mit dieser Socketpuffer-Größe durchgeführt.

Politik

Der Aufbau der transatlantischen Verbindung hatte einen speziellen politischen Kontext: Für den direkten Zugang in das vBNS war die formelle Erlaubnis der NSF (National Science Foundation) erforderlich. Die SC `97-Demonstration des RUS war die erste dieser Art, zu der über ein speziell dafür aufgebautes Projektnetz ein Supercomputer- Zentrum außerhalb der USA direkt mit SC `97 verbunden war. Der Aufbau dieses Projektnetzes hat außerdem zu einer nützlichen Diskussion über die globale Rolle und den Standort des STAR TAP als internationalen Transitknoten zum vBNS geführt. (Der bestehende Transitknoten des DFN-Vereins in USA ist nahe bei Washington / DC lokalisiert, wo auch das vBNS vorbeiführt.)

Dank

Vom Standpunkt der Netzwerkseite gebührt den Netzwerkkollegen aus Pittsburgh, Sandia/ESNet, RUS/BelWü und nicht zuletzt den Kollegen vom DFN-NOC Dank.

Für die der Bereitstellung der Netzkapazität, die tatkräftige Unterstützung beim Aufbau und Betrieb des Netzes gebührt der Deutschen Telekom/Berkom und Teleglobe, CANARIE und nicht zuletzt vBNS besonderer Dank.

Ausblick

Der transatlantische ATM Link wurde erstmals am 20. Juni 1997 in Betrieb genommen und seitdem für jeweils sechs Stunden pro Woche geschaltet. Ende November 1997 wurde das Netz um den Zugang zum SNL und zur SC `97 erweitert. Derzeit ruht die direkte Verbinung, die vorhandenen Erkenntnisse werden ausgewertet und an einer Wiederaufnahme der direkten ATM-Verbindung wird gearbeitet.

Robert Stoy, NA-5859
E-Mail: stoy@rus.uni-stuttgart.de