Robert Stoy
Wie in dem vorhergehenden und den nachfolgenden Artikeln aufgezeigt, konnten die beschriebenen Demonstrationen und Entwicklungen auf der Basis einer dedizierten transatlantischen Netzverbindung zwischen dem HLRS und den kooperierenden Einrichtungen in USA - dem PSC und SNL - zum Erfolg geführt werden. Um den hohen Qualitätsanforderungen der Metacomputing-Anwendungen gerecht zu werden, wurde als Ergänzung zum Standard-Internet Pfad - bereitgestellt vom DFN-Verein - ein direkter ATM Link mit einer dedizierten Bandbreite von 2 Mbit/s aufgebaut.
In der Regel nutzen die an das DFN-Netz (B-WiN) angeschlossenen Einrichtungen in Deutschland als Netzanbindung in die USA die vom DFN Verein bereitgestellte transatlantische Verbindung als Standard Internet-Pfad. Diese basiert auf ATM Links mit einer Kapazität von 2*45 Mbit/s und wird von allen an das B-WiN angeschlossenen Einrichtungen geteilt.
Metacomputing stellt hohe Qualitätsanforderungen an das Netz, das die einzelnen Supercomputer verbindet. Die CRAY T3E`s am RUS und PSC wurden daher seit Juni 1997 für jeweils sechs Stunden pro Woche über den direkten ATM Link gekoppelt. Zur SC `97 im November wurde das auf dem ATM Link basierende Netz auf die in der Abbildung 1 gezeigte geographische Ausdehnung erweitert.
Der wichtigste Bestandteil des Netzes ist der dedizierte ATM Link, der die IP Router am RUS und im vBNS verbindet. Der direkte ATM Link ist als virtueller ATM-Kanal mit einer Bandbreite von 2 Mbit/s über die in Tabelle 1 genannten Netze und Service Provider geschaltet.
Netz | Endpunkte | Service Provider | Anzahl ATM-Knoten |
ATM (B-ISDN) | RUS - Sylt | Deutsche Telekom | 4 |
CANTAT-3 | Sylt - Nova Scotia | Teleglobe, Deutsche Telekom gemeinsam | - |
Telglobe, Canada | Nova Scotia - Montreal | Teleglobe | 3 |
CA*Net II | Montreal - STAR-TAP, Chicago | CANARIE | 10 |
Die wesentlichen technischen Elemente, Service Provider, Netze, Verbindungspunkte und Endsysteme, der erweiterten Netz-Konfiguration zur SC `97 sind in Abbildung 2 dargestellt.
Kernstück des ATM Links ist das CANTAT-3 Seekabelsystem, das auf SDH-Basis eine Leitungsbandbreite von 155 Mbit/s bietet. Der ATM-Dienst über das Kabel wird gemeinsam von Teleglobe und Deutscher Telekom bereitgestellt. Für die transatlantische Netzverbindung vBNS-RUS wurde ein virtueller Kanal mit einer garantierten Bandbreite von 2 Mbit/s geschaltet. Der Verbindung zum CANTAT-3 Zugangspunkt in Hamburg wird über das ATM-Netz der deutschen Telekom geschaltet.
Auf nordamerikanischer Seite endet CANTAT-3 in Kanada, Nova Scotia, wo der Zugangspunkt von Teleglobe betrieben wird. Über das kanadische Forschungsnetz CA*Net II, betrieben von CANARIE, wird schließlich der Zugang zum STAR TAP (Science, Technology And Research Transit Access Point) geschaltet. Dieser wurde von der NSF (National Science Foundation) als Transitpunkt für direkte internationale Verbindungen zum vBNS geschaffen.
Über das vBNS, ein von der NSF und MCI betriebenes Netz, das die nationalen Supercomputer Zentren in USA über einen ATM Backbone mit derzeit 622 Mbit/s Kapazität verbindet, wurde schließlich die Verbindung zum PSC hergestellt.
Zur SC `97 wurden zu dieser Konfiguration außerdem noch das SNL bei Albuquerque /New Mexico und natürlich die SC `97 in San Jose an den direkten ATM Link angebunden. Für den Zugang zu SNL wurde über einen vBNS Router in Chicago der Transit zum ESnet hergestellt. Für den Zugang zur SC `97 wurde eigens dafür ein Link mit 45 Mbit/s Bandbreite zwischen San Jose und vBNS eingerichtet.
Daneben wurde auf Betreiben von Sandia zwischen Albuquerque und San Jose eine ESnet-Verbindung geschaltet.
Pfad über | nominelle Bandbreite [Mbit/s] | Anzahl Router | TCP-Durchsatz [kByte/s] 3 | Paket-Verluste [%] | round trip time [ms] | |||
Tag | Nacht | Tag | Nacht | Tag | Nacht | |||
DFN | 2*45 | 15 | 50 | 300 | 30 | 3 | 1801 | 160 |
ATM Link | 2 | 5 | 200 | - | 0 | 0 | 1502 | - |
Es zeigte sich, daß derzeit die Leistung des Standard-Pfades für eine einzelne Verbindung stark schwankt und wesentlich von den europäischen Arbeitszeiten bestimmt wird. Während der frühen Morgenstunden sind die Paketverluste (Paketgröße 1 kByte) und round trip times akzeptabel und ein TCP-Durchsatz von 300 kByte erzielbar. Während der europäischen Arbeitszeit steigt jedoch die Paketverlustrate auf 30 % an und der TCP-Durchsatz wird auf 50 kByte/s reduziert. Die round trip times schwanken zu dieser Zeit zwischen 150 und 300 ms, der in der Tabelle genannte Wert ist ein 24h-Mittelwert.
Über den direkten ATM Link traten nahezu keine Paketverluste auf. Im November, d.h. auch während der SC `97 konnte eine geringe Paketverlustrate beobachtet werden, die aufgrund von Bandbreiten-Engpässen in Kanada auftraten.
(Nach dem nun vollzogenen Wechsel auf das neue CA*Net II sollte dieses Problem be-hoben sein). Die round trip time über den ATM Link ist nahezu konstant und schwankt zwischen 150 und 155 ms.
Die hohe Anzahl der Router auf dem Standard-Pfad führt eine nur sehr kleine zusätzliche Verzögerung ein, so daß während der Nachtstunden bei geringer Last auf dem Standard-Pfad die round trip times auf beiden Wegen vergleichbar sind.
Am Beispiel zweier Tagesverläufe zeigt Abbildung 3 den oben beschriebenen Unterschied der Paketverlustrate und der round trip time zwischen dem Standard-Pfad (a) und dem direkten ATM Link (b). Der Verlauf über den direkten ATM Link wurde während der SC `97 aufgenommen, der Verlauf über den Standard Link wenige Tage später.
Der Durchsatz geht ab einer Socketpuffer-Größe von 64kByte in die Sättigung über, und beträgt ab diesem Wert ca. 200 kByte, was bei dem ATM Link mit 2 Mbit/s Bandbreite (einschließlich ATM Overhead) dem praktisch erzielbaren Maximum entspricht.
Entsprechende Messungen über den Standard-Pfad zeigten den Übergang in die Sättigung ebenso bei 64 KByte Socketpuffer-Größe. Die TCP-Durchsatzmessungen mit den in Tabelle 1 dargestellten Ergebnissen wurden daher über beide Pfade mit dieser Socketpuffer-Größe durchgeführt.
Für die der Bereitstellung der Netzkapazität, die tatkräftige Unterstützung beim Aufbau und Betrieb des Netzes gebührt der Deutschen Telekom/Berkom und Teleglobe, CANARIE und nicht zuletzt vBNS besonderer Dank.
Robert Stoy, NA-5859
E-Mail: stoy@rus.uni-stuttgart.de