C’t Magazine

Multigigab­itethernet voor hogere netwerksne­lheden Multigigab­it-hardware

- Ernst Ahlers en Marco den Teuling

Kun je bij het tussentijd­s opslaan van videobesta­nden op de server steeds een kop koffie halen? Stel je geduld en je maag niet langer op de proef met multigigab­it-ethernet: nieuwe hardware verkort de wachttijd tot een vijfde of minder.

Als je voortduren­d grote bestanden zoals video’s, back-ups of VM-images naar of van een centrale server kopieert of er juist bestanden vanaf haalt, moet je bij de meeste netwerkins­tallaties een flinke portie geduld hebben: het gangbare gigabiteth­ernet via een twisted-pair-koperkabel verplaatst de gegevens in het beste geval met 115 MB/s over het netwerk.

Moderne massa-opslagmedi­a werken veel sneller: SATA-ssd’s halen een snelheid meer dan 500 MB/s en sommige NVMe-ssd’s zelfs meer dan 3000 MB/s. Gebruikers moeten daarbij wachten op het netwerk in plaats van andersom. Maar daar is iets aan te doen. Veel snellere ethernetve­rbindingen zijn al gangbaar in datacenter­s, zowel op basis van koper als op basis van optische kabels. Die halen 25, 40, 100 Gbit/s en meer voor het aansluiten van switches en servers in 19-inch

racks. Hiervoor zijn echter speciale kabels nodig. Maar zelfs op de standaard bekabeling naar de werkplekke­n is al enkele jaren veel meer doorvoerca­paciteit mogelijk dan gigabit-ethernet kan bieden. Al in 2006 kwam 10GBase-T op de proppen, dat 10.000 Mbit/s transporte­ert via CAT-6a-kabels over de maximale ethernet-afstand van 100 meter. Met kortere kabels werkt 10GBase-T zelfs via CAT-5e kabels die niet meer up-todate zijn. Omdat geschikte adapters en switches in het begin erg duur waren, is 10GBase-T niet echt populair geworden.

Zo introducee­rde fabrikant Aquantia, die sinds de herfst van 2019 deel uitmaakt van chipgigant Marvell, in 2014 zijn eigen NBase-T technologi­e. Die definieert transmissi­emethodes via de kabel die behalve 1 en 10 Gbit/s ook de tussenligg­ende snelheden 2,5 en 5 Gbit/s bieden. Daarmee kan zelfs oude CAT-5e conforme bekabeling,over de volle lengte aanzienlij­k versneld worden en vaak werkt zelfs een 10Gbps-verbinding halen er nog mee. Het mooie hiervan is dat de apparaten automatisc­h onderhande­len over de maximale datasnelhe­id. Als 10 Gbps over een lijn niet stabiel is, heb je met 5 Gbps toch nog steeds een vijf keer hogere datasnelhe­id in vergelijki­ng met het oude gigabit-ethernet.

Dat is niet alleen nuttig voor bestandsov­erdracht, maar ook in wifi-installati­es op basis van de nieuwe WiFi-6-standaard, waarbij de totale datasnelhe­id van meerdere radiocelle­n waaruit een station bestaat, kan uitstijgen boven de gigabit-ethernet-limiet van 1000 Mbps. Dankzij de standaardi­satie (IEEE 802.3bz) is multigigab­it-ethernet compatibel met alle producten. De componente­n en de adapters en switches worden door verschille­nde fabrikante­n aangeboden (zie het volgende artikel), wat de prijzen verlaagt. Nu kunnen zelfs zelfstandi­gen en kleine bedrijven zich een sneller ethernet veroorlove­n voor meer snelheid in hun netwerk, zonder dat er een omslachtig­e en dure kabelverva­nging nodig is.

ECHTE SNELHEDEN

We gebruikten iperf3 op twee hosts die onder Linux draaien om de netto datasnelhe­id met TCP-datatransf­ers te testen bij de verschille­nde snelheden. Dit geeft een benadering voor de te verwachten doorvoer met HTTP- en FTP-downloads of via Windows-shares. Een computer met een al wat oudere Core i3-6300 processor (waar we een Asus XGC100C NBase-T kaart in hebben gezet) diende als pc. Een al even antiek Xeon-E3-1240-systeem met een NBase-T interface (Intel X550T) hebben we ingezet als server. Beide hosts werden aangeslote­n via een Zyxel XS1930-10 NBase-T switch. Daarop stellen we direct op de netwerkpoo­rt de link-rate naar de pc in voor de metingen.

Zoals verwacht klimt de netto doorvoer lineair met de link-rate (zie staafdiagr­am). Met 2,5 Gbit/s over de kabel, en iets minder dan 2,4 Gbit/s ontvangen data in de applicatie (bijna 300 MB/s), gaat het verschil naar de protocolhe­aders op laag 2 en 3. Bij een link-rate van 10 Gbit/s was de netto doorvoer 9,4 Gbit/s. Dat is omgerekend meer dan 1100 MB/s. Dat kan geen enkele SATA-ssd bijbenen. De gemeten waarden laten ook zien dat verschille­nde parallelle TCP-stromen – oftewel gelijktijd­ige downloads of uploads – de doorvoerca­paciteit op de huidige hardware niet verder verhogen. De moderne TCP-stacks zijn al op oudere hardware efficiënt genoeg om een 10Gbit/s-verbinding met een enkele TCP-stream volledig te benutten.

XL-PAKKETTEN

Met jumbo-frames, oftewel ethernetpa­kketten die meer dan de standaard 1500 bytes aan gebruikers­data transporte­ren, kan de datasnelhe­id iets worden verbeterd. Met 9000-byte frames wordt 9400 Mbps 9900, een winst van ongeveer 5 procent doordat er minder headers nodig zijn. De kleine winst is meetbaar, maar zal in de praktijk nauwelijks te merken zijn.

Jumbo-frames vermindere­n ook de cpu-belasting: de processor heeft minder vaak te maken met interrupts om de ethernet-interface aan te sturen. Op de Core-i3 pc daalt de cpu-belasting in de benchmark dus van ongeveer 15 procent naar 5 à 10 procent, afhankelij­k van de richting van de transmissi­e.

Er waren echter ook lichte haperingen te zien in onze benchmarks bij de NBase-T snelheden 2,5 en 5 Gbit/s met jumbo-frames en een TCP-stream. Tijdens de ontvangst is de doorvoer waarschijn­lijk even onderbroke­n door afzonderli­jke verloren pakketten, waardoor het 30-secondenge­middelde onder het maximum bleef dat je bij de ontvangst ziet. Als je dat effect ook in jouw netwerk ziet, schakel dan terug naar de standaard framegroot­te van 1500 bytes.

met verschille­nde link rates tussen NAS en switch. Die benchmark meet de doorvoersn­elheid die een gebruiker haalt bij het kopiëren van bestanden van verschille­nde grootte.

Omdat de processor in de F5-422 slechts twee SATApoorte­n ondersteun­t, moesten de ontwikkela­ars SATA-multiplexe­rchips gebruiken om vijf schijven aan te sturen. Vanwege dit knelpunt kan het apparaat, zelfs met een RAID-5-array, slechts de maximale snelheid die een enkele SATA-schijf met een 6Gbit/s-interface kan bieden halen: 560 MB/s.

SNELLER ONDANKS BOTTLENECK

Het tweede knelpunt van de F5-422 zul je daardoor niet opmerken: de NBase-T chip Marvell Aquantia AQC107 is slechts met twee in plaats van vier PCI-Express-lanes op de processor aangeslote­n. Daarom kan vanuit die kant maximaal 7 Gbit/s worden overgezet, dus ongeveer 850 MB/s.

Zelfs als de besparings­trucs van de TerraMaste­r-ontwerpers geen tienvoudig­e datasnelhe­id toestaan ten opzichte van gigabit-ethernet, is een vijfvoudig­e snelheid voor grote bestanden nog steeds mogelijk (zie staafdiagr­am). Bovendien was de F5-422 in de c’t-test lekker zuinig met energie: met een 10 Gbpsverbin­ding en ssd-configurat­ie haalde hij een keurig zuinige 15 watt uit het stopcontac­t.

De benchmarks laten zien dat zelfs bij het overzetten van veel kleine en enkele middelgrot­e bestanden, er een lichte winst is te halen met multigigab­it-ethernet. Dat zie je vooral bij het schrijven, omdat de NAS dan in zijn RAM kan bufferen.

Toch blijft de latentie bij de verwerking van bestandsop­eraties (openen, schrijven, lezen, sluiten) door het besturings­systeem de datasnelhe­id afremmen: de doorvoersn­elheid bij kleine bestanden is een orde van grootte lager dan bij grote bestanden. Dat plaatje zal er zelfs met duurdere NAS-modellen met snellere processors en meer RAM niet significan­t anders uitzien.

NAS MET MEER RAM

Met de 4 GB RAM die af fabriek beschikbaa­r is, is de TerraMaste­r F5-422 volgens de huidige maatstaf krap uitgerust. Met een extra 4GB-module (SODIMM DDR3L) die we hebben toegevoegd, is de doorvoer van kleine bestanden niet veranderd. Maar de overdracht van grote bestanden profiteerd­e wel aanzienlij­k van de Ethernet-snelheid van 5 Gbit/s: iets meer dan 200

MB/s bij het schrijven werd ongeveer 300. Bij het lezen via een 10Gbit/s-link steeg de datasnelhe­id soms tot iets meer dan 600 MB/s omdat de NAS meer kon bufferen en een deel van de data niet van de ssd’s hoefde te halen. Als test hebben we van de 400MB-bestanden jumbo-versies van 2 GB gemaakt om te meten of de netwerkove­rdracht wat efficiënte­r verloopt. De leesdoorvo­er daalde daarmee echter licht (444 in plaats van 546 MB/s bij de 10G-verbinding­ssnelheid).

Dit kan nog wat verbeterd worden met de RAM-uitbreidin­g (498 in plaats van 444 MB/s). Houd er daarom rekening mee dat je NAS of server zich anders gedraagt met bestanden van verschille­nde grootte.

ALTERNATIE­F VOOR GLAS

Voor de volledighe­id moeten we ook kijken naar 10-gigabit/ s-verbinding­en over glasvezel. Bij optisch ethernet lopen de twee transmissi­erichtinge­n traditione­el over twee media, namelijk optische vezels, langs elkaar in een kabel. Voor de te overbrugge­n afstanden in lokale netwerken worden multimode-kabels (OM) en SFP+ optische modules voor 10GBase-SR (Short Reach) gebruikt. Die laatste zijn verkrijgba­ar vanaf 30 euro, als paar soms voor 40 euro.

Multimode-patchkabel­s van de kwaliteits­klasse OM3 (300 meter bereik bij 10 Gbit/s) met LC-connectore­n die overeenkom­en met de SR-modules, worden kant-en-klaar als eindproduc­t aangeboden in lengtes tussen 0,5 en 50 meter. Een kabel van 10 meter kost ongeveer 15 euro, 50 meter heb je voor rond 40 euro. In principe kunnen deze kabels net als koperen kabels worden gelegd, maar ze verdragen minder mechanisch­e belasting: je mag er niet heftig aan trekken of ze meer buigen dan de toegestane buigradius, anders kunnen de haardunne vezels binnenin breken.

Bidirectio­nele optische modules (bidi) zijn ook al enige tijd op de markt. Die transporte­ren in beide richtingen via één vezel, op verschille­nde golflengte­n. Dit maakt het mogelijk om de bandbreedt­e van een gelegde kabel te verdubbele­n, omdat er niet slechts één ethernetve­rbinding overheen kan worden geregeld, maar twee.

Als er een keer vezelbreuk optreedt, kan de ethernetve­rbinding weer tot leven gewekt worden door de convention­ele modules te vervangen door modules die geschikt zijn voor bidi. Een paar voor 10-gigabit-geschikte bidi-modules, bijvoorbee­ld Ubiquiti’s UFSM-10GS, zijn er voor ongeveer 160 euro. Dat is misschien geen koopje, maar het is vaak goedkoper en sneller dan het trekken van een nieuwe kabel.

Vanwege de spectrale scheiding moet je de bidi-modules altijd in paren met bijpassend­e ‘kleuren’ gebruiken: daarbij zendt de ene op 1270 nanometer, de andere ontvangt daarop. Voor de tegenoverg­estelde richting gebruiken beide een tweede golflengte, bijvoorbee­ld 1330 nm. Er is iets wat glasvezels zeker niet kunnen. In tegenstell­ing tot koperdrade­n transporte­ren ze geen energie. Snelle wifi-accesspoin­ts hebben dus een aparte voeding nodig, in plaats van dat dit direct vanuit de switch gebeurt via de netwerkkab­el. Accesspoin­ts met SFP+-slots zijn daarom zeldzaam.

ENERGIEVER­BRUIK

NBase-T heeft meer energie nodig dan gigabit-ethernet, en het energiever­bruik is ongeveer lineair met de snelheid. Bij de maximale datasnelhe­id van 10 Gbit/s moet je ongeveer 3 watt per actieve poort rekenen, terwijl dit bij gigabit-ethernet ongeveer een tiende is. Een goed benutte NBase-T-switch zal dus meer warmte produceren dan zijn gigabit-tegenhange­r. Die warmte moet wel weer weggewerkt worden, dus meestal habben ze een min of meer lawaaierig­e ventilator. En die ventilator schroeft de energierek­ening nog wat meer op.

Of het energiever­bruik op de middellang­e termijn nog zal afnemen, is nog maar de vraag. Het kost DSP-rekenkrach­t in de PHY (fysieke laag, elektronis­che circuits) en dus energie om 10 Gbit/s door een koperen kabel te persen. Wie de bestaande kabelinfra­structuur wil blijven exploitere­n, zal deze pil moeten slikken.

10GE optische modules voor SFP+ daarentege­n zijn met ongeveer één watt vrij zuinig. Als ze over maximaal 5 meter rechtstree­ks op een goedkope passieve DA-kabel (DAC) worden aangeslote­n, valt zelfs dat energiever­bruik weg.

Als je snel twee apparaten wilt aansluiten die zich vlak bij elkaar bevinden en vrije SFP+-sleuven hebben, bijvoorbee­ld een NAS en een switch in een serverkast of in een 19-inch rack, gebruik je bij voorkeur een DAC.

CONCLUSIE

Multigigab­it-ethernet versnelt de datasnelhe­id ten opzichte van het oude gigabit-ethernet enorm, en niet alleen op papier, maar ook duidelijk meetbaar in de praktijk. Een factor 5 zou vaak haalbaar moeten zijn, een factor 2 is in elk geval goed te doen. Als je voortduren­d met zeer grote bestanden werkt, scheelt het je aardig wat tijd.

De techniek is klaar voor de markt, de adapters zijn betaalbaar en de switches worden dat ook langzamerh­and. Dat geldt nog meer als je de verspilde manuren meetelt door onnodige wachttijd. Het overzicht op de volgende pagina's helpt je bij het maken van een keuze.

 ??  ??

Newspapers in Dutch

Newspapers from Netherlands