Ethernet van Broadcom als oplossing voor het schalen van de AI-infrastructuur

Bij het recente evenement “Enabling AI Infrastructure“, georganiseerd door Broadcom medio maart, werden baanbrekende perspectieven gepresenteerd over strategie en innovatie in kunstmatige intelligentie (AI) infrastructuur. Als leider in de Mainframe Switching Group, benadrukte Broadcom de cruciale rol van schaalbare netwerken en onderstreepte waarom Ethernet-technologie de voorkeurskeuze is om AI-infrastructuur te ondersteunen.

De redenering van Broadcom is gebaseerd op een fundamentele vraag: Hoe effectief hyperscale volumes te bereiken? De geschiedenis van technologie toont aan dat de adoptie van individuele bouwstenen, die interopereren via gemeenschappelijke standaarden, de meest efficiënte weg is om hyperscale implementatie te bereiken.

Gedistribueerde Computing als Sleutel

AI-infrastructuur wordt geconfronteerd met de uitdaging dat het in wezen een probleem van gedistribueerde computing is. Gezien de beperkingen van een enkele GPU, is een samenwerking van meerdere GPU’s onvermijdelijk. Deze gedistribueerde aanpak vereist een robuust netwerk, en hier is waar Ethernet-technologie schittert, overtreffend elke andere netwerkoptie in prestaties, kostenefficiëntie en de adoptie van open standaarden.

Ethernet: Het Netwerk als Kern van Gedistribueerde Computing

Al decennia, heeft de stelling dat “het netwerk de computer is”, geproclameerd door Sun Microsystems, zich bewezen als visionair. Het netwerk, als basis van gedistribueerde computing, komt naar voren als de enige haalbare aanpak vanuit een prestatie- en kostenperspectief. Google, bijvoorbeeld, gebruikte ongeveer 20 jaar geleden Ethernet om honderdduizenden CPU’s te verbinden, waardoor een van de grootste gedistribueerde computersystemen ter wereld ontstond zonder terug te vallen op gecentraliseerde computerarchitecturen.

Oplossing voor Netwerkverkeer en -congestie

Het uitdaging van netwerkcongestie is monumentaal, vooral wanneer GPU’s grote hoeveelheden data tegelijk uitwisselen. Broadcom pakt dit probleem aan met innovatieve technologieën die het verkeersbeheer optimaliseren. Onder deze oplossingen bevinden zich:

  • De Jericho 3 AI-switch: Optimaliseert clusters tot 24.000 GPU’s, biedt 10% meer prestaties tegen de helft van de kosten van de bestaande technologieën, ideaal voor AI-netwerkarchitecturen die efficiënt en heterogeen verkeersbeheer vereisen.
  • De Tomahawk switch-chip: Vertegenwoordigt de breedbandigste Ethernet-technologie, maakt de krachtigste en meest efficiënte datacenters mogelijk die nodig zijn voor de toekomst van AI en hyperscale cloudinfrastructuur.
  • De Thor 2 Ethernet Network Interface Controller (NIC): Verdubbelt de bandbreedtecapaciteit tot 400 gigabits per seconde, integreert geavanceerde mogelijkheden voor end-to-end congestiebeheer.

Totale Connectiviteit

Samenvattend biedt Ethernet niet alleen superieure prestaties in vergelijking met andere netwerktechnologieën, het is ook de meest kosteneffectieve en innovatieve keuze, ondersteund door open standaarden en een uitgebreid ecosysteem. Broadcom zet zich in om de ontwikkeling van Ethernet-oplossingen voortdurend te bevorderen om te voldoen aan de groeiende eisen van AI-infrastructuur, leunend op een divers ecosysteem en een netwerk dat effectieve interconnectiviteit bevordert. Deze collectieve visie zorgt ervoor dat Ethernet de ruggengraat van AI-infrastructuur zal blijven in de voorzienbare toekomst.