Intel heeft de Intel® Gaudi® 3 AI-versneller gepresenteerd, die een vier keer hogere rekenkracht biedt voor BF16, een toename van 50% in geheugenbandbreedte en het dubbele van de netwerkbandbreedte voor massale systeemschaling in vergelijking met zijn voorganger. Dit vertaalt zich in een significante sprong in prestaties en productiviteit voor het trainen en het uitvoeren van AI op populaire grote taalmodellen (LLM’s) en multimodale modellen. Voortbouwend op de bewezen prestaties en efficiëntie van de Intel® Gaudi® 2 AI-versneller – de enige alternatieve optie op de markt met een MLPerf score voor LLM’s – biedt Intel klanten een keuze met open-source software gebaseerd op de gemeenschap en standaard Ethernet-netwerken om hun systemen met grotere flexibiliteit te schalen.
Justin Hotard, uitvoerend vicepresident en algemeen directeur van de Datacentra en AI Groep bij Intel, zegt: “In het veranderende AI-marktlandschap blijft er een aanzienlijke kloof bestaan in de huidige aanbiedingen. Feedback van onze klanten en de markt in het algemeen benadrukken de wens voor een grotere verscheidenheid aan keuzes. Bedrijven wegen overwegingen zoals beschikbaarheid, schaalbaarheid, prestaties, kosten en energie-efficiëntie af. Intel Gaudi 3 onderscheidt zich als het Generatieve AI-alternatief dat een aantrekkelijke combinatie van prestaties per prijs, systeemschaalbaarheid en tijdsvoordeel biedt.”
Vandaag de dag zoeken bedrijven uit kritieke sectoren zoals financiën, productie en gezondheidszorg naar manieren om snel toegang tot AI te verbreden en de transitie van Generatieve AI-projecten van experimentele fasen naar grootschalige implementaties te maken. Om deze overgang te beheren, innovatie te stimuleren en inkomstengroeidoelstellingen te bereiken, hebben bedrijven behoefte aan open, kosteneffectieve en energie-efficiënte oplossingen en producten die voldoen aan de eisen van investeringsrendement (ROI) en operationele efficiëntie.
De Intel Gaudi 3-versneller zal aan deze vereisten voldoen en biedt veelzijdigheid door middel van open-source software gebaseerd op de gemeenschap en standaard Ethernet-netwerken van de industrie, wat bedrijven helpt om flexibel hun systemen en AI-toepassingen te schalen.
De aangepaste architectuur van Intel Gaudi 3, ontworpen voor efficiënte AI-berekening op grote schaal, is vervaardigd in een 5-nanometer proces en biedt significante vooruitgang ten opzichte van zijn voorganger. Het is ontworpen om de parallelle activering van alle motoren mogelijk te maken, met de Matrix Multiplication Engine (MME), de Tensor Processing Cores (TPC) en de Network Interface Cards (NIC), wat de benodigde versnelling mogelijk maakt voor snelle en efficiënte deep learning-berekening op schaal.
Via: Intel
