Marknaden för AI-hårdvara håller på att förändras, precis som vi konstaterade i förra veckans Fredagsspecial där jag pratade om Google nya TPU:er. Vill du läsa den Fredagsspecialen kan du göra det här: https://www.fredrikochtobbe.se/post/fredagsspecial-%C3%A4r-google-nya-nviddy
Istället för att alla köper färdiga chip från en dominerande leverantör som Nvidia så börjar stora företag som Amazon och Google nu bygga sina egna (även om man har gjort detta under många år inom andra applikationer). Amazon satsar stort på sina egna AI-chip som kallas för "Trainium" genom sitt dotterbolag Annapurna Labs. I veckans Fredagsspecial kollar vi in den senaste versionen, Trainium2 och den kommande versionen Trainium3, samt mjukvaran och de samarbetspartners som krävs för att bygga den. Kan Amazon stå inför en uppvärdering likt den vi har sett i Google den senaste tiden? Kanske! Låt oss luska lite...
Amazons mål är inte bara att konkurrera med Nvidias priser. De vill framför allt göra det billigare och mer förutsägbart att träna AI-modeller utan att vara beroende av marknadspriset på vanliga GPU:er eller de enormt långa leveranstiderna som det just nu är på Nvidias GPU:er. Genom att äga hela kedjan själva, från chippets design till hur servrarna kyls får de full kontroll över kostnaderna, vilket ändå är rätt unikt i sektorn. Ett tydligt bevis på att tekniken fungerar är "Project Rainier". Där använder Amazon nästan 500 000 Trainium-chip för att träna den avancerade AI-modellen Claude (från företaget Anthropic). Detta visar att Amazons egna chip nu klarar av de allra tyngsta jobben och inte bara enklare uppgifter.