Hoewel hardware aanvankelijk de berekeningen voor AI vergemakkelijkte, wordt het nu een beperkende factor, waardoor AI-ontwikkelingen moeten worden aangepast aan de computerinfrastructuur. De groeiende populariteit en toegankelijkheid van AI-modellen zorgen voor een aanzienlijke verschuiving in hardware-innovaties. AI-modellen worden sneller groter en complexer dan de vooruitgang in de in te zetten general-purpose computertechnologieën.
In het vorige SURF Tech Trends-rapport 2023 werd de opkomst van gespecialiseerde AI-hardware belicht. Naast deze trend worden er steeds meer apparaten (telefoons, laptops, enz.) geproduceerd om dagelijkse AI-workflows te ondersteunen. Een andere ontwikkeling, voortkomend uit het verschil tussen AI-complexiteit en beschikbare rekenkracht, is de ontwikkeling van AI-modellen die optimaal gebruikmaken van de beschikbare computationele middelen. Met innovaties zoals modellen met lage precisie en AI-bewuste hardware-implementaties wordt AI opnieuw vormgegeven, gedreven door de noodzaak om 'meer met minder' te bereiken op het gebied van systeemcapaciteiten.