De MAI-strategie van Microsoft koppelt gespecialiseerde modellen aan een inferentie-infrastructuur

De beveiligingsupdate van Microsoft is een concreet voorbeeld van de multi-modellenaanpak. In de MDASH-workflow voor kwetsbaarheidsbeheer zegt Microsoft dat MAI-Cyber-1-Flash 96% bereikte op CyberGym, 12 punten boven Mythos, en de kosten met bijna 50% verlaagde ten opzichte van de configuratie die toen op de markt was. Dat softwareverhaal staat naast Maia 200, de gevolgtrekkingsversneller van Microsoft. Het opnieuw ontworpen geheugensysteem en het op Ethernet gebaseerde opschalingsontwerp zijn bedoeld om de tokendoorvoer en operationele efficiëntie op cloudschaal te verbeteren; Microsoft heeft ontwikkelaars uitgenodigd om de optimalisatie-SDK te verkennen. De nuttige afhaalmogelijkheid is niet één enkel benchmarknummer. Bedrijven moeten de modelselectie scheiden van de infrastructuurselectie, de kwaliteit en de kosten per voltooide taak meten en de mogelijkheid behouden om verschillende werklasten naar het meest geschikte gespecialiseerde model te routeren.