La stratégie MAI de Microsoft relie des modèles spécialisés à une infrastructure d'inférence

La mise à jour de sécurité de Microsoft est un exemple concret de son approche multimodèle. Dans le workflow de gestion des vulnérabilités MDASH, Microsoft indique que MAI-Cyber-1-Flash a atteint 96 % sur CyberGym, 12 points au-dessus de Mythos, et a réduit les coûts de près de 50 % par rapport à la configuration alors sur le marché. Cette histoire logicielle se trouve à côté de Maia 200, l’accélérateur d’inférence de Microsoft. Son système de mémoire repensé et sa conception évolutive basée sur Ethernet visent à améliorer le débit des jetons et l'efficacité opérationnelle à l'échelle du cloud ; Microsoft a invité les développeurs à explorer son SDK d'optimisation. Ce qu’il faut retenir, ce n’est pas un seul chiffre de référence. Les entreprises doivent séparer la sélection du modèle de la sélection de l'infrastructure, mesurer la qualité et le coût par tâche accomplie et conserver la possibilité d'acheminer les différentes charges de travail vers le modèle spécialisé le plus approprié.