Alors que Google annonce un algorithme révolutionnaire susceptible d’optimiser la consommation de mémoire vive pour son IA, la réaction du marché ne s’est pas fait attendre.
Quelques jours après que Google a annoncé TurboQuant, un nouvel algorithme qui pourrait réduire drastiquement la demande en mémoire vive des fermes de serveurs consacrées à l’intelligence artificielle, le prix de quelques kits de mémoire vive DDR5 semble commencer à baisser. Mais ne crions pas victoire trop vite.
C’est quoi, TurboQuant ?
Les chercheurs de Google ont publié la semaine dernière un article vantant les mérites d’un nouvel algorithme de leur conception, baptisé TurboQuant. Son titre est plutôt évocateur et nous résume son objet : « Redéfinir l’efficacité de l’IA grâce à une compression extrême. » Autrement dit, il s’agit d’un nouvel algorithme de compression qui pourrait carrément diviser par six la RAM nécessaire pour que l’intelligence artificielle puisse fonctionner comme elle le fait aujourd’hui.
Grâce à un ingénieux système de cache, les LLM pourraient ainsi garder en mémoire des instructions clés et accélérer le calcul tout en évitant une explosion de la consommation de RAM. Une meilleure allocation de la mémoire vive serait au cœur de la trouvaille de Google, qui pourrait donc alléger considérablement la demande des fermes de serveurs pour ce composant central dans toute l’industrie de la tech.
Cet algorithme doit toutefois encore prouver son efficacité en usage réel et être adopté massivement par les concepteurs de LLM. Rien n’est encore gagné, d’autant que cette optimisation (faire aussi bien, avec moins) pourrait aussi encourager les géants de la tech à décupler encore leur puissance de calcul, plutôt qu’à viser l’efficience.
Un marché déjà réceptif ?
Même si TurboQuant est prometteur, il semblerait que le marché des composants, notamment de la mémoire vive, soit déjà en train de s’ajuster depuis l’annonce de Google.
Le site spécialisé WWCftech liste quelques kits de RAM DDR5 dont le prix aurait déjà perdu 100 $ par rapport à la semaine dernière, et attribue cette chute à l’annonce de TurboQuant. Seules quelques marques seraient toutefois concernées et tous les marchés ne sont pas logés à la même enseigne. Chez nous, il faut toujours débourser le prix d’une PS5 pour s’offrir 32 Go de RAM DDR5.
Une PS5 qui, d’ailleurs, va voir son prix partir en flèche dans quelques jours… Justement à cause de la pénurie de RAM. Autant dire qu’on n’est pas sortis des ronces.
