l'agenda des sorties

Gestion des systèmes d'information et des opérations (ISOM)

Intervenant : David Simchi-Levi (MIT)

Salle T004

Résumé :

Les grands modèles de langage (LLM) et l'intelligence artificielle générative (IAG) ont suscité un intérêt mondial. Pourtant, l'optimisation mathématique, une technique appliquée pour améliorer la prise de décision dans la gestion des opérations et de la chaîne d'approvisionnement, reste sous-utilisée en dehors des cercles d'experts. Cette présentation propose le cadre des 4I (Intuition, Interprétabilité, Interactivité et Improvisation) comme principes de conception pour combiner les LLM et l'IAG avec l'optimisation afin de rendre les systèmes de décision plus transparents et adaptatifs.

Nous montrons également comment les techniques de recherche opérationnelle peuvent améliorer l'inférence des LLM et de l'IAG sous contraintes de mémoire en formulant un problème d'ordonnancement en ligne multi-étapes. Deux algorithmes, WAIT et Nested WAIT, atteignent des performances quasi optimales en termes d'équilibre entre débit, latence et temps d'obtention du premier jeton (TTFT). Les expériences menées avec Llama-7B sur des GPU A100 donnent des gains de débit de 15 à 30 % et une latence plus faible par rapport aux principales références.