Imaginez des intelligences artificielles installées localement sur un appareil (smartphone, enceinte, ordinateur…). Moins gourmandes en énergie et plus respectueuses de la vie privée, elles sont expérimentées par Apple, Microsoft, Google…
OpenELM (Open Efficient Language Model). Derrière ce nom un peu barbare se cache une nouvelle famille de « petits modèles de langage » efficaces dont vous devriez entendre beaucoup parler ces prochains mois. Elle a été créée par un consortium de grandes entreprises technologiques, dont Apple, Microsoft, Google et Fastmail. Conçu pour moderniser l’expérience des assistants conversationnels, OpenELM vise à offrir des modèles plus performants, précis et respectueux de la vie privée. Comment ? Un OpenELM peut être exécuté sur un appareil local au lieu de faire transiter les données par le cloud.
Fin avril, Apple a présenté huit minuscules modèles de langage d’IA, suffisamment petits pour fonctionner directement sur un smartphone. Il s’agit pour l’instant d’un projet de recherche qui s’appuie sur des modèles qui doivent servir de validation de principe. Des sortes de prototypes qui permettent de valider le fonctionnement et la théorie… et qui embarquent entre 270 millions et 3 milliards de paramètres. Un vrai tour de force, même si cela reste limité par rapport aux larges modèles de langage comme le dernier en date, Llama 3 de Meta, qui comprend 70 milliards de paramètres (avec une version à 400 milliards en vue).
Ces OpenELM pourraient constituer la base des futures offres d’IA sur les appareils d’Apple. La prochaine keynote, qui se tiendra le 10 juin prochain dans le cadre de la WWDC, annoncera des fonctionnalités d’IA pour iOS 18, mais il est encore trop tôt pour voir apparaître ces OpenELM dans la prochaine version du système d’exploitation de l’iPhone. Cela reste néanmoins une bonne nouvelle pour toutes les personnes (extrêmement) frustrées par les capacités de l’assistant vocal Siri, par exemple. Peu avant Apple, Microsoft avait déjà levé le voile sur Phi-3 Mini, un autre petit modèle de langage capable de fonctionner sur smartphone.
Un fonctionnement innovant pour ces mini-IA
Un OpenELM est un peu comme une grande boîte à outils que les gens utilisent pour créer des assistants intelligents, comme ceux présents dans les téléphones, les haut-parleurs intelligents, les thermostats ou les caméras de surveillance de la maison. Ces assistants aident les gens à trouver des informations, jouer de la musique, ou même à allumer les lumières simplement en parlant.
Côté travail aussi, cette technologie a sa carte à jouer, intégrée dans des applications de productivité comme les suites bureautiques, les outils de prise de notes ou les assistants de rédaction. Elle permettrait d’ajouter des fonctionnalités de génération de texte, de résumé, de traduction ou d’analyse sémantique directement sur l’appareil, sans dépendre d’un serveur distant.
En outre, les OpenELM utilisent une stratégie de mise à l’échelle par couche pour allouer efficacement les paramètres au sein de chaque couche du modèle de transformateur. Cette approche innovante conduit à une efficacité améliorée de l’IA. Malgré l’utilisation de moins de jetons (données), les OpenELM devraient surpasser les autres modèles en termes de précision.
1re étape
Apprendre à comprendre. La première chose que fait un OpenELM, c’est d’apprendre beaucoup de choses en lisant ou en écoutant. Un peu comme une éponge qui absorbe tout ce qu’elle touche, un OpenELM fait pareil avec les informations. Il apprend des mots, des phrases et même comment les gens parlent dans différentes situations.
2e étape
L’entraînement. Ensuite, OpenELM s’entraîne comme un athlète. Les développeurs lui donnent des exercices pour voir s’il a bien compris les règles de la langue. Par exemple, ils lui demandent de reformuler des phrases ou de répondre à des questions pour s’assurer qu’il peut bien comprendre et parler avec les gens. Si les résultats ne sont pas ceux attendus, l’apprentissage se poursuit.
3e étape
Le test de connaissances. Après beaucoup d’entraînement, les créateurs testent l’OpenELM pour voir s’il est prêt. Ils lui posent de nombreuses questions ou lui donnent des problèmes à résoudre pour être sûrs qu’il peut aider correctement les gens. Une fois cette étape validée, l’OpenELM peut être utilisé dans les conditions réelles.
4e étape
L’amélioration continue. Même après avoir appris beaucoup, un OpenELM continue d’apprendre de nouvelles choses chaque jour pour devenir encore meilleur. C’est un peu comme quand, même diplômée, une personne va continuer à se former tout au long de sa carrière pour apprendre de nouvelles choses tous les jours.
Un avenir intéressant, mais semé d’embuches
Grâce aux OpenELM, les utilisateurs devraient bénéficier à moyen terme d’assistants conversationnels plus intelligents, précis et respectueux de leur vie privée. Les interactions deviendront plus naturelles et enrichissantes, tout en offrant une meilleure protection contre les menaces en ligne. Mais avant cet avenir qui s’annonce radieux, les OpenELM devront relever plusieurs défis, notamment la compatibilité avec les systèmes existants et l’adoption généralisée par les entreprises et les développeurs.
