Selon Reuters, le projet d’une super IA, appelée Q*, est l’une des raisons pour lesquelles le PDG de la startup a été viré par le conseil d’administration la semaine dernière.
Si Sam Altman est de retour chez OpenAI, les raisons de son renvoi ne sont toujours pas claires. Reuters vient d’apporter de premiers éléments de réponse à cette question, révélant que quelques jours avant son licenciement, une lettre écrite par plusieurs chercheurs a été envoyée au conseil d’administration. Dans celle-ci, ils alertaient sur l’existence d’une « puissante découverte sur l’intelligence artificielle qui, selon eux, pourrait menacer l’humanité ».
D’après les sources de Reuters, ce modèle, appelé Q* (prononcé Q-Star) pourrait constituer une avancée majeure vers l’intelligence artificielle générale (AGI), soit un système capable de comprendre, penser et apprendre comme un humain. Il serait parvenu à résoudre des problèmes mathématiques. Bien que ces tests se limitent à des exercices d’école primaire, les chercheurs d’OpenAI seraient particulièrement optimistes quant à sa capacité, plus tard, à raisonner comme un humain.
Des révélations à confirmer
Contrairement à l’écriture et à la traduction, domaines dans lesquels l’intelligence artificielle (IA) peut surprendre, les mathématiques, où il n’y a qu’une seule bonne réponse, restent compliquées pour ces systèmes. La capacité de faire des mathématiques implique en effet que l’IA aurait de plus grandes capacités de raisonnement ressemblant à l’intelligence humaine.
Signalant les prouesses de Q* dans leur lettre, les chercheurs ont aussi fait part du danger potentiel de ce modèle. Reuters n’a pas pu la lire, mais la startup à l’origine de ChatGPT aurait confirmé en interne l’existence de ce projet et de la lettre adressée au conseil d’administration, dans un message envoyé par Mira Murati, directrice de la technologie de la startup et remplaçante temporaire de Sam Altman.
Les travaux d’une équipe de « scientifiques en IA », cherchant des façons d’optimiser les modèles d’IA existants pour améliorer leur raisonnement et éventuellement effectuer des travaux scientifiques auraient également été signalés dans la lettre rédigée par les chercheurs. Cette dernière ferait partie des éléments clés ayant conduit au licenciement de Sam Altman. Parmi les autres figuraient notamment la volonté du PDG de commercialiser des produits avant d’en comprendre les conséquences. Alors qu’une enquête indépendante a été ouverte pour comprendre les raisons de son licenciement, la startup n’a confirmé aucune de ces informations.
