Q*, le modèle d’IA qui pourrait être la cause du licenciement de Sam Altman

Lorsque le conseil d’administration d’OpenAI a remercié Sam Altman vendredi dernier, il s’était justifié en disant que le PDG “n’avait pas toujours été franc dans ses communications avec le conseil”. Il faisait peut-être allusion à une lettre de plusieurs chercheurs l’avertissant de la découverte d’une IA surpuissante, mais qui s’inquiétaient du risque qu’elle pourrait faire courir à l’humanité, selon des sources de Reuters.

Parmi les préoccupations du conseil figuraient également des inquiétudes concernant la commercialisation rapide de ces avancées sans une compréhension adéquate de leurs implications.

Cette IA si puissante a été développée dans le cadre d’un projet appelé Q* (prononcé Q Star) se rapprocherait fortement de l’IAG (Intelligence Artificielle Générale), l’objectif de la société.

OpenAI met en avant sur son site :

“Notre mission est de veiller à ce que l’intelligence artificielle générale, c’est-à-dire les systèmes d’IA généralement plus intelligents que les humains, profite à l’ensemble de l’humanité”.

Le modèle Q*

Selon l’une des sources de Reuters, Q* a montré des capacités notables dans la résolution de problèmes mathématiques. Bien que les exercices qu’il a réalisés soient du niveau de l’école primaire, le fait qu’il ait des capacités de raisonnement proches de l’intelligence humaine a suscité l’optimisme des chercheurs.

Il pourrait représenter, selon eux, une percée majeure vers l’IAG (AGI en anglais) qu’OpenAI définit comme des systèmes autonomes capables de surpasser les humains dans la plupart des tâches économiquement utiles.

La lettre des chercheurs avait également mentionné les travaux d’une équipe de “scientifiques de l’IA”, ce qui a été confirmé par plusieurs sources. L’une d’elles a indiqué qu’elle était formée des équipes “Code Gen” et “Math Gen” et explorait comment optimiser les modèles d’IA existants pour améliorer leur raisonnement et éventuellement effectuer des travaux scientifiques.

OpenAI n’a pas voulu commenter, la société a simplement confirmé l’existence du projet Q* à ses employés.

Il faut avouer qu’il est un peu compliqué de s’y retrouver. Pourquoi alerter sur les dangers des IA plus évoluées que GPT4, appeler à une pause dans les recherches tout en continuant à développer des modèles plus puissants qui pourraient prendre des décisions autonomes sans mettre de garde-fous ? En tout cas, OpenAI, qui aurait pu craindre de perdre la confiance de ses clients avec tous ces revirements de situation, s’en tire plutôt bien pour l’instant…

Recevez gratuitement l'actualité de l'intelligence artificielle

Suivez la Newsletter de référence sur l'intelligence artificielle (+ de 18 000 membres), quotidienne et 100% gratuite.


Tout comme vous, nous n'apprécions pas le spam. Vos coordonnées ne seront transmises à aucun tiers.

1ère Marketplace de l'IA et de la transformation numérique vous recommande :
Plateforme d'optimisation de la logistique par DecisionBrain

La plateforme d'optimisation logistique permet le développement rapide d'applications personnalisées qui tirent parti des techniques d'apprentissage a...

 
Partager l'article
Offre exclusive : 1 an d'abonnement au magazine ActuIA + Le guide pratique d'adoption de l'IA en entreprise pour seulement 27,60€ Boutique ActuIA Pour tout abonnement à ActuIA, recevez en cadeau le Guide Pratique d'Adoption de l'IA en Entreprise, d'une valeur de 23€ !
intelligence artificielle
À PROPOS DE NOUS
Le portail francophone consacré à l'intelligence artificielle et à la datascience, à destination des chercheurs, étudiants, professionnels et passionnés.