Intelligence artificielle Anthropic, société de sécurité et de recherche en IA, a réalisé une...

Pour approfondir le sujet

Sur le même thème :

PariSanté Campus dévoile les soixante start-ups de sa première promotion

Le Ministère de l’Enseignement supérieur, de la Recherche et de l’Innovation, le Ministère des Solidarités et de la Santé, l’Inserm, l’Université PSL (Paris Sciences...

Business France et Bpi France dévoilent les lauréats de la 3ème édition du programme Impact Germany

En collaboration avec Bpifrance, le département économique de la Bavière, la société d'avocats Mazars en Allemagne, du Moove Lab (l’accélérateur de startups de la...

La start-up de la tech climatique Kayrros soutenue par le fonds « French Tech Souveraineté » lors d’un tour de table de 40 millions...

KAYRROS, leader de l’analyse des données climatiques et énergétiques, a annoncé, le 22 mars dernier, un nouveau tour de table de 40 millions d’euros. L’Etat,...

MassChallenge et Enterra Solutions annoncent un partenariat

MassChallenge Suisse, qui fait partie du réseau mondial d'innovateurs de MassChallenge, a annoncé le 30 mars dernier, un partenariat avec Enterra Solutions, dont la...

Anthropic, société de sécurité et de recherche en IA, a réalisé une levée de fonds de 580 millions de dollars

Anthropic, société de sécurité et de recherche en IA, vise à réduire les risques et augmenter les potentiels de l’IA. Elle a réalisé une première levée de fonds de 124 M$ l’année de sa création, en 2021. Elle vient d’annoncer un tour de table de 580 M$ dirigé par Sam Bankman-Fried, PDG de FTX, auquel ont participé Caroline Ellison, Jim McClave, Nishad Singh, Jaan Tallinn et du Center for Emerging Risk Research (CERR).

Anthropic a été cofondée par les frère et sœur Daniela et Dario Amodei durant le confinement. Daniela Amodei a travaillé auparavant chez Stripe et OpenAI, son frère a également travaillé chez Open AI ainsi que chez Google et Baidu. L’équipe de départ, composée de 7 anciens collaborateurs d’Open AI, compte aujourd’hui une quarantaine de personnes et continue de s’agrandir. Les membres de cette équipe viennent d’horizons très différents : spécialistes de la visualisation de données, de la sécurité, en ML mais aussi des experts en politiques, neuroscientifiques ou biologistes computationnels.

Daniela Amodei déclare :

« Maintenant que nous avons construit l’organisation, nous nous efforçons de nous assurer qu’Anthropic dispose de la culture et de la gouvernance nécessaires pour continuer à explorer et à développer de manière responsable des systèmes d’IA sûrs à mesure que nous évoluons. Nous sommes ravis de ce qui nous attend et reconnaissants de travailler tous ensemble. »

Leur objectif est de rendre les systèmes plus orientables, robustes et interprétables. Pour cela, ils tentent de décrire, comprendre, prédire, modéliser scientifiquement les fonctionnements des systèmes d’IA grâce à cette compréhension plus approfondie. Leurs domaines de recherche sont le langage naturel, la rétroaction humaine, les lois d’échelle, l’apprentissage par renforcement, la génération de code et l’interprétabilité. La société publie régulièrement des documents et articles où elle partage ses avancées.

Pour Anthropic, « Le but de cette recherche est de développer les composants techniques nécessaires pour construire des modèles à grande échelle qui ont de meilleures garanties implicites et nécessitent moins d’interventions après la formation, ainsi que de développer les outils nécessaires pour regarder plus en profondeur à l’intérieur de ces modèles pour être sûr que le les garanties fonctionnent réellement. »

Anthropic travaille aussi sur l’exploration des impacts politiques et sociétaux de ces modèles grâce à des partenariats.

Dario Amodei conclut :

« Avec cette collecte de fonds, nous allons explorer les propriétés d’évolutivité prévisibles des systèmes d’apprentissage automatique, tout en examinant de près les manières imprévisibles dont les capacités et les problèmes de sécurité peuvent émerger à grande échelle. Nous avons réalisé d’importants progrès initiaux dans la compréhension et le pilotage du comportement des systèmes d’IA, et nous assemblons progressivement les éléments nécessaires pour créer des systèmes d’IA intégrés et utilisables qui profitent à la société. »


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Marie-Claude Benoit

Partager l'article

I-Stem, Généthon et Kantify découvrent une thérapie prometteuse contre les maladies génétiques

Les équipes d’I-Stem et de Généthon, laboratoires de l’Association Française contre les Myopathies (AFM-Téléthon), ont collaboré avec la start-up belge Kantify, spécialisée dans le...

La finale de « Ma thèse en 180 secondes » aura lieu à Lyon le 31 mai prochain

« Ma thèse en 180 secondes » concours qui s'inspire de « Three minute Thesis », conçu à l'Université du Queensland, en Australie, est...

CentraleSupélec et SystemX lancent l’Alliance CircularIT pour mettre le numérique au service de l’économie circulaire

Le 10 mai dernier, CentraleSupélec et l’IRT SystemX ont annoncé la création d'« Alliance CircularIT » afin de « mettre la puissance du numérique...

Le Val de Marne mise sur l’intelligence artificielle pour améliorer son réseau d’assainissement

En novembre 2020, l’agence de l’eau Seine-Normandie lançait l'appel à projets innovation pour la gestion de l’eau, « Transition numérique et économie circulaire »...
Recevoir une notification en cas d'actualité importante    OK Non merci