Intelligence artificielle Anthropic, société de sécurité et de recherche en IA, a réalisé une...

Pour approfondir le sujet

Sur le même thème :

PariSanté Campus dévoile les soixante start-ups de sa première promotion

Le Ministère de l’Enseignement supérieur, de la Recherche et de l’Innovation, le Ministère des Solidarités et de la Santé, l’Inserm, l’Université PSL (Paris Sciences...

Business France et Bpi France dévoilent les lauréats de la 3ème édition du programme Impact Germany

En collaboration avec Bpifrance, le département économique de la Bavière, la société d'avocats Mazars en Allemagne, du Moove Lab (l’accélérateur de startups de la...

La start-up de la tech climatique Kayrros soutenue par le fonds « French Tech Souveraineté » lors d’un tour de table de 40 millions...

KAYRROS, leader de l’analyse des données climatiques et énergétiques, a annoncé, le 22 mars dernier, un nouveau tour de table de 40 millions d’euros. L’Etat,...

MassChallenge et Enterra Solutions annoncent un partenariat

MassChallenge Suisse, qui fait partie du réseau mondial d'innovateurs de MassChallenge, a annoncé le 30 mars dernier, un partenariat avec Enterra Solutions, dont la...

Anthropic, société de sécurité et de recherche en IA, a réalisé une levée de fonds de 580 millions de dollars

Anthropic, société de sécurité et de recherche en IA, vise à réduire les risques et augmenter les potentiels de l’IA. Elle a réalisé une première levée de fonds de 124 M$ l’année de sa création, en 2021. Elle vient d’annoncer un tour de table de 580 M$ dirigé par Sam Bankman-Fried, PDG de FTX, auquel ont participé Caroline Ellison, Jim McClave, Nishad Singh, Jaan Tallinn et du Center for Emerging Risk Research (CERR).

Anthropic a été cofondée par les frère et sœur Daniela et Dario Amodei durant le confinement. Daniela Amodei a travaillé auparavant chez Stripe et OpenAI, son frère a également travaillé chez Open AI ainsi que chez Google et Baidu. L’équipe de départ, composée de 7 anciens collaborateurs d’Open AI, compte aujourd’hui une quarantaine de personnes et continue de s’agrandir. Les membres de cette équipe viennent d’horizons très différents : spécialistes de la visualisation de données, de la sécurité, en ML mais aussi des experts en politiques, neuroscientifiques ou biologistes computationnels.

Daniela Amodei déclare :

« Maintenant que nous avons construit l’organisation, nous nous efforçons de nous assurer qu’Anthropic dispose de la culture et de la gouvernance nécessaires pour continuer à explorer et à développer de manière responsable des systèmes d’IA sûrs à mesure que nous évoluons. Nous sommes ravis de ce qui nous attend et reconnaissants de travailler tous ensemble. »

Leur objectif est de rendre les systèmes plus orientables, robustes et interprétables. Pour cela, ils tentent de décrire, comprendre, prédire, modéliser scientifiquement les fonctionnements des systèmes d’IA grâce à cette compréhension plus approfondie. Leurs domaines de recherche sont le langage naturel, la rétroaction humaine, les lois d’échelle, l’apprentissage par renforcement, la génération de code et l’interprétabilité. La société publie régulièrement des documents et articles où elle partage ses avancées.

Pour Anthropic, « Le but de cette recherche est de développer les composants techniques nécessaires pour construire des modèles à grande échelle qui ont de meilleures garanties implicites et nécessitent moins d’interventions après la formation, ainsi que de développer les outils nécessaires pour regarder plus en profondeur à l’intérieur de ces modèles pour être sûr que le les garanties fonctionnent réellement. »

Anthropic travaille aussi sur l’exploration des impacts politiques et sociétaux de ces modèles grâce à des partenariats.

Dario Amodei conclut :

« Avec cette collecte de fonds, nous allons explorer les propriétés d’évolutivité prévisibles des systèmes d’apprentissage automatique, tout en examinant de près les manières imprévisibles dont les capacités et les problèmes de sécurité peuvent émerger à grande échelle. Nous avons réalisé d’importants progrès initiaux dans la compréhension et le pilotage du comportement des systèmes d’IA, et nous assemblons progressivement les éléments nécessaires pour créer des systèmes d’IA intégrés et utilisables qui profitent à la société. »


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
ZENPLOT® par Addinsoft

Zenplot®, le logiciel de data visualisation dédié aux graphiques avancés zenplot® permet de créer des visualisations impactantes en superposant diffé...

 
Marie-Claude Benoit

Partager l'article

Alphanie Midelet, doctorante de l’UGA, représente la France à la finale internationale de ma MT180

La lauréate nationale de ma MT180 (Ma Thèse en 180 secondes), Alphanie Midelet, représentera la France aujourd'hui pour la finale internationale de ce concours...

Digital Aquitaine, l’IMB et l’INRIA organisent le 6 Octobre 2022 un Workshop « Pricing Algorithms »

Les Domaines d’excellence, IA Data Science et Club Commerce Connecté, de l’association Digital Aquitaine, l’Institut de Mathématiques de Bordeaux et l’INRIA organisent le 6...

Le collectif Confiance.ai fait le bilan des avancées de son programme dédié à l’IA de confiance dans les systèmes critiques

En janvier 2021, le programme Confiance.ai, mis en œuvre dans le cadre du Grand Défi « Sécuriser, fiabiliser et certifier des systèmes fondés sur...

Évènement : le forum NAIA.R sur l’intelligence artificielle et la robotique se tiendra le 13 octobre

NAIA.R, le forum Néo-Aquitain sur l’intelligence artificielle et la robotique, donne rendez-vous aux scientifiques et professionnels du secteur le 13 octobre 2022, à la...
Recevoir une notification en cas d'actualité importante    OK Non merci