LawZero: Йошуа Бенджіо виступає за IA 'safe-by-design'
Йошуа Бенджіо оголосив про запуск LawZero, організації, спрямованої на безпеку ІА, із підходом 'safe-by-design'.
Йошуа Бенджіо є знаковою фігурою в галузі штучного інтелекту (ШІ), визнаною у всьому світі за його піонерські внески в розвиток глибокого навчання. Лауреат престижної премії А.М. Тюрінга у 2018 році, яка вважається "Нобелівською премією з інформатики", він часто називається одним з "батьків-засновників" глибокого навчання поряд з Джеффрі Хінтоном та Яном ЛеКуном. Він є професором Монреальського університету та засновником Mila, Квебекського інституту штучного інтелекту, який став важливим центром досліджень у галузі ШІ.
Йошуа Бенджіо відомий головним чином своїми роботами над нейронними мережами та глибоким навчанням, які революціонізували такі галузі, як комп'ютерний зір, розпізнавання мови та обробка природної мови. Його дослідження дозволили подолати основні технічні виклики, що призвело до значних досягнень у розробці алгоритмів машинного навчання. Його експертиза також охоплює ймовірнісне моделювання та науку про дані, з сильним акцентом на покращення моделей ШІ, щоб вони були більш ефективними та безпечними.
Нещодавно Йошуа Бенджіо заснував LawZero, некомерційну дослідницьку організацію, присвячену безпеці ШІ. Ця ініціатива спрямована на просування підходу "безпека за дизайном" для розробки систем ШІ, намагаючись мінімізувати ризики та максимізувати вигоди для людства. LawZero пропонує радикально інший підхід до штучного інтелекту, зосереджений на науковому ШІ без постійної пам'яті та власної інтенціональності, призначеному для інформування, а не дії.
У співпраці з партнерами, такими як Future of Life Institute та Silicon Valley Community Foundation, LawZero отримує фінансову підтримку в розмірі близько 30 мільйонів доларів. Організація тісно співпрацює з Mila для розробки рішень, спрямованих на зменшення непередбачуваних поведінкових проявів агентних ШІ.
Йошуа Бенджіо є впливовим голосом у дискусії про етику та регулювання ШІ. Крім своїх академічних внесків, він активно брав участь у формулюванні політик для регулювання розвитку ШІ. Він був підписантом листа Future of Life Institute, що закликає до тимчасової паузи у розвитку загального штучного інтелекту (AGI), та брав участь у розробці міжнародного звіту про безпеку ШІ, спрямованого на стандартизацію розуміння ризиків, пов'язаних з просунутими системами ШІ.
Йошуа Бенджіо продовжує брати участь у проєктах, які акцентують увагу на соціальному впливі ШІ. Він керував публікацією першого міжнародного звіту про безпеку ШІ, який став основою для обговорень на Саміті з дій щодо ШІ. Паралельно, його прихильність до сильної управлінської політики ШІ проявляється через його позицію щодо необхідності регулювання базових моделей, таких як ChatGPT, для захисту фундаментальних прав і запобігання потенційним зловживанням.
На завершення, Йошуа Бенджіо залишається центральним і шанованим діячем у галузі штучного інтелекту, продовжуючи впливати на напрямок досліджень та політик у ШІ завдяки своїм науковим внескам та відданості етичному та відповідальному розвитку технологій.
Yoshua Bengio est un chercheur reconnu pour être l’un des pionniers de la recherche en Deep Learning. Il est professeur à l'Université de Montréal. Il est également fondateur du Mila et co-fondateur d’Element AI.
Individu
1 articles liés à cet acteur
Йошуа Бенджіо оголосив про запуск LawZero, організації, спрямованої на безпеку ІА, із підходом 'safe-by-design'.