LawZero: Yoshua Bengio apeluje o AI „bezpieczne z założenia”
Yoshua Bengio, jeden z ojców AI, ogłosił powstanie LawZero, organizacji non-profit, której celem jest promowanie bezpiecznego projektowania AI od pods...
Yoshua Bengio jest ikoną w dziedzinie sztucznej inteligencji (SI), uznawaną na całym świecie za swoje pionierskie wkłady w rozwój uczenia głębokiego. Laureat prestiżowej nagrody A.M. Turinga w 2018 roku, uznawanej za "Nobla informatyki", często określany jest jako jeden z "ojców założycieli" deep learning, obok Geoffrey Hinton i Yann LeCun. Jest profesorem na Uniwersytecie Montrealskim oraz założycielem Mila, Instytutu Sztucznej Inteligencji Quebecu, który stał się centrum badań nad SI.
Yoshua Bengio jest głównie znany ze swoich prac nad sieciami neuronowymi i uczeniem głębokim, które zrewolucjonizowały dziedziny takie jak wizja komputerowa, rozpoznawanie mowy i przetwarzanie języka naturalnego. Jego badania pozwoliły pokonać znaczące wyzwania techniczne, prowadząc do istotnych postępów w projektowaniu algorytmów uczenia maszynowego. Jego ekspertyza obejmuje również modelowanie probabilistyczne i naukę o danych, z silnym ukierunkowaniem na poprawę modeli SI, aby były bardziej efektywne i bezpieczne.
Ostatnio Yoshua Bengio uruchomił LawZero, organizację badawczą non-profit poświęconą bezpieczeństwu SI. Ta inicjatywa ma na celu promowanie podejścia "safe-by-design" do rozwoju systemów SI, dążąc do minimalizacji ryzyk i maksymalizacji korzyści dla ludzkości. LawZero proponuje radykalnie odmienne podejście do sztucznej inteligencji, koncentrując się na naukowej SI pozbawionej trwałej pamięci i własnej intencjonalności, zaprojektowanej do informowania, a nie działania.
Współpracując z partnerami takimi jak Future of Life Institute i Silicon Valley Community Foundation, LawZero korzysta z wsparcia finansowego w wysokości około 30 milionów dolarów. Organizacja ściśle współpracuje z Mila w celu opracowania rozwiązań mających na celu redukcję nieprzewidzianych zachowań SI agentowych.
Yoshua Bengio jest wpływowym głosem w debacie na temat etyki i regulacji SI. Oprócz swoich wkładów akademickich, odegrał aktywną rolę w formułowaniu polityk dotyczących rozwoju SI. Był sygnatariuszem listu Future of Life Institute, wzywającego do tymczasowej przerwy w rozwoju ogólnej sztucznej inteligencji (AGI) i uczestniczył w opracowaniu międzynarodowego raportu na temat bezpieczeństwa SI, mającego na celu standaryzację zrozumienia ryzyk związanych z zaawansowanymi systemami SI.
Yoshua Bengio nadal angażuje się w projekty koncentrujące się na społecznym wpływie SI. Nadzorował publikację pierwszego międzynarodowego raportu na temat bezpieczeństwa SI, który posłużył jako podstawa do dyskusji podczas Szczytu na rzecz działania w sprawie SI. Równocześnie jego zaangażowanie w silne zarządzanie SI przejawia się w jego stanowiskach na temat konieczności regulacji modeli podstawowych, takich jak ChatGPT, w celu ochrony praw podstawowych i zapobiegania potencjalnym nadużyciom.
Podsumowując, Yoshua Bengio pozostaje centralną i szanowaną postacią w dziedzinie sztucznej inteligencji, nadal wpływając na kierunek badań i polityki w zakresie SI dzięki swoim naukowym wkładom i zaangażowaniu w etyczny i odpowiedzialny rozwój technologii.
Yoshua Bengio est un chercheur reconnu pour être l’un des pionniers de la recherche en Deep Learning. Il est professeur à l'Université de Montréal. Il est également fondateur du Mila et co-fondateur d’Element AI.
Individu
2 articles liés à cet acteur
Yoshua Bengio, jeden z ojców AI, ogłosił powstanie LawZero, organizacji non-profit, której celem jest promowanie bezpiecznego projektowania AI od pods...
AGI (sztuczna inteligencja ogólna) jest uważana za technologiczny 'święty Graal' przez firmy takie jak OpenAI czy DeepSeek. Przedstawiana jako szansa...