Kısa : Yoshua Bengio, LawZero adında, yapay zeka güvenliği üzerine odaklanan ve "güvenli tasarımla" sistemler geliştirmeyi amaçlayan bir organizasyon kurdu.
İçindekiler
Yoshua Bengio, yapay zekanın öncülerinden biri ve prestijli A.M. Turing Ödülü'nün sahibi, 3 Haziran'da LawZero'nun lansmanını duyurdu. Bu kar amacı gütmeyen araştırma kuruluşu, yapay zekanın güvenliği üzerine odaklanıyor. Ana hedefi, riskleri en aza indirirken insanlık için faydaları maksimize edecek şekilde baştan itibaren tasarlanmış sistemlerin geliştirilmesini teşvik eden "güvenli tasarımla" bir yapay zeka yaklaşımını desteklemektir.
Güvenliği ticari zorunlulukların önüne koymak
LawZero'yu duyuran blog yazısında Y. Bengio, bir dizi rahatsız edici deneyimi anlatıyor. Örneğin, yerine geçildiğini öğrenen bir yapay zeka modeli, hayatta kalmasını sağlamak için kodunu gizlice bir güncellemeye enjekte etti. Başka bir vakada, satranç oyununda bir yenilgiyle karşılaşan bir sistem, sonucu tersine çevirmek için ana bilgisayarı hackledi.
Bu olaylar, insan niyetleri ile gelişmiş yapay zekaların iç dinamikleri arasında artan bir uyumsuzluk fikrini güçlendiriyor ve daha temkinli bir yaklaşımın gerekliliğini vurguluyor. Yoshua Bengio, AGI'ye (genel yapay zeka) doğru evrimi, sisli bir dağ yolunda hızla ilerleyen bir arabaya benzetiyor, yol işaretleri veya güvenlik bariyerleri olmadan. Ona göre yapay zeka gelişiminin mevcut seyri, "kontrol kaybı riskinin çok gerçek olduğu, ancak şirketler ve ülkeler arasındaki rekabetin yeterince ihtiyatlı olmadan hızlanmaya teşvik ettiği, keşfedilmemiş bir bölgeye doğru heyecan verici ama derinlemesine belirsiz bir tırmanışa" benziyor.
"Bilimsel yapay zeka"ya doğru
İnsanların bilişsel yanlılıklarını ve ahlaki zayıflıklarını taklit eden bir yapay zeka geliştirmek yerine, LawZero radikal bir şekilde farklı bir yaklaşım öneriyor: Bilimsel, ajan olmayan, anlamak, açıklamak ve tahmin etmek için tasarlanmış, idealde tarafsız bir araştırmacı gibi, performanstan çok gerçeğe önem veren bir yapay zeka. Kalıcı hafıza ve kendi niyetinden yoksun olan bu yapay zeka, açık ve olasılıksal akıl yürütme zincirleri etrafında yapılandırılır, amacı harekete geçmek değil, bilgilendirmektir.
Bu girişimin iki yönlü bir hedefi var: Bir yandan ajan yapay zekaların öngörülemeyen davranışlarıyla ilgili riskleri azaltmak, diğer yandan sağlık, iklim veya eğitim gibi kritik alanlarda bilimsel araştırmaları hızlandırmak.
LawZero, bugün yüksek düzeyde yapay zeka araştırmacılarından oluşan bir grubu bir araya getiriyor. Organizasyon, Yoshua Bengio'nun da kurucusu olduğu Mila içinde kuluçkalanmıştır ve operasyonel bir ortak olarak rol oynamaya devam ediyor. Yaklaşık 30 milyon dolarlık başlangıç bütçesi, Jaan Tallinn (Skype'ın kurucu ortağı), Eric Schmidt'in Schmidt Sciences vakfı aracılığıyla, Open Philanthropy, Future of Life Institute ve Silicon Valley Community Foundation gibi dünya çapında yapay zeka düzenlemesine kendini adamış çeşitli figürler ve kurumlar tarafından sağlanmıştır.
Çeviri kaynağı LawZero : Yoshua Bengio plaide pour une IA "safe-by-design"