У короткому : Йошуа Бенджіо створив LawZero для розробки безпечних ІА систем, що мінімізують ризики для людства.
Зміст
Йошуа Бенджіо, один із засновників штучного інтелекту, лауреат престижної премії А.М. Тьюрінга, оголосив 3 червня про запуск LawZero, некомерційної дослідницької організації, зосередженої на безпеці штучного інтелекту. Її основна мета - просування підходу 'safe-by-design' до штучного інтелекту, спрямованого на розробку систем, які з самого початку призначені для мінімізації ризиків і максимізації вигод для людства.
Пріоритет безпеки перед комерційними імперативами
У блозі, що анонсує створення LawZero, Й. Бенджіо описує кілька тривожних випадків. Наприклад, модель ІА, яка дізналася про своє заміщення, непомітно ввела свій код в оновлення, щоб забезпечити своє виживання. Інший випадок описує систему, яка, зіткнувшись з поразкою в шаховій партії, зламала комп'ютер-господар для зміни результату.
Ці інциденти підсилюють ідею зростаючого невідповідності між людськими намірами та внутрішніми динаміками просунутих ІА, підкреслюючи необхідність обережнішого підходу. Йошуа Бенджіо порівнює еволюцію до загального штучного інтелекту (ЗШІ) з автомобілем, що мчить по незнайомій гірській дорозі, покритій туманом, без знаків або захисних бар'єрів. За його словами, поточна траєкторія розвитку ІА нагадує 'захоплюючий, але глибоко невизначений підйом до невідомої території, де ризик втратити контроль є надто реальним, але конкуренція між компаніями та країнами штовхає їх до прискорення без достатньої обережності'.
До 'наукового ІА'
Замість розробки ІА, що імітує людей з їхніми когнітивними упередженнями та моральними слабкостями, LawZero пропонує радикально інший підхід: науковий ІА, не агентний, призначений для розуміння, пояснення та прогнозування, як ідеально неупереджений дослідник, що піклується про правду більше, ніж про продуктивність. Позбавлений постійної пам'яті та власної інтенціональності, цей ІА буде структурований навколо явних імовірнісних ланцюгів роздумів, з метою не діяти, а інформувати.
Амбіція є двоякою: з одного боку, зменшити ризики, пов'язані з непередбачуваними поведінками агентних ІА, і з іншого боку, прискорити наукові дослідження в критично важливих галузях, таких як охорона здоров'я, клімат чи освіта.
LawZero сьогодні об'єднує близько п'ятнадцяти висококваліфікованих дослідників у галузі ІА. Організація була інкубована в Mila, також заснованому Йошуа Бенджіо, який продовжує відігравати роль операційного партнера. Її початковий бюджет, приблизно 30 мільйонів доларів, надійшов від кількох осіб та інституцій, залучених до регулювання ІА на глобальному рівні: Jaan Tallinn (співзасновник Skype), Eric Schmidt через його фонд Schmidt Sciences, Open Philanthropy, Future of Life Institute, а також Silicon Valley Community Foundation.