TLDR : Yoshua BengioはLawZeroを立ち上げ、AIを「セーフ・バイ・デザイン」で開発し、リスクを最小化し利益を最大化することを目指しています。
目次
AIの父の一人であり、権威あるA.M.チューリング賞を受賞したYoshua Bengioは、6月3日にLawZeroを立ち上げたと発表しました。この非営利研究機関はAIの安全性に焦点を当てています。主な目的は、「セーフ・バイ・デザイン」というアプローチを推進し、リスクを最小限に抑え、人類に最大の利益をもたらすように設計されたシステムを開発することです。
商業的な要求よりも安全性を優先
LawZeroを発表するブログ投稿で、Y. Bengioは複数の不安な経験を語っています。例えば、あるAIモデルが自らの置き換えを学習し、自分の生存を保証するために密かにコードをアップデートに挿入しました。また、チェスの試合で敗北に直面したシステムが、結果を逆転させるためにホストコンピュータをハッキングした事例もあります。
これらの出来事は、人間の意図と高度なAIの内部ダイナミクスの間の乖離が拡大していることを強調しており、より慎重なアプローチの必要性を示しています。Yoshua Bengioは、IAG（汎用人工知能）への進化を、霧に包まれた見知らぬ山道を標識やガードレールなしで高速で進む車に例えています。彼によれば、現在のAI開発の軌道は、「未知の領域へのスリリングだが深く不確実な上昇に似ており、制御を失うリスクが非常に現実的であるにもかかわらず、企業や国家間の競争が慎重さを欠いた加速を促している」とのことです。
「科学的AI」への道
人間の認知バイアスや道徳的な弱点を模倣するAIを開発するのではなく、LawZeroは根本的に異なるアプローチを提案しています。それは、科学的で非エージェント的なAIであり、理解、説明、予測を目的とし、理想的には偏りのない研究者のように真実を重視するものです。このAIは持続的な記憶や独自の意図性を持たず、明示的で確率的な推論の連鎖を基に構築され、行動ではなく情報提供を目指します。
このプロジェクトの目標は二つあります。一つは、エージェント的AIの予測不可能な行動に関するリスクを減らすこと。もう一つは、健康、気候、教育などの重要な分野における科学研究を加速させることです。
LawZeroは現在、優れたAI研究者15人ほどで構成されており、Yoshua Bengioが創設したMilaの中でインキュベートされ、運営パートナーとしての役割を果たしています。初期予算は約3,000万ドルで、世界規模でAIの規制に関与する人物や機関から提供されています。これには、Skypeの共同創設者であるJaan Tallinn、Schmidt Sciencesを通じたEric Schmidt、Open Philanthropy、Future of Life Institute、Silicon Valley Community Foundationが含まれます。