Kısa : UNESCO, yapay zekanın enerji tüketimini azaltmak için üç strateji öneriyor: daha küçük modeller, etkileşim uzunluğunu azaltma ve modelleri sıkıştırma.
İçindekiler
Dün Cenevre'de kapılarını açan AI for Good Zirvesi'nde, UNESCO ve University College London (UCL) tarafından yapılan ortak bir çalışma, dil modellerinin tasarımı ve kullanımı üzerinde basit ayarlamalar yaparak enerji tüketimlerini performanslarını etkilemeden %90 oranında azaltabileceğini ortaya koyuyor. Yapay zekanın çevresel etkisinin stratejik bir sorun haline geldiği bir bağlamda, bu bulgu, dil modellerinin küresel ölçekte nasıl eğitildiği, dağıtıldığı ve kullanıldığı konusunda yeniden düşünmeyi teşvik ediyor.
Görünmez fakat Üstel Tüketim
ChatGPT gibi üretken bir yapay zekaya yapılan her sorgu ortalama 0,34 watt-saat enerji tüketiyor. Bu rakam, bu araçların yoğun kullanımıyla çarpıldığında önemsiz görünüyor olabilir. Bugün, bir milyardan fazla insan bu araçları kullanıyor: Her birinin bu araçlarla yaptığı günlük tek bir etkileşim, yılda 310 gigawatt-saatten fazla tüketime denk geliyor, bu da düşük gelirli bir Afrika ülkesinde yaklaşık 3 milyon insanın her yıl tükettiği elektriğe eşdeğer.
Ancak, Afrika'daki yapay zeka uzmanlarının sadece %5'i gerekli altyapıya erişebiliyor, bu da yüksek gelirli ülkelerle dijital uçurumu derinleştiren önemli bir dengesizlik oluşturuyor, bu ülkeler hesaplama kapasitelerinin çoğunluğunu barındırıyor.
Daha Az Enerji Tüketen Bir Yapay Zeka için Üç Kaldıraç
Açık kaynaklı birçok dil modeli üzerinde yapılan deneyler, UCL araştırmacılarının, üretken yapay zekanın karbon ayak izini en aza indirmek için üç yaklaşım belirlemesini sağladı:
- Daha Küçük ve Uzmanlaşmış Modeller Kullanmak : "Daha büyük daha akıllıdır" şeklindeki yaygın kanının aksine, UCL'nin sonuçları, belirli görevler (özetleme, çeviri, bilgi çıkarma) üzerinde uzmanlaşmış kompakt modellerin enerji tüketimini performans kaybı olmadan on kat azaltabileceğini gösteriyor.
Bu "uzmanlaşma" mantığı, yalnızca her göreve uygun modülleri etkinleştirerek kaynak israfını önleyen ve enerji verimliliğini optimize eden Uzmanlar Karışımı (MoE) mimarilerinde de görülüyor; - Etkileşimlerin Uzunluğunu Azaltmak : Yapılan testlere göre, daha öz ve kısa yanıtlar ve istemler enerji tüketimini %50'nin üzerinde azaltabilir;
- Modelleri Sıkıştırmak : Kuantifikasyon gibi teknikler, modellerin boyutunu belirgin bir hassasiyet kaybı olmadan küçültebilir, bu da %44 oranında enerji kazancı sağlar. Araştırmalarda bilinen bu yaklaşımlar, ticari dağıtımlarda hala marjinal kalmaktadır.
194 üye devlet tarafından Kasım 2021'de oybirliğiyle kabul edilen UNESCO'nun "Yapay Zekanın Etik Kullanımı Tavsiyesi" bu teknolojilerin çevresel etkilerine adanmış bir bölüm içeriyor. Bu yeni rapor, hükümetleri ve şirketleri daha etik ve erişilebilir, ancak aynı zamanda kullanıcıları dijital uygulamalarının enerji sonuçlarının farkına varmaları için eğitmeye yönelik Ar-Ge'ye yatırım yapmaya çağıran bu devamlılığın bir parçası.