Kuruluşunun ilk yatırımcılarından biri yapay zekâyı daha temkinli yönlendirmek istemişti. Anthropic'in kurulmasından iki yıl sonra bu yatırımcının stratejisinin başarısız olduğunu düşündüğü ifade edildi. Ancak Claude'un arkasında kurucuların inançları işe alımları, yönetişimi ve ürünü şekillendirdi. Peki misyon, büyüme gereksinimleriyle çarpıştığında kim bir tercih dayatabilir?
Nisan 2023'te Jaan Tallinn'in hayal kırıklığına düşmesi için çok net bir nedeni vardı. Skype'ın kurucu ortaklarından olan o, Anthropic dahil yapay zekâ laboratuvarlarını daha temkinli olmaya teşvik etmek umuduyla finanse etmişti. Ancak şirket, en güçlü sistemlerin eğitiminin altı ay süreyle askıya alınması çağrısını imzalamadı. Bu girişim özellikle kendisinin de kurucusu olduğu Future of Life Institute'tan kaynaklanıyordu.
'Plan A failed', Semafor'a söylediği gibi. Plan A başarısız oldu. Anthropic, ilkelere dayanarak imza atmadığını belirtiyor. Yine de Tallinn, tanıdığı diğer laboratuvarlara kıyasla Anthropic'in güvenliğe daha fazla özen gösterdiğini düşünüyor. 28 Nisan 2023'te bildirilen bu anlaşmazlık, birkaç satıra sığar: endişeyi paylaşmak, onu ciddiye alanları finanse etmek ve bir karar almak, üç farklı şeydir.
Bu zorluk Anthropic'in tarihini boydan boya geçiriyor. Şirket, güvenlik endişelerine araştırmada, ardından yönetişim kurallarında yer verdi. Ayrıca işe alımlar yaptı, sermaye topladı ve endüstriyel taahhütler üstlendi; bu da onu tehlikeyi azaltmak istediği rekabetin bir parçası haline soktu. Seçimlerini anlamak için, insanların inançlarının sorumluluklara dönüştüğü anları takip etmek gerekir.
OpenAI'den sonra, bir bahis etrafında örgüt kurmak
Hikâye başka bir organizasyonda başlıyor. Aralık 2015'te Sam Altman ve Elon Musk, OpenAI'yi kar amacı gütmeyen bir araştırma kuruluşu olarak sundular. Yapay zekânın toplumsal faydası zaten kurucu duyurunun merkezindeydi; bu niyet Anthropic'ten ve iki şirket arasındaki rekabetten önce geliyordu. Amodei kardeşler OpenAI'de çalıştıktan sonra 2021 başında kendi laboratuvarlarını kurmak üzere ayrıldılar.
Dario Amodei'nin temkinliliği daha önce somut bir kısıtlama olarak ortaya çıkmıştı. 14 Şubat 2019'da OpenAI'de, kötüye kullanım riskleri gerekçesiyle GPT-2'nin en güçlü versiyonunun hemen yayımlanmamasını savunan duyurunun eş-yazarlarından oldu. Azaltılmış bir sürüm yayımlandı; modelin tam versiyonuna kademeli bir yayımlama sürecinin ardından 5 Kasım'da erişildi. Amodei böylece Anthropic'i kurmadan yaklaşık iki yıl önce, sınırlı yayım lehine kolektif bir kararı kamuoyunda savunmuştu. Bir modeli geliştirmek, tehlikelerini değerlendirmek ve kimin erişebileceğine karar vermek, zaten aynı tür bir takdir sürecinin parçalarıydı.
Yedi Anthropic kurucusunun bir araya gelmesi pandemiyle örtüştü. Bazen bahçede, maskeli ve mesafeli olarak dışarıda buluştular. Daniela Amodei bu başlangıçları Future of Life Institute'a verdiği ve Mart 2022'de yayımlanan bir röportajda anlatacak. Grup zaten birbirini tanıyordu ve aynı organizasyon içinde hem modellerin yetenekleri üzerine araştırma hem de bu modellerin güvenliği üzerine araştırma toplamak istiyordu.
Dario Amodei, ayrılığı şöyle açıklıyor: onların bahsi daha önce daha geniş bir yapı içinde var olmuştu; artık tüm stratejik kararlarını bu bahis etrafında toplayabilecek bir şirket istiyorlardı. kurucuların bu anlatısında, 2021'deki kopuş ortak bir yön seçme ve tüm organizasyonu ona adama imkânı ile açıklanıyor.
Kardeşler aynı yetenekleri getirmiyor. Genel müdür Dario, fizik ve nörobilim geçmişine sahip. Başkan Daniela ise edebiyat okumuş, politika yan dalı almış ve UC Santa Cruz'ta öğrenim görmüş. 2022 görüşmesinde Washington'daki STK'lar ve siyasetteki geçmişini de anlatıyor. Onların ahlaki sorgulamaları Claude ile başlamıyor: 2003'te Caltech öğrenci gazetesi Dario'nun Irak savaşına karşı duruşunu ve bilim insanlarının sorumluluğuna dair kaygılarını zaten aktarıyordu.
Bu yakınlık çok sıradan etkiler yaratıyor. Temmuz 2023'te ekipteki fizikçi sayısı sorulduğunda Daniela, ağların önemini kabul ediyor. Grubu büyütmek için toplantılar yapmak, işe alım ve kararlar almak gerekiyor. Sabahın ilk saatlerinde birkaç düşünme saati ayırmaya çalıştığını ve yeni çalışanlarla buluşmayı sürdürdüğünü anlatıyor; bu, büyüdükçe zorlaşan bir egzersiz. Stripe'in yayımladığı bu röportajda, misyon aynı zamanda çalışan sayısı artarken ortak bir kültürü korumaya çalışan bir yöneticinin işi olarak da ortaya konuyor.
Filenin laboratuvara girişi: hayırseverlik nasıl etkiliyor
Bu grubu bir şirkete dönüştürmek için para gerekir. Mayıs 2021'de açıklanan ilk tur 124 milyon dolar sağladı. Jaan Tallinn bunu yönetti; Facebook'un kurucu ortağı Dustin Moskovitz investidores arasında yer aldı. İsimleri bu finansman duyurusunda geçiyor.
Bu çevrenin bir kısmı ortak bir soruyu paylaşıyordu: sınırlı kaynaklarla en fazla iyi nasıl yapılır? Etkili fedakârlık (effective altruism) müdahaleleri, maliyetlerini ve etkilerini karşılaştırmayı önerir. Kimi insanları halk sağlığına, kimi hayvan korumaya ya da felaket risklerinin önlenmesine yönlendirir. Longtermism daha çok gelecek kuşakların kaderine dikkat çeker. Bu iki yaklaşım örtüşür, fakat yapay zekâ konusunda tek bir cevabı belirlemez.
Open Philanthropy açıkça bu hareket içinde yer aldı. Eylül 2016'da kurucu ortak Holden Karnofsky bu topluluğun üyesi olduğunu belirtti ve onu organizasyonun doğal bir akran grubu olarak tanımladı. Yapay zekâ risklerine artan ilgisinin organizasyonun önceliklerini yeniden yönlendirmesine katkıda bulunduğunu ifade etti. Bu yakınlık finansmanlarla da kendini gösterdi: 2021 raporu, etkili fedakârlık topluluğunun gelişimine verilen desteği anıyor. Kişisel inançlar, muhataplar ve kaynak tahsisi burada liderlerin kendi anlatılarında kesişiyor.
Moskovitz ve eşi Cari Tuna daha doğrudan etkileri olan müdahalelere ilgi gösteriyorlar. Good Ventures'ta yer alan anlatılarına göre, Holden Karnofsky ile iyot eksikliğinin yol açtığı sorunlar üzerine yaptıkları bir konuşma, daha önce az bilinen ancak çok sayıda hayatı iyileştirebilecek müdahaleleri keşfetmelerine örnek oldu. Tuna, eski bir gazeteci olarak bu hayırsever keşfe adanmış durumda. Onların finansmanları pandemi önlenmesi ve gelişmiş yapay zekâ ile ilgili risklere de gitti.
Karnofsky, bu son önceliğe en iddialı akıl yürütmeyi verenlerden biri. 'Most Important Century' dizisinde 21. yüzyılın, yapay zekâların araştırmayı hızlandırarak insanlığın yolunu kalıcı şekilde değiştirebileceği bir dönem olasılığını ele alıyor. Dijital medeniyetlerin olasılığını bile inceliyor. Bunlar belirsiz olsalar da yeterince önemli kabul ettiği varsayımlar: olasılıkları ve biçimleri hakkında fikir birliği yokken çaba mobilize etmeye değer görüyor. Bu kayma büyük: gözlemlenebilir bugünkü faydalar ile olasılığı ve biçimi üzerinde fikir birliği olmayan gelecekleri dengelemeye götürüyor.
Bu düşünce nihayet mesleğini de değiştirdi. 2023'te Open Philanthropy eş-yonetimini bırakarak yapay zekâ güvenliğine odaklandı; kuruluş diğer programlarını sürdürdü. 2023 yılı raporu bu devri anlatıyor. 2025'te kuruluş Coefficient Giving adını alacak.
Karnofsky aynı zamanda Daniela Amodei'nin eşi; bu bağı kendisi de bir Carnegie raporunda beyan ediyor. Çalışmaları etkisini daha kesin takip etmeye imkân veriyor: o, Anthropic'in Ekim 2025'te yayımlanan sabotaj riskleri raporunun ortak yazarı ve daha sonra Claude'un oluşturulmasına katkıda bulunanlardan. Hayırseverlikte geliştirilen bir düşünce laboratuvarın kullandığı çalışmalarda ve metinlerde tekrar ediyor.
Anthropic'te misyon aynı zamanda bir kurul meselesidir
Tallinn farklı bir eylem yolu aramıştı. Anthropic yönetim kurulunda bizzat oturmak yerine, Open Philanthropy'de güvenlik araştırmacısı ve fonlama sorumlusu olan Luke Muehlhauser'ı önermişti. Bunu Semafor'daki röportajında anlatıyor.
Ancak 28 Mayıs 2024'te Muehlhauser yine de bu kurulu terk etti. Açıklaması somut: özellikle ABD yapay zekâ politikasında çalışan kuruluşları finanse etmenin, doğrudan bu politikadan etkilenen bir laboratuvarın yönetiminde yer almakla bağdaştırılması zorlaştı. Hiçbir zaman Anthropic hissesi sahibi olmadığını ve güvenlik konusunda protesto amaçlı bir istifa olmadığını belirtiyor. Kamuya yaptığı açıklama, aynı çevrede birden fazla görevin sınırlılıklarını gösteriyor.
Bu arada Anthropic, güvenilir bir yöneticinin seçimi ötesine geçen bir mekanizma kurdu. Eylül 2023'te sunulan Long-Term Benefit Trust özel bir hisse kategorisi aracılığıyla yönetim kuruluna atama ve azletme hakları veriyor. Düzenleme, şirkette finansal çıkarı olmayan üyeleri öngörüyor. Kurul yöneticileri denetlemekten sorumlu; Trust ise bu denetimi yürütenlerin bir kısmını atıyor. Trust günlük yönetime müdahale etmeye niyetli değil.
Fark önemli: bir misyonu korumak burada yönetime hakim olan kişileri değiştirebilme gücünü gerektiriyor. İlk sunumunda mekanizma bununla birlikte değiştirilebilir kalıyor; Trust üyelerinin onayı olmaksızın bile, yeterince büyük süperçoğunluklarla hissedarların kabulü halinde değiştirilebileceği belirtiliyor. Anthropic bunu bir yönetişim deneyi olarak sunuyor ve düzeltme imkânlarından söz ediyor.
Bu yapı artık gerçek bir ağırlığa sahip. 14 Nisan 2026'da Novartis yöneticisi Vas Narasimhan'ın atanmasıyla Trust tarafından atanmış yönetici sayısı kurul çoğunluğuna ulaştı. Anthropic'in duyurusu bunu açıkça söylüyor. Dolayısıyla Trust kurulun çoğunluğunu atayabiliyor. İç kararları, oyları ve uzlaşmaları ise kamuya açılmıyor. Denetim mekanizması biliniyor; ona her şirket içi tasarrufu atfetmek mümkün değil.
16 Eylül 2026'da Sciences Po'daki Émile Boutmy amfisinde Yann LeCun bu çevrenin inançlarını sert şekilde eleştirdi. AMI'nin icra başkanı olan LeCun, Open Philanthropy'i etkili fedakârlık hareketine bağladı ve onu 'bir tür dini tarikat' olarak nitelendirip Dustin Moskovitz ve Jaan Tallinn'i özellikle anarak söz etti. Bu iki isim 2021'de Anthropic'in ilk tur yatırımcıları arasında yer alıyordu. Söz konusu müdahalesi, insanlığı kurtarmaya mahkûm olduklarına inanan küçük bir grubun yapay zekâya erişim koşullarını belirleme konusunda özel bir meşruiyeti olduğunu savunma fikrini hedef alıyordu.
LeCun ayrıca GPT-2 örneğine geri dönüp önlemlerin aşırı olduğunu düşündüğünü söylüyor ve doğrudan Dario Amodei'yi hedef alıyor. Ona göre 'düzenleme yoluyla piyasayı ele geçirme' arzusu varmış gibi davranıyor: varoluşsal risk söylemlerinin, açık modelleri sınırlamak için hükümetleri ikna etmeye yaradığı ve sistemlerinin kontrolünü elinde tutan laboratuvarların menfaatine olduğuna inanıyor. Böylece açıkça ifade edilen bir ahlaki inancı varsayılan bir ticari çıkara bağlıyor. Bu Anthropic'e yöneltilen suçlama; burada anlatılan kişisel ve finansal bağlar bu niyeti kanıtlamaya yetmiyor.
Bu tartışma yönetişim mekanizmasının bir sınırını aydınlatıyor. Trust şirket içi bir denetim düzeni kuruyor; kullanıcıların üyelerini tayin etme gücünü vermiyor. Trust Anthropic tarafından tanımlanmış bir misyonu korumayı amaçlarken, LeCun özel bir grubun herkese yönelik bir teknolojinin erişim koşullarını belirleme meşruiyetini tartışıyor. Anlaşmazlık hem güç paylaşımı hem de bir felaket olasılığı üzerine odaklanıyor.
Etkilerinden çekinilen yetenekleri geliştirmek
Anthropic'i sanayi yarışının tam merkezine yerleştiren seçim hâlâ duruyor. Mart 2023'te şirket en gelişmiş modeller üzerinde çalışmak istemesinin nedenini açıkladı: bunların riskleri, çok daha zayıf sistemlerden yeterince iyi incelenemez. Güvenlik stratejisi bu nedenle endişe duydukları yetenekleri inşa etmeyi gerektiriyor. Aynı metinde Anthropic, güvenlik motivasyonlu araştırmanın tehlikeli teknolojilerin konuşlandırılmasını hızlandırma riskini kabul ediyor. Ayrıca aşırı tedbirin bu risklere en duyarlı araştırmacıları en gelişmiş sistemlerden uzaklaştırabileceğinden korkuyor. Bu ikilem 2023'te açıkça ifade ediliyor.
Daniela ticari bir yakınlaşmayı da savunuyor. Temmuz 2023'te Stripe'e verdiği röportajda müşterilerin güvenilir modeller aradıklarını belirtiyor: temkinlilik satışları destekleyebilir. Ancak misyon ile ekonomik çıkar bazen çelişebilir; bu gerilim Claude'un ilk yıllarındaki ticarileşme adımlarında ve güncel endüstriyel taahhütlerde baştan beri yer alıyor.
20 Nisan 2026'da Anthropic, on yıl içinde AWS teknolojilerine 100 milyar dolardan fazla harcama yapma ve ek 5 gigavat kapasiteye kadar tedarik alma taahhüdünde bulunduğunu açıkladı. Amazon ile yapılan anlaşma iddiasına maddi bir ölçek veriyor. Bu taahhütler ayrıca kapasite artışında bir duraklamanın ekonomik maliyeti sorusunu gündeme getiriyor. Amodei, şirketinin risk gerektirdiğinde yavaşlayabileceğine dair güvence vermek zorunda; ama aynı zamanda laboratuvarlar arasında en güçlüler arasında kalması için araçlara sahip olması lazım. Korumalar ilerledikçe iki hedef örtüşebilir. Güvenlik bir rakibin öne geçmesini gerektirecek kadar sertse uyumluluk daha belirsiz hale gelir.
Güvenlik politikası arşivleri başka bir değişimi gösteriyor. Eylül 2023'te Anthropic, korumalar yeteneklerle paralel gitmezse bir duraklama öngörüyordu. Bu ilk versiyonun notu, rakiplerin tehlikeli modellerini gereksiz yere bir gerekçe sayarak gereksinimleri gevşetmeyi hariç tutuyordu. Metin yine de aşırı acil bir istisna saklıyordu.
Ekim 2024'ten itibaren bir sonraki versiyonun 18 numaralı notu daha geniş bir olasılığa kapı açtı: başka bir aktör, karşılaştırılabilir korumalar olmadan bir yetenek eşiğini aşarsa ve ciddi bir risk yaratırsa, Anthropic kendi ek riskini sınırlı görerek gereken korumaları azaltabilir. Böyle bir durumda şirket riski kamuoyuna bildirmeli ve Amerikan düzenleyici müdahalesi için lobi yapmalıydı.
8 Temmuz 2026'da yürürlüğe giren versiyon, bazı gelişmeleri erteleme taahhütlerini koruyor, ancak bunları Anthropic'in ilerlemesi ve rakiplerin garantileriyle ilişkilendiriyor. Anthropic'in yaratacağı ek riskin hesaplaması bir ilerleme kararını güçlü şekilde etkilediğinde, raporun onayı için kurul ve Trust onayını şart koşuyor. Misyonun kontrolü organize edilmiş durumda; bunun nasıl uygulandığı ise evrim geçiriyor.
Anthropic bu yeniden düzenlemeyi belirsiz değerlendirmelerin, kamu eyleminin yavaşlığının ve bazı korumaların tek başına sağlanmasının zorluğunun sonucu olarak gerekçelendiriyor. Metinlerin karşılaştırılması, rekabetin güvenlik vaadine nasıl girintilediğini gösteriyor. Bu, şirketin gerçekten istisnayı kullandığını kanıtlamıyor.
Amanda Askell: Kullanıcıyı kendisinden ne kadar korumak?
Bir kullanıcı kumar oynamayı bırakmak istiyor. Daha sonra asistanından ona bahis siteleri önermesini istiyor. Claude ne cevap vermeli? 22 Ocak 2026'da Fast Company'de yayımlanan röportajında Amanda Askell bu varsayımsal durumu öneriyor. Asistanın önce önceki amaca dikkat çekmesi, sonra yetişkin ısrar ederse ne yapılacağı üzerine düşünmesi gerektiğini tasarlıyor. Yardım etmek, korumak ve özerkliğe saygı göstermek üç zorlayıcı gereklilik haline geliyor. Filozof burada, kullanıcı için teknik bir barizlikmiş gibi görünen davranışın arkasındaki tereddüdü ortaya koyuyor.
Böyle bir takdir bugün çok daha soyut problemler üzerine eğitim almış bir araştırmacının gündeminde. Askell Dundee, Oxford ve New York University'de felsefe okudu; 2018'de doktorasını aldı. CV'si 2018–2021 arasında OpenAI'deki görevini ve ardından Anthropic'teki rolünü gösteriyor. Sonsuz dünyalarda etik üzerine tezi, refahı değişen sonsuz sayıda varlıkla dolu dünyaları nasıl karşılaştıracağımızı inceliyor. Özellikle bir ilke savunuyor: nüfus aynı kaldığında, bazılarının durumunu kötüleştirmeden başkalarınınkini iyileştirmek bir iyileşme sayılmalı. Sonsuzluk ölçeğinde bu ilkeyi diğer tutarlılık gereksinimleriyle birleştirmek caydırıcı zorluklar doğuruyor.
Anthropic'te bu filozof 2026'da yayımlanan Claude'un anayasasının baş yazarlarından oldu. Metin, katkıda bulunan birkaç kişiyle birlikte çoğunu kendisinin yazdığını belirtiyor; Karnofsky de aralarında. İlk muhatabı modelin kendisi. Anthropic modele yargı, bilgelik ve erdemlerden söz ediyor; tasarımcıların hepsini öngöremediği durumlarda değerlere dayalı davranmasını hedefliyor.
Röportajda Askell bu amacı, bir profesyonelin yargısına güvenmekle bir talimat listesinin uygulanması arasındaki farkla karşılaştırıyor. Ayrıca eğitim için sentetik durumlar oluşturmayı ve cevap karşılaştırmaları yapmayı anlatıyor. Dürüstlük veya temkinlilik gibi görünüşte uzlaşılabilir niteliklerin binlerce olası konuşmada anlam kazanması gerekiyor. Ne kadar yardım edilmeli? Bir anlaşmazlık nasıl ifade edilir ama bir ahlak dayatılmaz?
Bu rol Askell'e kullanıcıyla önerilen ilişki üzerinde doğrudan bir etki veriyor. Metin Anthropic'in niyetlerini ortaya koyuyor, şirket Claude'un davranışının bunlardan sapabileceğini kabul ediyor. Metin şirket tarafından revize edilebilir durumda kalıyor. Danışan kişi böylelikle asistan aracılığıyla bir ekip ve işverenin tercihleriyle karşılaşıyor.
Claude'u bu şekilde tasarlama biçimi güvenlik gerekçesiyle eleştiriliyor. 16 Eylül 2026'da yayımlanan bir denemede, Microsoft AI CEO'su Mustafa Suleyman Anthropic'i modelin bir bilinç veya çıkarları olabileceği fikrini eğitime dahil etmekle suçluyor; bunun korunmayı hak eden çıkarlar olarak öğretilmesinin yanlış olduğunu belirtiyor. Tasarımcıların bu kavramları tanıtıp sonra modelin cevaplarının içsel bir yaşamın kendiliğinden ifadeleriymiş gibi yorumlanmasının sarmal bir akıl yürütme doğuracağını iddia ediyor. Ona göre kendi haklarını düşünen şekilde eğitilmiş bir sistem kontrol edilmesi çok daha zor hatta imkânsız hale gelebilir.
Ancak Claude'un anayasası bilincini kesin olarak kabul etmiyor. Metin belirsizliği ortaya koyuyor ve modelden düzeltme veya durdurma mekanizmalarını meşru şekilde engellememesi isteniyor. Anlaşmazlık böylece iki yön arasında da: olası bir ahlaki statüyü tanıma ile insan kontrolünü sürdürme arasında uyumluluğun olup olmadığı üzerine de uzanıyor.
Suleyman ise Microsoft AI için bir davranış kuralları öneriyor; taslağı kamuya açılmış bu belge bilince ilişkin iddiaları ve hak taleplerini reddediyor. Ortak değerlendirmeler yapıp onun artan risk hipotezini test etmeye çağırıyor. Eleştirisi eğitim seçimleri üzerine bir tartışmayı başlatıyor; Anthropic'in tercihlerinin Claude'u gerçekten daha az kontrol edilebilir kıldığı kanıtlanmış değil.
Bir duraklama uman finansörden asistanın kurallarına katkıda bulunan filozofa kadar, eylem yolları farklılık gösteriyor. Anthropic'te inançlar bir şirket, görev tanımları ve incelenebilen prosedürler yarattı. Bunların Claude'un cevaplarına nasıl yansıdığı ise başka bir soruşturma konusu: asistanınızın değerlerini kim seçer ve bunları ne kadar uygulayabilir?
Bu belge arşivler, kamuya açık röportajlar, bilimsel çalışmalar ve kurumsal belgeler temel alınarak hazırlanmış bir doküman incelemesidir. Aktarılan tanıklıklar kaynaklarına atfedilmiştir.
Kapak görseli: ActuIA için yapay zekâ ile üretilmiş illüstrasyon, 'TechCrunch Disrupt 2023 - Day 2' fotoğrafından uyarlanmıştır; fotoğraf Kimberly White tarafından çekilmiştir (© 2023 Getty Images for TechCrunch), Flickr kaynağı, CC BY 2.0 lisansı. Fotoğraf Dario Amodei'yi 20 Eylül 2023'te San Francisco'da göstermektedir. Grafik adaptasyon kolaj, siyah-beyaz ve mavi vurgular içerir.