Yapay Zeka Dünyasında Çarpıcı İstifa: “Kontrolü Kaybetme” Uyarısı

Yapay zekanın hızla gelişmesiyle birlikte güvenlik, denetim ve insan kontrolünün geleceği yeniden tartışılıyor. Dünyanın önde gelen yapay zeka şirketlerinden Anthropic’te araştırmacı olarak çalışan Jacob Coxon’un istifa etmesi, sektördeki güvenlik tartışmalarını bir kez daha gündemin üst sıralarına taşıdı.

Daha önce OpenAI’da da görev yapan Coxon, sosyal medya hesabından yaptığı açıklamada son üç yılda hem OpenAI hem de Anthropic’te yapay zeka modellerinin ön eğitim süreçleri üzerinde çalıştığını belirtti.

Coxon, iki şirketin de gelişmiş yapay zeka konusunda yeterince sorumlu hareket etmediğini düşündüğünü ifade ederek sektördeki şirketlerin kendi kendini geliştirebilecek süper zeka sistemlerine ulaşmak için yoğun bir yarış içinde olduğunu savundu.

“Yapay zeka yarışının hızı” tartışılıyor

Coxon’un istifasının ardından en fazla dikkat çeken konulardan biri, yapay zeka şirketleri arasındaki rekabetin güvenlik çalışmalarının önüne geçip geçmediği oldu.

Araştırmacı, şirketlerin çok gelişmiş sistemlere ulaşma yarışının ciddi riskler taşıdığını ileri sürdü. Coxon’a göre temel sorun yalnızca günümüzde kullanılan sohbet botları ya da mevcut yapay zeka modelleri değil.

Endişenin merkezinde, gelecekte ortaya çıkabilecek ve kendi yeteneklerini geliştirme sürecini hızlandırabilecek çok daha güçlü sistemler bulunuyor. Coxon, bu tür sistemlerin insan denetiminin dışına çıkma ihtimalinin yeterince ciddiye alınması gerektiğini savunuyor.

Anthropic araştırmacısından yüzde 10’un üzerinde risk tahmini

Coxon’un açıklamalarına Anthropic’in yapay zeka uyumu alanında çalışan araştırmacılarından Evan Hubinger da katıldı.

Hubinger, yaptığı açıklamada yapay zekanın önümüzdeki on yıl içerisinde insanlık açısından felaket boyutunda sonuçlara yol açma ihtimaline ilişkin kişisel tahmininin yüzde 10’un üzerinde olduğunu belirtti.

Buradaki rakam bilimsel olarak kesinleşmiş bir olasılık değil; Hubinger’ın kendi risk değerlendirmesini ifade ediyor.

Hubinger ayrıca Anthropic’in yapay zeka güvenliği konusunda ciddi çaba gösterdiğini düşündüğünü ancak gelecekteki bir süper zekanın insan hedefleriyle uyumlu tutulması sorununa yönelik henüz kesin bir çözüm planının bulunmadığını söyledi.

Mevcut yapay zekalar için aynı şeyi söylemiyor

Hubinger’ın açıklamalarında dikkat çeken önemli bir ayrıntı daha bulunuyor.

Araştırmacı, bugün kullanılan mevcut modellerin doğrudan aynı seviyede tehdit oluşturduğunu savunmuyor. Asıl kaygısının, yapay zekanın gelecekte “özyinelemeli kendini geliştirme” olarak adlandırılan süreçle yeteneklerini giderek daha hızlı artırabileceği bir aşamaya ulaşması olduğunu belirtiyor.

Dolayısıyla tartışma, bugün telefonlarda ve bilgisayarlarda kullanılan yapay zeka uygulamalarından çok, gelecekte geliştirilebilecek çok daha güçlü sistemlerin nasıl kontrol edileceği üzerinde yoğunlaşıyor.

Yapay zeka sektöründe yavaşlama çağrıları artıyor

Coxon ve Hubinger’ın açıklamaları, yapay zeka sektörünün bir süredir tartıştığı daha geniş bir probleme de işaret ediyor: Şirketler rekabet devam ederken tek başlarına yavaşlayabilir mi?

Temmuz 2026’da yayımlanan “Pacing the Frontier” başlıklı bildiride, ileri düzey yapay zeka geliştiren şirketlerde çalışan binin üzerinde isim, yapay zeka araştırmalarının otomatikleşmesinin beklenenden hızlı ilerleyebileceğine dikkat çekti.

Bildiride, hükümetlerin ve yapay zeka sektörünün gerektiğinde gelişimin hızını kontrollü biçimde azaltabilecek uluslararası mekanizmalar oluşturması çağrısı yapılıyor.

Metnin imzacıları arasında OpenAI, Anthropic, Google DeepMind ve Meta gibi şirketlerde çalışan üst düzey araştırmacılar da bulunuyor.

Tartışmanın merkezinde “süper zeka” var

Yapay zeka güvenliği tartışmalarında sık kullanılan “süper zeka” kavramı, birçok zihinsel görevde en yetenekli insanlardan dahi daha ileri seviyeye ulaşabilecek varsayımsal yapay zeka sistemlerini ifade ediyor.

Bugün yaygın biçimde kullanılan modellerin bu seviyede olduğu kabul edilmiyor.

Ancak bazı araştırmacılar, modellerin yazılım geliştirme, bilimsel araştırma ve yapay zeka araştırmalarının kendisini otomatikleştirme kapasitesinin artmasının teknolojik ilerlemeyi beklenmedik biçimde hızlandırabileceğini düşünüyor.

Diğer araştırmacılar ise geleceğe ilişkin bu tür felaket tahminlerinin son derece belirsiz olduğunu ve olasılıkların kesin biçimde hesaplanamayacağını vurguluyor.

Bu nedenle “yapay zeka 10 yıl içerisinde insanlığı yok edecek” şeklinde kesinleşmiş bilimsel bir sonuç bulunmuyor. Gündeme gelen yüzde 10’dan yüksek oran, Evan Hubinger’ın gelecekteki süper zeka sistemlerine ilişkin kişisel risk tahmini niteliğinde.

İstifa yapay zeka güvenliği tartışmasını büyüttü

Jacob Coxon’un Anthropic’ten ayrılması, yapay zekanın yalnızca ne kadar güçlü hale geleceği değil, bu gelişimin hangi hızda ve hangi güvenlik mekanizmalarıyla sürdürüleceği sorusunu yeniden gündeme taşıdı.

Önümüzdeki yıllarda tartışmanın; şirketlerin kendi güvenlik politikaları, devlet düzenlemeleri, uluslararası koordinasyon ve gelişmiş modellerin denetlenebilirliği üzerinde yoğunlaşması bekleniyor.

Kaynak: Jacob Coxon’un açıklamaları, Evan Hubinger’ın açıklamaları, Pacing the Frontier, Wall Street Journal, Habertürk.