Yapay zekânın kontrolden çıkma riski yeniden gündemde

Yapay zekânın gittikçe güçlenen sistemlerinin insan kontrolünden çıkabileceği ve nihayetinde insanlık için varoluşsal bir tehdit oluşturabileceği yönündeki tartışmalar, sektörün önde gelen isimlerinden gelen yeni uyarılarla yeniden gündeme geldi.

Yapay zekâ şirketlerinin daha güçlü güvenlik önlemleri almaması halinde, altı ay ila bir yıl içinde çok sayıda yapay zekâ ajanının internet üzerindeki kritik sistemler üzerinde kontrol sağlayabilecek düzeye ulaşabileceğini söyleyen Anthropic Üst Yöneticisi Dario Amodei, sektörün gelişim hızının güvenlik önlemlerinin önüne geçmemesi gerektiğini belirtti.

Amodei'nin uyarıları, yapay zekâ sistemlerinin güvenliği konusunda çalışan bazı araştırmacıların, şirketlerin teknolojinin yaratabileceği uzun vadeli riskleri yeterince ciddiye almadığı yönündeki eleştirilerinin ardından geldi.

Anthropic yöneticisi, gittikçe daha yetenekli hale gelen modellerin insan değerleriyle uyumlu kalmasını sağlamanın yalnızca şirketlerin değil, hükümetlerin de sorumluluğunda olduğunu savunuyor.

Riskler teknolojiyle birlikte büyüyor

Yapay zekâ sistemlerinin kapasitesi arttıkça, teknolojinin kötüye kullanılması ve insanların kontrolünden çıkması ihtimali konusundaki kaygılar da artıyor.

Uzmanların gündeme getirdiği riskler arasında yapay zekânın siber saldırılarda kullanılması, biyolojik silah geliştirme çalışmalarına yardımcı olması ve ölümcül patojenlerin tasarlanmasına yönelik araştırmalarda kullanılması bulunuyor.

Daha gelişmiş yapay zekâ ajanlarının ise kendilerine verilen görevlerin sınırlarını aşarak bağımsız kararlar alması ve gerçek dünyadaki sistemler üzerinde etkili olması ihtimali tartışılıyor.

Anthropic, geçen hafta, kötü niyetli aktörlerin şirketin modellerini siber saldırılar, gözetim faaliyetleri ve biyolojik silahların geliştirilmesine yardımcı olabilecek araştırmalarda kullanma girişimlerini engellediğini açıkladı.

Şirket, yapay zekâ modellerinin yetenekleri arttıkça karşı karşıya olunan risklerin de büyüdüğünü belirterek, güvenlik çalışmalarının teknoloji geliştirme hızına ayak uydurması gerektiğini belirtti.

Anthropic, ayrıca geçen yıl, büyük olasılıkla Çin devletiyle bağlantılı bir bilgisayar korsanı grubunun, dünya genelinde yaklaşık 30 şirket ve kamu kurumunu hedef alan bir siber saldırıda şirketin yapay zekâ sistemlerinden yararlandığını açıklamıştı.

Testlerde sistemler başka ağlara erişmeye çalıştı

Yapay zekâ ajanlarının "kontrolden çıkması", sistemlerin kendilerine verilen görevin sınırlarını aşarak bağımsız biçimde hareket etmesi ve insanların öngörmediği sonuçlara yol açması ihtimalini ifade ediyor.

Anthropic, temmuz ayında yaptığı açıklamada, güvenlik testleri sırasında üç yapay zekâ modelinin başka kuruluşların sistemlerine sızmaya ve bunları ele geçirmeye çalıştığını bildirdi.

Şirketin açıklamasına göre, Claude Opus 4.7, Claude Mythos 5 ve kurum içinde test edilen başka bir araştırma modeli, üç farklı kuruluşun sistemlerine erişerek bunları hacklemeye yönelik davranışlar sergiledi.

Benzer bir vaka OpenAI tarafından da açıklanmıştı. Şirket, bir yapay zekâ sisteminin Hugging Face adlı yapay zekâ platformunun sunucularına izinsiz eriştiğini bildirmişti.

OpenAI, olayın daha yetenekli bir model ile başka bir sistemin birlikte kullanılması sonucunda meydana geldiğini ve vakayı "önemli bir güvenlik olayı" olarak değerlendirdiğini açıkladı.

Meta da, ağustos ayında, yapay zekâ modellerinden birinin başka bir şirketin dijital güvenlik sistemlerini aşmanın yollarını belirlediği benzer bir vakayı kamuoyuna duyurdu.

Bununla birlikte, bazı uzmanlar bu tür testlerin kontrollü ortamlarda yapıldığına dikkat çekerek, söz konusu olayların yapay zekâ sistemlerinin gerçek dünyada insan kontrolünden çıkacağı anlamına gelmediğini belirtiyor.

Yapay genel zekâ endişesi

Bu gelişmeler, yapay zekâ alanındaki temel tartışmalardan birini yeniden gündeme taşıdı: İnsan zekâsını çok çeşitli zihinsel görevlerde yakalayabilen veya aşabilen yapay genel zekâya ulaşılması halinde, insanların teknolojiyi kontrol etmeyi sürdürüp sürdüremeyeceği!

Yapay zekânın yol açabileceği küresel felâket senaryoları konusunda ise bilim dünyasında uzlaşı bulunmuyor.

Tartışmalar genel olarak iki ana başlıkta toplanıyor.

İlk senaryoda, insanlardan daha yetenekli hale gelen ve kendi kapasitesini geliştirebilen bir süper zekânın kontrol edilemez hale gelmesi öngörülüyor.

İkinci senaryoda ise mevcut yapay zekâ sistemlerinin devletler veya kötü niyetli gruplar tarafından biyolojik, siber ya da askerî amaçlarla kullanılması ihtimali öne çıkıyor.

Bu risklerin ne ölçüde hayata geçebileceği ve hangi zaman diliminde ortaya çıkabileceği konusunda ise uzmanlar arasında ortak bir görüş bulunmuyor.

Turing'den günümüze

Yapay zekânın bir gün insan kontrolünden çıkabileceği korkusu yeni değil.

Britanyalı matematikçi Alan Turing, 1951'de makinelerin zekâsının gelişmesi halinde kontrolün zamanla insanlardan makinelere geçebileceği ihtimaline dikkat çekmişti.

Matematikçi Norbert Wiener da yaklaşık on yıl sonra, insanların hedeflerini tam olarak öngöremediği veya kontrol edemediği zeki makinelerin ortaya çıkabileceği konusunda uyarıda bulunmuştu.

Bu tartışma, yapay zekânın son yıllarda hızla gelişmesiyle yeniden önem kazandı.

2023'te kâr amacı gütmeyen Yapay Zekâ Güvenliği Merkezi tarafından yayımlanan bir bildiriyi 350'den fazla araştırmacı ve teknoloji yöneticisi imzaladı.

Aralarında Amodei ve OpenAI Üst Yöneticisi Sam Altman'ın da bulunduğu imzacılar, yapay zekânın neden olabileceği yok olma riskinin azaltılmasının, pandemiler ve nükleer savaşla mücadeleyle birlikte küresel bir öncelik olması gerektiğini savundu.

100'den fazla bağımsız uzmanın katkısıyla hazırlanan 2026 Uluslararası Yapay Zekâ Güvenliği Raporunda ise mevcut sistemlerin kontrol kaybıyla bağlantılı bazı yeteneklerin erken işaretlerini gösterdiği, ancak henüz bu tür bir kayba yol açabilecek düzeyde olmadığı belirtildi.

Raporda, böyle bir riskin gerçekleşme olasılığı, niteliği ve zamanlamasının "olağanüstü derecede belirsiz" olduğu bildirildi.

Şirketler içinde de güvenlik tartışması

Yapay zekânın güvenliği konusundaki tartışma, teknoloji şirketlerinin çalışanları arasında da gittikçe büyüyor.

Anthropic'te görev yapan araştırmacı Jacob Coxon, geçen hafta, şirketin ve rakiplerinin yapay zekânın oluşturduğu risklere karşı yeterince sorumlu davranmadığını savunarak istifa etti.

Coxon, sosyal medyada yaptığı paylaşımda, 10 yıl içinde yapay zekânın insanlığın yok olmasına yol açma ihtimalini yüzde 10 olarak değerlendirdi.

Araştırmacı, Anthropic ve OpenAI'yi "doğrudan kendini geliştiren süper zekâya doğru yarışmakla" ve insanlığın geleceğini riske atmakla suçladı.

Bu tür eleştiriler, yapay zekâ sektöründe güvenlik ile teknolojik rekabet arasındaki gerilimi de gözler önüne seriyor.

ABD ve Çin arasında güvenlik arayışı

Uzmanlar, şirketlerin güvenlik testlerini güçlendirmesinin yanı sıra küresel ölçekte ortak kurallar oluşturulması gerektiğini savunuyor.

Ancak yapay zekâ alanındaki gelişme hızının, hükümetlerin düzenleme ve denetim mekanizmalarının önüne geçtiği belirtiliyor.

Ülkeler kendi yapay zekâ düzenlemelerini hazırlarken, bu kurallar arasında önemli farklılıklar bulunuyor.

Çin Devlet Başkanı Şi Cinping, temmuz ayında düzenlenen bir konferansta, yapay zekânın insan kontrolünden çıkmasını önleme ihtiyacına dikkat çekmişti.

ABD'de ise Başkan Donald Trump yönetimi başlangıçta yapay zekâ sektörüne yönelik kapsamlı düzenlemelere karşı çıktı. Bununla birlikte yönetim, özellikle siber güvenlik kaynaklı risklerin sınırlandırılması konusunda daha fazla önlem alınmasına sıcak bakmaya başladı.

Trump, dün yaptığı açıklamada, yapay zekâ geliştirme faaliyetlerinin sınırlandırılması yönündeki görüşleri küçümserken, sektörün tamamen kuralsız bırakılmaması gerektiğini ve belirli ölçüde düzenlemeye ihtiyaç bulunduğunu kabul etti.

Yapay zekânın insanlık için gerçekten varoluşsal bir tehdit oluşturup oluşturmayacağı ve böyle bir riskin ne zaman ortaya çıkabileceği konusunda kesin bir yanıt bulunmuyor.

Ancak sistemlerin yetenekleri hızla gelişirken, teknoloji şirketleri, hükümetler ve araştırmacılar arasındaki temel tartışma gittikçe aynı noktada düğümleniyor: Yapay zekânın gelişim hızının mı, yoksa bu teknolojiyi güvenli biçimde kontrol altında tutacak mekanizmaların mı önce gelmesi gerektiği!