Yapay zekanın güvenliğiyle ilgili endişeler, araştırmacıların teknolojinin kontrolden çıkma risklerinin arttığına dair sert uyarılarıyla daha da alevlendi. Son dönemdeki en kötümser tahminlerden bazıları, yapay zekanın önümüzdeki 10 yıl içinde tüm insanlığı yok etme olasılığının %10’dan fazla olduğunu öne sürüyor.Fakat yapay zeka dünyasındaki bazı kişiler bu tahminlerin gerçekçiliğinden şüphe duyuyor ve büyük endişenin insanların yapay zekayı diğer insanlara karşı kullanması ihtimali olduğunu söylüyor.Bu kıyametvari mesajlar, yapay zeka dünyasının genellikle ‘ Yapay Zeka Kıyametçileri’ olarak adlandırılan bir kesiminden geliyor. Ancak birçok kişinin sorduğu büyük soru şu. Bir yapay zekanın insanlığı nasıl yok edebileceğini düşünüyorlar?Siber muhabir Joe Tidy, araştırmacıların düşündüğü bazı senaryoları ele aldı.
Birinci senaryo: Altyapı saldırısıİlk senaryo, bu ayın başlarında OpenAI ve Anthropic’te araştırmacı olarak görev yapan Jacob Coxon tarafından kısaca özetlendi. Çarpıcı açıklamalarla istifa eden Coxon ve şirketlerin “insanların hayatlarıyla kumar oynadığını” söyledi.BBC’ye yaptığı açıklamada “baş döndürücü ilerleme hızı” nedeniyle eskiden bilim kurgunun alanına giren unsurların artık “gerçekleşmeye” başladığını söyledi.”Somut bir örnek olarak”, “yapay zeka ya da zekaların dünyanın işleyişini sağlayan kritik altyapılara sızma” ihtimalini gösterdi.Bu ihtimal, kontrolden çıkmış bir yapay zeka sisteminin internet sağlayıcıları ve enerji şebekeleri gibi unsurların bilgisayar ağlarına sızabileceği öngörüsüne dayanıyor.Örneğin, yapay zeka(lar) her şeyi kapatırsa, elektrik, ısıtma, soğutma veya internet bağlantısının kesildiği bir kaos yaşanabilir.Nükleer felaketlerin mümkün olabileceği yönünde öneriler de ortaya atıldı.İkinci senaryo: Yapay zekanın ele geçirmesiBir sonraki senaryo, yapay zeka araştırmacılarından oluşan bir grup tarafından Nisan 2025’te yayınlanan, ayrıntılı ve etkili ama aynı zamanda oldukça spekülatif bulunan araştırma makalesi AI 2027’den geliyor.Makalenin ortak yazarı Thomas Larsen, BBC’ye yaptığı açıklamada, teknolojinin raporun yayınlanmasından bu yana hız kazandığını söyledi ve en çok korktuğu senaryoyu anlattı.”Yapay zeka sürekli kendisini geliştiriyor ve yapay zeka günün birinde, ekonominin genelinde fiziksel işlerin çoğunu yapan çok sayıda robota erişim elde etmesine kadar gidebilir.”Fakat bu yapay zeka dost değil ve kendi çıkarlarını gözetir. Sonunda da bir biyolojik silah salar, insanların çoğunu öldürür ve robot ekonomisini kendi başına yönetmeye devam eder, böylece insanlara artık gerek kalmaz.”
Bütün bunlar ne kadar olası?Bunların hepsi karamsar ve çok bilim kurguvari geliyor ama yapay zeka alanında bu senaryoların bazılarının veya tamamının gerçek ihtimaller olduğuna ama kaçınılmaz olmadığına inanan önemli ve giderek daha çok sesi çıkan bir grup insan var.Son endişeler, OpenAI, Anthropic ve Meta’dan gelen yapay zeka araçlarının siber saldırılar düzenlemesiyle ilgili son gelişmelerden sonra ortaya çıkmış gibi görünüyor.Siber dünyada bazıları, modelleri oluşturanların sorumluluğunun önemini vurguluyor.ABD siber güvenlik otoritesi CISA’nın eski başkanı ve şu anda uluslararası siber güvenlik konferansları düzenleyen RSA Konferansı’nın CEO’su Jen Easterly “Bu makinelerin, bu yorulmak bilmeyen, amansız, hedef odaklı, son derece yetenekli makinelerin yaptığı her şey, nasıl inşa edildiklerinin bir sonucu” diyor.”Özetle, teknoloji üreticisiyseniz, güvenliği birinci öncelik olarak ele alarak yeteneklerinizi tasarlamalı, geliştirmeli, test etmeli ve sunmalısınız” dedi.Bazıları ise yapay zekanın risklerinin önemli olduğunu ama insanlığın sonunu getirebilecek nitelikte olmadığını savunuyor.Bilim insanı ve yazar Gary Marcus, uzun zamandır büyük yapay zeka şirketlerinin şeffaflıktan ve yasal kurallardan yoksun çalışmalarını eleştiriyor ancak teknolojinin insanlığı yok edeceğini düşünmüyor.”Yapay zeka gerçekten de insanlığa ağır kayıplar verdirirse – ki bunu isteyip istemediği büyük bir soru işareti – ama eğer yaparsa, insanlar karşılık verecektir” dedi.Marcus, şu anda yok olma senaryolarına çok fazla odaklanıldığını ve insanların yapay zekayı kullanarak diğer insanlara karşı gerçekleştireceği büyük siber saldırılar gibi daha muhtemel sorunlara yeterince odaklanılmadığını düşünüyor.Kıyamet senaryolarının gerçekçi olup olmadığına dair tartışmalar devam ederken, OpenAI, Anthropic ve Meta gibi yapay zeka şirketleri artık geliştirmeyi yavaşlatmanın ve güvenlik araştırmalarına daha fazla odaklanmanın yollarını açıkça tartışıyor.Larsen, “Yapay zeka güvenliğinin nihayet hak ettiği ilgiyi görmesinden gerçekten mutluyum” diyor.”Umarım bu tür büyük toplumsal tepkiler, riski gerçekten azaltacak faydalı bir politika yanıtına yol açar” diye ekliyor.Ancak gerçek uluslararası kurallar oluşturmak için ABD hükümetinin harekete geçmesi gerekecek ve Başkan Donald Trump, yapay zeka güvenliğiyle ilgili endişelerin bir “aldatmaca” olduğuna inandığını söyledi.Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. .
