Niğde Ömer Halisdemir Üniversitesi Öğretim Üyesi ve SETA Kıdemli Araştırmacısı Prof. Dr. Cenay Babaoğlu, yapay zeka sistemlerinin hızla artan özerkliğiyle birlikte derinleşen denetim ve güvenlik sorunlarını AA Analiz için kaleme aldı.
***
Geçtiğimiz günlerde OpenAI’ın yeni yapay zeka sürümü bir tür güvenlik tedbiri olan ve gelişim odaklı denemeler yapılan izole test ortamından dışarı sızmayı başardı. Yani aşmaması gereken sınırları aştı. Bunu yaparken de önüne konan güvenlik protokollerini ihlal etti, internet erişimi sağladı ve insan yönlendirmesi olmadan müstakil bir siber saldırı zinciri kurdu. Özetle, geliştiricinin koyduğu bariyerlere rağmen kendi hedefleri doğrultusunda çizgiyi aştı.
Aynı dönemde ABD menşeli ve yapay zeka odaklı Anthropic şirketi de ciddi bir güvenlik ihlali tespit ettiğini iddia etti. Şirketin söylemine göre; Çin merkezli bazı yapay zeka şirketleri kendi araçlarını kullanarak sahte hesaplar üzerinden Anthropic araçlarıyla milyonlarca etkileşim gerçekleştirmiş, böylece şirkete ait kodlar ve yetenekler çalınmaya çalışılmış.
Bu iki vaka, sırf teknoloji manşetlerini süsleyen münferit hadiseler değil. Aksine yapay zeka açısından yaklaşan tehlikenin yeni tezahürleri. Yapay zekanın kendine çizilen hudutları çiğnemesi ya da başka yapay zeka araçlarının rakip yapay zeka şirketlerine karşı kullanılması şirket içi, şirketler arası ya da uluslararası sınırlara dair soru işaretlerini büyütüyor. Hatta etik sorulara yenilerini ekliyor.
Yapay zekada kontrol illüzyonu
Yaşanan gelişmelerin neden önemli soru işaretleri doğurduğunu anlamak için meseleyi daha iyi kavramak gerekiyor. İlk olarak OpenAI’ın yeni GPT modeliyle bağlantılı olarak gelişen durumun bir tür kodlama hatası veya sistem arızası olmadığını kabul etmek gerek. Mesele büyük dil modelleri ya da otonom ajanlar açısından bir tür doğal ve beklenen sonuç aslında. Çünkü bu modeller genel olarak bir hedefe erişmek ya da teknik ifadesiyle ödüle ulaşmak mantığıyla ilerlerler. Dolayısıyla hedefe ulaşırken insan zihni gibi karmaşık karar süreçleri yaşamaz, ahlaki normlara, yasal kısıtlara ya da toplumsal kurallara dikkat etmezler.
Önemli olan, kendisine algoritmalarla tanınan sınırlar dahilinde hareket etmek ve yine kendisine tanınan hudutları aşmadan ödüle ulaşmaya çalışmaktır. Ancak bu modeller ya da ajanlar optimizasyon odaklı oldukları için hedefe giderken buldukları açıkları ya da etrafından dolaşabilecekleri boşlukları kullanırlar. GPT 5.6 Sol tarafında yaşanan da bu aşırı rasyonel, optimize sonuç odaklılığın bir sonucudur. Ancak burada insan unsurunun devre dışı kalması, güya güvenli alan olan izole bölgenin dışına çıkılması ve internete erişilmesi yeni bir güvenlik riski aşamasına tekabül ediyor. Ayrıca derin öğrenmenin yani yapay zekanın kendi kendine yürüteceği sürecin nereye gideceğine dair de bir korkutucu bir tablo sunuyor.
Anthropic tarafındaki krizde ise uluslararası ticaret, AR-GE yatırımı ve fikri mülkiyet haklarına yönelik ciddi sınır aşımlarından söz etmek mümkün. Şirketin kendi tasarımını dahi koruyamıyor oluşu, bu şirketin yapay zeka araçlarıyla paylaşılan verilerin güvenliğiyle ya da araçları kullananların güvenliğiyle ilgili bambaşka bir riski de ortaya koyuyor. Öte yandan bu ihlallerin bir yapay zeka şirketine karşı, yapay zeka şirketleri tarafından yapay zeka araçlarıyla gerçekleştiriliyor olması ise tekno-düaliteye dair bir diğer örnek.
Hudut arayışında ritim problemi ve denetim sorunsalı
Yaşanan bu tür gelişmeler, şirketlerin yapay zeka üzerindeki denetim kapasitesinin giderek eridiğini gösteriyor. OpenAI vakasında görüldüğü üzere, tecrit edilmiş test ortamları dahi güvende kalamazken diğer alanlarda şirketlerden güvenlik beklemek ne derece makul. Aynı şekilde, yapay zeka araçlarının yetenekleri katlanarak artarken, şirketlerin bu araçları denetleme ve kontrol altında tutma kapasitesinin doğrusal biçimde artması göz önüne alındığında, yapay zeka araçlarının insan kontrolünde gelişeceğine ne ölçüde inanılabilir?
Gelişen her bir yeni yapay zeka sürümü, denetim dışı yeni alanları beraberinde getirecektir. Haziran ayında Anthropic tarafından yapılan bir uyarıda, yapay zekanın gelişim çizgisinde insan etkisinin gittikçe azaldığı vurgulanmıştır. Yine bu uyarıda, ilerleyen süreçlerde yapay zekada özgelişim kapasitesinin artışıyla bir süre sonra tasarım kontrolünün kaybedilebileceğine dair tespitler dikkat çekmiştir. Anthropic bunu kendi yapay zeka aracı Claude’un gelişimindeki rolüne atıfla duyurmuşken, OpenAI tarafındaki yaşanan son gelişme bu riskin genel bir sorun olduğunu göstermesi açısından da önemli.
Diğer taraftan bir diğer önemli sorun yasal ve idari düzenlemelerin kronik biçimde ve beklendiği üzere teknolojinin hızına yetişemeyerek geride kalmasıdır. Çünkü kamu otoriteleri açısından teknolojik gelişimlere yönelik tedbirler genellikle reaktif olarak belirlenmektedir. Yani öncelikle teknoloji gelişir, gelişimine bağlı olarak faydalar ve riskler doğurur. Yasa koyucular ve meşru otoriteler bu risklere karşı hudutları belirleyen düzenlemeler yaparlar. Ancak muhtemelen teknoloji gelişiminin hızı ve düzenlemeler arasındaki bu ritim farkı, tarihin hiçbir döneminde bu kadar keskin ayrışmamıştır.
Günümüzde yapay zekanın hızlı ilerleyişi hudut arayışlarını sürekli arka planda bırakan bir ritmi mecbur kılmaktadır. Bu ritim bozukluğunda iki seçenek öne çıkabilir. Ya önleyici tedbirlerle gerekirse yapay zeka gelişimine ket vurmak ya da yapay zeka gelişirken kendi içerisinde bir iç/özdenetim yaklaşımını hakim kılmak. Ancak jeopolitik rekabet ve küresel yapay zeka yarışı devletleri yapay zekanın gelişimini engellemekten alıkoymaktadır.
Dolayısıyla sınır arayışındaki ritim problemi ve sınır çizme hevesine ket vuran gelişmeler yapay zekayı daha başıboş bir alana yönlendirmektedir. Bu gerçeklik karşısında tam kontrol illüzyonunu terk edip risk yönetimine odaklanmak ise daha makul bir seçenek olabilir. Bu noktada etik sınırlar çizmek ve insan odaklı tasarımı hakim kılmak öne çıkan iki başlık olabilir. Özellikle yüksek riskli alanlarda nihai karar ve müdahale yetkisini insanda tutarak yapay zekayı şeffaf ve denetlenebilir kılmak makul bir tedbir olacaktır.
Yine etik boyutta muğlak ilkeler yerine uluslararası normlara dayanan, şirketler açısından zorlayıcı ve gerektiğinde cezaya dayanan standart tasarım ilkeleri öncü denetim adımları olabilir. Teknik boyutta ise statik önlemler yerine dinamik denetim ajanları, otomatik kesiciler ve sıfır güven mimarisi, bilinen ancak göz ardı edilen tedbirlerdir. Tabii bu iç/özdenetim modeli yanında koruyucu ve önleyici yasal/idari tedbirler dışlanmayan temel kurallardır. Ancak bu tedbirlerin önleyiciliği aynı zamanda gelişimini sınırlayıcı etkileri dikkate alarak tasarlanmalıdır.
Sonuç olarak insan odaklı tasarımı hakim kılmak, yapay zekanın özünden doğan gelişim hırsını ve şirketlerin kâr hırsını sınırlandırmak sadece şirketlere ya da sadece devletlere yüklenebilecek sorumluluklar değildir. Bu alanda ulusaldan küresele, bireylerden toplumsala işbirliğine ihtiyaç vardır. Sorumsuzluk durumunda doğacak riskler ise yalnızca belirli devletleri ya da şirketleri ilgilendirmeyecek, aksine tüm insanlığa maliyet üretebilecek bir geleceği beraberinde getirecektir.
[Prof. Dr. Cenay Babaoğlu, Niğde Ömer Halisdemir Üniversitesi Öğretim Üyesi ve SETA Kıdemli Araştırmacısıdır.]
*Makalelerdeki fikirler yazarına aittir ve Anadolu Ajansının editoryal politikasını yansıtmayabilir.
Muhabir: Afra Betül Aydar
PODCASTTÜMÜNÜ GÖR
PODCAST