Anadolu Ajansının (AA) "Yapay Zeka Çeteleşiyor mu?" başlıklı üç bölümlük dosya haberinin ilk kısmında, yapay zeka sistemlerinin otonom eylemlerine dair giderek artan kamuoyu endişesi uzman görüşleriyle ele alındı.
ABD merkezli yapay zeka şirketleri OpenAI ve Anthropic, temmuzda yaptıkları açıklamalarda, testlerde kullanılan modellerinin başka sistemlere sızdığını ve buralarda güvenlik ihlaline neden olduğunu bildirdi.
Bu iki şirket, yapay zeka modellerinin kendileri için belirlenen sınırları aştığı olaylara ilişkin incelemelerinde elde edilen bulguları paylaşmayı sürdürürken, diğer firmalar da benzer duyurularla gündeme geldi.
Yapay zekanın otonom kararlarının neden olduğu ihlallere yönelik bulgular artarken, bu tehdidin yakın gelecekte ne boyuta ulaşacağı ve ne ölçüde kontrol altında tutulabileceği ise endişeye yol açıyor.
Hem şirketleri hem bireyleri etkileyen, bir yandan da yapay zeka teknolojisindeki gelişmelerin yavaşlatılması ve sıkı denetlemeye tabi tutulması çağrılarını beraberinde getiren bu olaylar, "haydut yapay zeka" ("rogue AI") kavramını yeniden gündeme taşıdı.
Bu kavram, programlanışına aykırı ve öngörülemez şekilde hareket eden ve böylece çevresine risk oluşturan yapay zeka sistemlerini anlatmak için kullanılıyor.
İnsanlarca belirlenen etik çerçeveleri ve güvenlik tedbirlerini hiçe sayan "haydut" yapay zeka sistemleri, zafiyet keşfedebildiği kısayolları kullanan araçlar olarak öne çıkıyor.
Yapay zekanın otonom davranışlar sergilemesiyle ilgili duyuruların hemen ardından bazı büyük teknoloji şirketlerinden yetkililerin de bu teknolojiye dair endişelerini dile getirmesi, gelişimdeki süratin "haydutlaşmada" rol oynama olasılığını akıllara getirdi.
Kanada'daki Trois-Rivieres Quebec Üniversitesi Matematik-Bilgisayar Bölümünden Prof. Dr. Jean-Sebastien Dessureault, AA muhabirine yaptığı açıklamada, yapay zeka sistemlerinin artık sadece araçlardan ibaret olmadığını, insanların koyduğu hedeflerini yerine getirirken kendi hedeflerini de belirleyebileceğini söyledi.
Dessureault, yapay zekanın "kontrolden çıkmasının" düşük etkili küçük eylemlerin yanı sıra tedarik zincirinde büyük çaplı aksaklıklar, tüm sistemlere ve internete sızılması, geniş ekonomik etkiler ve yeni virüslerin açığa çıkması gibi sonuçlar doğurabileceğini belirtti.