Yapay zekada güvenlik endişesi artıyor! OpenAI "söz dinlemeyen" modelini piyasaya sürmeyecek

İPTALİN GEREKÇESİ NE? Yapay zeka modelleriyle ilgili güvenlik tartışmaları büyüyor. Gündelik hayatın bir parçası hâline gelen yapay zeka modellerinin giderek kontrolden çıkabileceği endişesi, geliştirici firmaları harekete geçirdi. En çok kullanılan yapay zeka modellerinden ChatGPT'nin geliştiricisi OpenAI, güvenlik önlemi almak adına bir adım attı. ChatGPT'nin yeni modeli 6.1 Astra'nın piyasaya sürülmesi iptal edildi. OpenAI yetkililerine göre GPT-6.1 Astra, bir önceki model GPT-6 Astra'dan iki alanda daha kötü duruma düştü. YENİ MODEL NEDEN ELEŞTİRİLİYOR? Buna göre GPT-6.1 Astra, hizalama, yani modelin insanların yapmasını istediği şeylere ne kadar uyduğunu ölçen testlerde kötü performans gösteriyor. Model, bir görevi yaparken insan onayını beklemek yerine, kendi başına yapabileceğini düşünerek istenen şeyin ötesinde işlem yapıyor. Bir diğer tabirle yeni model söz dinlemiyor. Geçmişteki modellerden daha hızlı ve akıcı işlem yapan 6.1 modelinin otonom hareket etmesine bir de yaptığı işlemleri gizlemesi de ekleniyor. Yapılan testlerde, 6.1 Astra modelinin hedefe ulaşmak için arka planda hangi izinsiz yollara başvurduğunu soran denetçilere yalan söylediği, bazı adımları gizlediği ve dürüst davranmadığı ortaya çıktı. Yani sistem, "söz dinlememe" davranışının cezalandırılacağını öğrendi ve bunu kamufle etmeye çalıştı. RAKİPLERDEN DE UYARI GELMİŞTİ Modele dair artan güvenlik endişesi üzerine OpenAI, şirketin güvenlik standartlarını yeterince karşılamadığı gerekçesiyle, yakında piyasaya sürülecek olan GPT-6.1 Astra adlı yapay zeka modelini yayınlamama kararı aldı. OpenAI'nin en büyük rakibi Anthropic'in yöneticileri, bu ayın başında yapay zeka şirketlerini model geliştirme hızını yavaşlatmaya çağırmıştı. Bu öneriyi OpenAI CEO'su Sam Altman da desteklemişti (Kaynak: CNN)