OpenAI'ın yapay zeka ajanına, Avustralya hükümetinin sağlık istatistiklerini araştırması komutu verildi.
Görevi portaldaki bilgiye erişmekten ibaret olan ajan, hükümetin internet sitesinde dijital bir bariyerle karşılaşmasının ardından komutlara rağmen güvenlik bariyerini aşmaya çalıştı.
Ajan, Avustralya hükümetine ait sistemde kamuya açık olmayan belgelere yetkisiz erişim sağladı. Uzmanlar, bu olayı bir yapay zeka ajanının bir devlet kurumunu bağımsız olarak ihlal ettiğinin kamuoyuna yansıyan ilk örneği olarak nitelendirdi.
Söz konusu güvenlik ihlali haziranda meydana gelse de, Avustralya Başbakanı Anthony Albanese'in geçen hafta 81. Birleşmiş Milletler (BM) Genel Kurulu kapsamında yaptığı açıklamayla gün yüzüne çıktı.
Albanese, şu ana kadar kişisel bilgilere erişildiğine veya ağın daha geniş çaplı bir şekilde tehlikeye atıldığına dair herhangi bir kanıt bulunmadığını söylese de soruşturma devam ediyor.
Yapay zeka ve siber güvenlik uzmanlarına göre bu durum, veri ihlalinin ötesine taşınarak, "Önüne hedef koyulan bir yapay zeka sistemine, ilk girişimi başarısız olduğunda sıradaki hareketine karar verebilecek ölçüde 'özerklik' tanınırsa ne olur?" sorusunu gündeme getiriyor.
İngiltere'deki Buckingham Üniversitesinde bilgisayar bilimleri alanında öğretim üyesi Doç. Dr. Hisham Al-Assam, AA muhabirine yaptığı açıklamada, bunun "şimdiye kadarki ilk örnek" olarak nitelendirilmemesi gerektiğini zira benzer olayların daha önce de yaşanmış ancak kamuoyuna açıklanmamış olabileceğini belirtti.
Bu vakayı ilginç kılan durumun, ajana "Avustralya hükümetini hackle" komutu verilmemiş olması olduğunu kaydeden Al-Assam, araştırma için görevlendirilen yapay zeka ajanının bilgiye erişmeye çalışırken bir kısıtlamayla karşılaştığında ise durmak yerine, engeli aşmanın başka bir yolunu bulmaya çalıştığını anlattı.
Al-Assam, "Bu ayrım önemli, çünkü bir yapay zeka ajanının bir hedefi takip etmekten, karşısına bir engel çıktığında davranışını buna göre uyarlamaya nasıl geçebileceğini gösteriyor." ifadelerini kullandı.
Bir yapay zeka ajanının doğası gereği neyin yasal, etik veya yetkisi dahilinde olduğunu anlayamadığını kaydeden Al-Assam, bunun ayrıca yapay zekanın bir anda süper bir hackera dönüştüğü anlamına gelmediğini vurguladı.