Kanada'daki Montreal Üniversitesinde yapay zeka güvenliği alanında çalışan Doç. Dr. David Krueger, son dönemdeki çağrıların aksine yapay zeka modellerini geliştirme hızının düşürülmesinin yeterli olmayacağı, daha güçlü sistemlerin inşası tamamıyla durdurulmadığı sürece insanlığın kontrolü yitirebilme ihtimalinin olduğu uyarısında bulundu.
Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, yapay zeka sistemlerinin kontrol edilmesine ilişkin endişelerin artmasıyla 12 Eylül'de şirketlere "yapay zeka modellerini geliştirme hızlarını düşürmeleri" için çağrı yaptı.
Tesla ve SpaceX Üst Yöneticisi (CEO) Elon Musk'ın yanı sıra ABD merkezli yapay zeka şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman, sosyal medya hesaplarından Amodei'ye destek verdi.
Krueger, AA muhabirine, son dönemde önde gelen teknoloji firmalarının yöneticilerinin, yapay zekanın gelişimini yavaşlatma çağrılarına ilişkin değerlendirmelerde bulundu.
Geliştirme çalışmalarının hızını düşürmenin yeterli olmayacağını vurgulayan Krueger, "Yapay zekayı durdurmalıyız. Daha güçlü yapay zeka geliştirmeyi durdurmalıyız." dedi.
Krueger, "üst düzey performanslı yapay zeka sistemleri" geliştirme çalışmalarına yönelik derhal ve süresiz "uluslararası moratoryum uygulanması" çağrısında bulunarak, "Şu anda yapabileceğimiz ve bizi gerçekten güvende tutacak tek şey bu." görüşünü paylaştı.
İnsanlığın kontrol edilemeyecek kadar güçlü sistemlerin gelişmesini engellemek için sadece birkaç yılının kalmış olabileceğini savunan Krueger, "Bu, genelde çok karamsar bir tablo gibi geliyor çünkü ben bunun bir acil durum ve kriz olduğunu, hepimizin ölebileceğini söylüyorum." dedi.
Krueger, yapay zekanın, ölümle sonuçlanan davranışları tetiklemeye çoktan başladığına dikkati çekerek, "Yapay zekanın, insanlara intihar etmeleri ve başkalarını öldürmeleri için talimat verdiğine tanık olduk." diye konuştu.
Yapay zekanın askeri alandaki kullanımına da işaret eden Krueger, "Bu, gayet gerçek bir durum. Şu anda yaşanıyor ama her şey çok hızlı değişiyor ve çok daha tehlikeli hale geliyor." değerlendirmesinde bulundu.
Yapay zeka sistemlerinin son dönemde gündeme oturan otonom davranışlarına dikkati çeken Krueger, "Yapay zekanın yanlış bir şey yapmadığından ve insanların kontrolü elinde tuttuğundan emin olunması için herkesin mevcut bulunmasını istediği insan faktörü, toplumun her alanında olduğu gibi devre dışı bırakılıyor." görüşünü paylaştı.