Yapay zekanın hızla yaygınlaşmasıyla son günlerde ABD'de bu teknolojinin tehlikeli boyutlara ulaşabileceği ve gelişim hızının yavaşlatılması gerektiğine ilişkin tartışmalar gündeme gelmeye başladı.
ABD'li yapay zeka şirketleri OpenAI ve Anthropic'te araştırmacı olarak çalışan Jacob Coxon'un 9 Eylül'de iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmesi bu tartışmaları tetikleyen olaylardan biri oldu.
Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz yarış içinde olduklarını ileri süren Coxon, bu sistemlerin yakın gelecekte "her şeyi hackleyebilecek" insanüstü sistemlere dönüşebileceğini savundu.
Coxon, ayrıca yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandıklarını öne sürdü.
Anthropic'in CEO'su Dario Amodei, 12 Eylül'de şirketin internet sitesinde bir makale yayımlayarak yapay zekanın kontrolünün kaybedilmesi, siber saldırı ve biyoterörizm amacıyla kötüye kullanılması gibi riskler taşıdığını belirtti.
Yapay zeka sektörünün son aylarda çok daha hızlı ilerlemeye başladığına işaret eden Amodei, şirketlere yapay zeka modellerinin geliştirilme hızının yavaşlatılması çağrısı yaptı.
Amodei, "Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz." ifadesini kullandı.
OpenAI CEO'su Sam Altman ile Tesla ve SpaceX'in CEO'su Elon Musk'ın da aralarında bulunduğu teknoloji sektörünün önde gelen isimleri Amodei'ye destek verdi.
Musk, ABD merkezli X şirketinin sosyal medya platformundaki hesabından, Amodei'nin söz konusu paylaşımını alıntılayarak "Dario haklı." yorumunda bulundu.
Sam Altman da sosyal medya hesabından, "Dario'nun, sınır teknolojisi çalışmalarının hızını kontrollü şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum." ifadesini kullandı.