Yapay zeka teknolojisi konusunda öne çıkan şirketlerin üst yöneticileri, BMGK'de "yapay zeka ve uluslararası güvenlik" başlığı altında düzenlenen toplantıda değerlendirmelerde bulundu.
OpenAI Üst Yöneticisi Altman, yapay zeka modellerinin geliştirilmesindeki hızın, olumlu sonuçları daha da somutlaştırmasının yanı sıra "riskleri de daha acil hale getirdiğini" söyledi.
Altman, "Önümüzde bir seçenek var. Yapay zeka ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir." dedi.
Yapay zekanın ideal versiyonunun, "insanları dev bir makinenin dişlileri haline getirmek" ya da "insani unsurlar ortadan kalkana kadar hayatın her alanını optimize etmek" olmadığını belirten Altman, "Bu modeller, insanların bugün ulaşılamaz gibi görünen hayallerini ve hedeflerini gerçekleştirmeleri için yeni araçlar olabilir." diye konuştu.
Altman, yapay zeka sistemlerinin "daha kabiliyetli ve otonom" hale gelebileceğini, dünyadaki güç dengelerini değiştirebileceğini ve kendi kendilerini geliştirebildikçe insan müdahalesini saf dışı bırakabileceğini vurgulayarak, "Yapay zeka geliştirme süreci giderek daha otomatik hale geldikçe, yapay zekanın ilerleme hızı da önemli ölçüde artabilir. Bu durum, son derece dikkatli davranılmasını gerektiriyor." ifadelerini kullandı.
Şirketlerin, faydalar uğruna riskleri göze almaması ve insan kontrolünde tutulabileceğinden emin olunmayan hiçbir modelin eğitilmemesi gerektiğini kaydeden Altman, "Yapay zekanın demokratik olması için, en önemli kararların sadece San Francisco'daki laboratuvarlar tarafından alınmaması gerekir. Bu kararlar, demokratik süreçler aracılığıyla ve halkına hesap vermekle yükümlü hükümetler tarafından şekillendirilmelidir." değerlendirmesinde bulundu.
Altman, ortak çıkarlar için insanların bir araya gelmesi çağrısında bulunarak, "Bir yol ayrımındayız." dedi.
Anthropic'in Üst Yöneticisi Amodei de çevrim içi katıldığı toplantıda, yapay zekanın son yıllarda hızla geliştiğini belirterek, bu olağanüstü ilerlemenin yönetilmesi gereken riskleri de beraberinde getirdiğini anlattı.
Amodei, "İki ana risk kategorisi görüyorum. Birincisi, yapay zeka modellerinin kötüye kullanılması, örneğin biyoteröristler tarafından biyolojik silah üretmek için kullanılması. İkinci risk ise kontrol kaybıdır; model yeteneklerinin, geliştiricilerin kontrol edebilme kapasitesinin ötesinde hızlanmasıdır." diye konuştu.
Bu risklerin tüm insanlığı ilgilendiren küresel meseleler olduğunu dile getiren Amodei, "Kötü yönetilmesi halinde yapay zekanın bütün olarak insanlık için risk oluşturabileceğine inanıyorum." şeklinde konuştu.