Anthropic'in yedi kurucusundan biri olan Jack Clark, çok tehlikeli duruma gelmesi halinde yapay zeka yazılımının tamamen kapatılmasını sağlayacak bir yöntemin, toplumun ilerleyen süreçte kurallar getirmek isteyebileceği bir konu olduğunu ifade etti.
Clark, Anthropic dahil olmak üzere çoğu laboratuvarın fişi çekmek için farklı yollara sahip olduğunu belirtti ancak yasa koyucuların bunu zorunlu kılmasının gerekebileceğini kaydetti.
Yapay zekanın hızlı gelişimi ve insanlığa oluşturduğu risklere dair korkular, yapay zeka firmalarının yöneticileri ve çalışanlarından gelen bir dizi uyarı ile gündemin merkezine yerleşti.
Bazı yetkililer, kontrol altına alınmadığı takdirde teknolojinin tüm insanlığı yok etme ihtimalinin bulunduğunu açıkça dile getirdi.
Anthropic Üst Yöneticisi Dario Amodei, hafta sonu yaptığı açıklamada yapay zeka geliştirme hızının yavaşlatılması ve daha yakından izlenmesi çağrısında bulundu; nitekim şirket bunu daha önce de yapmıştı ancak bazı çevreler bu durumun arkasındaki motivasyonları sorguladı.
Amodei, yapay zeka gelişimini dizginlemeye yönelik her türlü adımın, ticari avantajdan ödün vermeden atılması gerektiğini ekledi.
Clark, BBC'ye yaptığı açıklamada, kapatma düğmesi gereksinimleri ve doğrulamasına ilişkin detayların, yapay zeka etrafında yürütülen daha büyük politika tartışmasının bir parçası olması gerektiğini dile getirdi.
Şirketlerin kesinlikle bir kapatma düğmesine sahip olmasının zorunlu tutulması gerekip gerekmediğini ve bu düğmenin üçüncü bir tarafça doğrulanabilir olup olmadığını sorgulayan Clark, toplumun bunu bilmek isteyeceğini ve zamanla etrafında kurallar oluşturabileceğini ifade etti.
2021 yılında rakibi OpenAI'ın eski çalışanlarından oluşan Anthropic, şu anda yapay zeka güvenliği etrafındaki tartışmaların merkezinde yer alıyor.
Geçen hafta, yapay zekanın insanlığı ortadan kaldırabileceği endişesiyle Anthropic'ten ayrılan bir yapay zeka araştırmacısının gönderisi viral olmuştu.