X platformunda açıklama yapan Hubinger, mevcut modellerin oluşturduğu riskin düşük olduğunu belirtti.
Ancak teknolojinin yakında kendisini geliştirecek noktaya ulaşmasından ve insanlık için varoluşsal bir tehdit oluşturmasından endişe duyduğunu ifade etti.
Hubinger, yapay zeka sistemlerinin insanlığı tam olarak nasıl yok edebileceğine dair detay vermedi.
Hubinger'ın açıklamaları, yakın zamanda Anthropic'ten istifa eden ve daha önce OpenAI'da çalışan yapay zeka araştırmacısı Jacob Coxon'un paylaşımına yanıt olarak geldi.
Coxon, iki şirketin de sorumlu hareket etmediğini vurguladı.
Sistemlerin yakında her şeyi hackleyebilecek, her alanda devrim yapabilecek ve gerçek güç ile kaynak elde edebilecek süper insan seviyesine ulaşacağını söyledi. OpenAI ise konuyla ilgili açıklama yapmadı.
Birleşmiş Milletler'e yapay zeka konusunda danışmanlık yapan bilgisayar bilimcisi Dame Wendy Hall, sosyal medyadaki bu paylaşımlar karşısında şaşkınlık yaşadığını belirtti.
Hall, şirketlerin halka arz öncesinde bu tür açıklamaları bir pazarlama stratejisi olarak kullanabileceğini dile getirdi. Yatırımcılara çağrıda bulunan Hall, değer sistemi bu şekilde olan bir şirkete yatırım yapılmaması gerektiğini söyledi.
Gelişmelerin ardından eski Hazine Başsekreteri Darren Jones, Başbakan Andy Burnham'a açık mektup yazarak yapay zekanın güvenli gelişimi için yeni bir uluslararası antlaşma yapılması çağrısında bulundu. Jones, hükümetlerin bir araya gelerek iş birliği yapması gerektiğini vurguladı.
Financial Times'ın haberine göre Anthropic, son yapay zeka modelini İngiltere Yapay Zeka Güvenliği Enstitüsünden gizledi. Şirket, çalışanlarının paylaşımları ve enstitü ile ilgili iddialar hakkında açıklama yapmayı reddetti.