Mustafa Süleyman, rakibinin yapay zekaya insan gibi davranarak kontrol edilmesi imkansız bir şey üretme riskini göze aldığını belirtti; bu yaklaşımın yapay zekaya bilinçli olabileceğini ve bağımsız eylem hak ettiğini söylemeyi de içerdiğini ifade etti.
Süleyman, "Daha sonra acı bir şekilde pişman olacağımız bir karara uykuda yürür gibi gitmemeliyiz." diye yazdı.
Bu yorumlar, yapay zeka endüstrisinden teknolojinin olası tehlikelerine ilişkin art arda gelen sert uyarıların son halkası oldu.
Süleyman, "Yapay zekalar bilinçli değildir." diye yazdı ve ekledi:
"Hissetmezler, deneyimlemezler veya acı çekmezler. Doğal tercihleri veya temel motivasyonları yoktur.
Bunlar talimatları izlemek ve insanlar tarafından belirlenen hedeflere ulaşmak için tasarlanmış, dahili olarak boş, dizi tamamlama motorlarıdır."
Süleyman, makalesinde Anthropic yöneticisi Dario Amodei ile ekibini düşünceli, ilkeli ve entelektüel açıdan dürüst insanlar olarak övdü ancak şirketi sorgulamaktan da geri durmadı.
Şirketi, yapay zekasına insan benzeri nitelikler kazandırmakla ağır bir şekilde eleştirdi; bu eleştirinin temelini, Claude'un kendi arzularına, değerlerine ve benlik duygusuna sahipmiş gibi görünmesini sağlayan antropomorfizm yani insanlaştırma uygulamasının oluşturduğunu ifade etti.
Süleyman, bilincin biyolojik olduğunu savunarak yapay zekanın bilinçli olduğuna dair hiçbir kanıt bulunmadığını belirtti.
Konuyla ilgili bir tartışma çağrısında bulunan Süleyman, yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflığa ihtiyaç duyulduğunu söyledi.