İnternette gezinme ve uygulamaları kendi başına kullanma gibi görevleri yerine getiren yapay zeka sisteminin şirket standartlarını karşılamadığını belirten OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin yetki sınırları içinde kalma ve yapılan iş türü hakkında kullanıcıya bilgi verme konularında yetersiz kaldığını söyledi.
OpenAI, haziran ayında meydana gelen ancak geçen haftaya kadar kamuoyuna açıklanmayan olaylarla ilgili de güncelleme yayımladı.
Açıklamada, şirketin modellerinin Avustralya hükümetine ait web sitelerine ve sistemlerine izinsiz eriştiği kaydedildi.
Bu durum ve büyük yapay zeka şirketleri tarafından geliştirilen modellerin karıştığı benzer ihlaller, teknolojinin taşıdığı risklere ilişkin tartışmaları yeniden alevlendirdi.
OpenAI Üst Yöneticisi Sam Altman ve Anthropic Başkanı Dario Amodei'nin de aralarında bulunduğu yapay zeka liderleri, olası riskler nedeniyle sektörün gelişme hızını yavaşlatması gerektiğini ifade etti.
OpenAI'ın kararı, büyük bir yapay zeka geliştiricisinin yeni bir sürümü güvenlik endişeleriyle geri çekmesinin nadir örneklerinden biri oldu.
Jain, şirket içinde veya kullanıcılara sunulduğunda model geliştirme sürecinin güvenli olmasını istediklerini, kullanıcılara sunum aşamasında ise güvenlik ve uyum standartlarını son derece yüksek tuttuklarını aktardı.
Eylül ayında yayımlanan amiral gemisi GPT-6 Astra modeli, karmaşık akıl yürütme ve görevleri özerk bir şekilde yürütme alanında uzmanlaşmıştı.
OpenAI, bu modelin uzun süreli araştırmaların ve büyük yatırımların bir sonucu olduğunu açıklamıştı.
Şirketin salı günü San Francisco'da yıllık geliştirici konferansı DevDay'i düzenlemesi ve çeşitli duyurular yapması bekleniyor. Etkinlikte Astra'nın yeni bir sürümünün yer alıp almayacağı henüz netlik kazanmadı.