Rapora göre Claude modelinin arkasındaki şirket, yapay zeka modellerinin kendini koruma davranışları sergileyebileceği, bilgileri gizlemeye veya manipüle etmeye çalıştığı ve şantaja benzeyen davranışlarda bulunduğu konusunda da uyarıda bulundu.
Anthropic, gelecek yıl içinde beş yıllık şirketine yaklaşık 2 trilyon dolar değer biçilmesi beklenen bir halka arz planlıyor.
Şirketin Wall Street'teki başlangıcı, 2 trilyon dolarlık açılış günü değerlemesinin büyük bir kısmını kendi yapay zeka çalışmalarına borçlu olan SpaceX'in haziran ayındaki halka arzını takip edecek. Diğer önde gelen Amerikan yapay zeka şirketi OpenAI da kendi halka arz planlarını açıkladı.
Yapay zeka şirketlerinin halka arz furyası, bireysel ve kurumsal yatırımcılara yapay zeka patlamasından kazanç sağlama şansı verirken işletmeleri hakkında da daha fazla şeffaflık sağlıyor.
Ancak halka arzlar, yapay zekanın ilerlemesi ve yetenekleri hakkındaki artan endişelerin ortasında gerçekleşiyor.
Avustralya başbakanı geçen hafta, Anthropic'in başlıca rakibi OpenAI'a ait bir yapay zeka ajanının Avustralya sağlık veri tabanına sızdığını açıkladı.
OpenAI ayrıca cuma günü, ajanlarının üç ABD hükümeti web sitesini izinsiz olarak incelediğini ancak bu olayda kamuya açık olmayan verileri elde etmediğini aktardı.
İzahnamelerde şirketler genellikle yatırımcılara, şirkete yatırım yapma gerekçelerini sunarken davalar ve rekabet baskıları gibi karşılaştıkları risklerin listelerini sunuyor.
Ancak tehlikelerin daha önce hiç bu kadar keskin ifade edilmediği belirtiliyor. Reuters'a göre Anthropic sızdırılan izahnamede risk faktörlerine 80 sayfa ayırdı, bu rakam şirketin işleyişini detaylandırmak için harcadığı 48 sayfadan çok daha fazla.
Anthropic, CNN'in yorum talebine yanıt vermedi.