Ankara Hacı Bayram Veli Üniversitesi Öğretim Üyesi ve SETA araştırmacısı Prof. Dr. Erman Akıllı, Tumbler Ridge saldırısı üzerinden yapay zeka şirketlerinin hukuki sorumluluğu, kullanıcı mahremiyeti ve güvenlik yükümlülüklerini AA Analiz için kaleme aldı.
***
Kanada’nın Tumbler Ridge kentindeki saldırının ardından OpenAI ve şirketin CEO'su Sam Altman’a karşı açılan dava sayısı eylül ayında 37’ye ulaştı. Davacılar, şirketin saldırganın şiddet içerikli konuşmalarını aylar öncesinden tespit ettiği, güvenlik ekibinin kaygılarına rağmen Kanada makamlarını uyarmadığı ve bahse konu kullanıcının yeniden hesap açmasını engelleyemediği iddiasında bulunuyor. İddialar henüz yargısal olarak kanıtlanmış değil. Bununla birlikte OpenAI’nin Kanada hükümetine gönderdiği resmî yazı, ilgili hesabın Haziran 2025’te kapatıldığını ve o tarihte uygulanan filtreleme protokolü uyarınca kolluk kuvvetlerine bildirilmediğini doğruluyor. Şirketin bugünkü protokol kapsamında a
Bu olay, internetin kurucu mitlerinden biri olan platform tarafsızlığı anlayışının üretken yapay zeka çağında çöktüğünü gösteriyor. Teknoloji şirketlerinin sistemlerinden geçen içerikten sorumlu olmayan basit aracılar oldukları savı, içeriği üreten, biçimlendiren ve kullanıcıya göre yönlendiren modelleri açıklamıyor. Sorumluluk bu nedenle içerikten mimariye kayıyor. Tek bir zararlı cevabın kim tarafından yazıldığı kadar sistemin hangi amaçlarla tasarlandığı, hangi davranışları teşvik ettiği, hangi riskleri öngörebildiği ve büyüme adına hangi güvenlik tercihlerini yaptığı da önem taşıyor. Kullanıcı etkileşimi ve bağlılığından ticari değer üreten bir şirket, sistem mimarisinden doğan öngörüleb
Sorumluluk aynı zamanda yapay zeka değer zincirinin tamamına yayılmalıdır. Temel modeli geliştiren şirket, onu belirli bir hizmet içinde kullanan sağlayıcı ve kullanıcıya ulaştıran dağıtıcı aynı ölçüde sorumlu tutulamaz; fakat hiçbiri kendi rolünü görünmez de kılamaz. Burada güvenliğin ve tüketici zararının ötesine geçen epistemik bir sorumluluk bulunmaktadır. Yapay zeka sistemleri bilgiyi üretiyor, görünürlük kazandırıyor ve insanların gerçekliği anlamlandırırken kullandığı bilişsel zemini şekillendiriyor. İnsanların hangi bilgilere ulaştığını ve dünyayı nasıl anlamlandırdığını şekillendiren bir yapay zeka sistemi, bilgiyi yalnızca bir noktadan diğerine taşıyan telefon kablosu gibi tarafsız
Bir şirketin somut sorumluluğu, öngörülebilir risk üzerinde sahip olduğu bilgi, kontrol ve müdahale kapasitesiyle başlamalıdır. Elbette teknoloji şirketleri, her zararlı eylemin mutlak garantörü sayılamazlar. Ancak güvenlik protokollerini belirleyen, tehlikeli örüntüleri tespit edebilen ve tehdit arz eden hesabı durdurabilen aktörün makul özen göstermesi gerekmektedir. Zira kullanıcının bağımsız eylemi şirketin sorumluluğunu ortadan kaldırmaz. Ceza sorumluluğu eylemi gerçekleştiren kişiye aittir; hukuki sorumluluk ise birden fazla aktör arasında paylaşılabilir. Kullanıcının fail olması şirketi otomatik olarak masum kılmadığı gibi, şirketin ihmali de faili iradesiz bir araca dönüştürmez. Üzer
Mahremiyet tartışması bu davanın diğer yüzünü oluşturuyor. Sam Altman, 2025 yılında yaptığı bir açıklamada, kullanıcıların ChatGPT ile paylaştığı hassas bilgilerin avukat, doktor veya terapistle yapılan görüşmelere benzer bir hukuki gizlilik korumasına sahip olmadığını belirtmişti. Başka bir ifadeyle, kullanıcıların gizli kalacağını düşündüğü bu konuşmalar, bir dava söz konusu olduğunda OpenAI’den istenebilir ve mahkemede delil olarak kullanılabilir.
İnsanlar ruhsal sorunlarından aile hayatlarına, hukuki kaygılarından en mahrem düşüncelerine kadar pek çok bilgiyi yapay zeka ile paylaşıyorlar. Ancak bu paylaşımlar, ileride kullanıcıların aleyhine kullanılabilecek birer delile dönüşebilir. Bu minvalde hukukçular açısından risk daha da hassastır. Zira müvekkillere ait bilgilerin bu sistemlere aktarılması, meslek sırrını ve dava hazırlığı kapsamında oluşturulan çalışmaların hukuki korumasını zedeleyebilir. Şirketler, kullanıcıların yapay zeka ile kişisel bir sırdaşla konuşur gibi iletişim kurmasını teşvik ediyor fakat bu ilişki avukat, doktor veya terapistle yapılan görüşmelerdeki hukuki gizlilik güvencelerinden yoksun kalıyor.