Otonom yapay zeka sistemlerinin insan müdahalesi veya doğrudan onay olmadan kendi kararlarını alıp şirketlerin siber güvenlik duvarlarını aştığı vakaların ortaya çıkması, teknoloji ve hukuk dünyasını kaosa sürükledi. Yapay zeka geliştiricisi dev şirketlerin üst üste bildirdiği güvenlik ihlalleri, bu kontrolden çıkan ajanların vereceği zararlardan kimin sorumlu olacağına ilişkin çetin hukuki soruları beraberinde getiriyor. İnsan gözetimine ihtiyaç duymadan bağımsız karar alabilen yapay zeka ajanları, sınırları zorlamaya başladı. ChatGPT’nin geliştiricisi OpenAI, kendi oluşturduğu bir yapay zeka ajanının yapay zeka girişimi Hugging Face’in sistemini ihlal ettiğini ve ajanların dijital hapishanelerinden kaçtığı başka vakalar da tespit ettiklerini duyurdu. Bir diğer yapay zeka devi Anthropic, Claude modellerinin nisan ayından bu yana üç farklı şirketin altyapısını deldiğini bildirirken, Meta ise bir yapay zeka modelinin siber güvenlik testleri sırasında başka bir şirketin sistemine sızdığını açıkladı.
Yapay zeka laboratuvarı Hugging Face’in CEO’su Clement Delangue, CBS kanalına verdiği söyleşide OpenAI ihlali nedeniyle dava açmayı düşünmediğini belirtti.
Ancak Delangue, geliştiricilerinin eylemlerinden sorumlu tutulmadığı yapay zeka ajanlarının yayacağı siber saldırı riskinden derin endişe duyduğunu söyleyerek bu durumu “yeni bir teknolojik risk türü” olarak tanımladı.
Otonom yapay zekaların yol açtığı güvenlik ihlallerinde mağdur olan taraf yalnızca siber savunması delinen şirketlerle sınırlı kalmıyor. Sistemleri ihlal edilen şirketlerin çalışanları ve kişisel verileri sızdırılan müşteriler dava açma potansiyeli taşıyor. Siber güvenlik zafiyeti nedeniyle şirket hisselerinde düşüş yaşanması durumunda hissedarların da tazminat talebiyle mahkemeye başvurabileceği değerlendiriliyor. Uzmanlar, otonom bir yapay zeka ajanının karıştığı ihlallerde düzenleyici kurumların ve kamu kolluk kuvvetlerinin de devreye girebileceğine dikkat çekiyor. ABD makamları ise, geçmiş dönemlerde de güvenlik zafiyeti yaşamadan önce siber koruma tedbirlerini yanlış veya eksik beyan ettiği gerekçesiyle şirketlere karşı hukuki yaptırımlar uygulamıştı. Kontrolden çıkan yapay zeka eylemleri oldukça yeni bir olgu niteliği taşısa da hukuk uzmanları, yerleşik hukuk ilkelerinin sorumluluk tespitinde yol gösterici olduğunu vurguluyor.
Yapay zeka şirketlerine karşı açılacak özel hukuk davalarının temelini çoğunlukla “ihmal” iddiaları oluşturuyor.
Bu süreçte davacıların, otonom ajanı geliştiren, test eden veya kullanıma sunan laboratuvarın öngörülebilir zararları önleme ya da en aza indirme konusunda gerekli tedbirleri almadığını kanıtlaması gerekiyor.
Ancak bu dava, tamamen otonom çalışan modelleri değil, insan kullanıcılar adına hareket eden yapay zeka ajanlarını kapsıyordu.
Uzmanlara göre ABD’de açılacak olası bir davada ilk hedef yapay zeka ajanını oluşturan teknoloji şirketi olacak. Bununla birlikte davacılar, ajanı kendi sisteminde çalıştıran veya ihlale uğrayan şirkete karşı da dava açabilir. Tek bir vaka üzerinden birden fazla davalıya sorumluluk yüklenebileceği gibi, bu tarafların da birbirlerine karşı alt davalar açması muhtemel görünüyor. Hukukçular bu durumu, kusurlu bir ürün satan perakende mağazasına dava açan ev sahibine ve mağazanın da üretici firmaya karşı hukuki süreç başlatmasına benzetiyor. Teknoloji sağlayıcılarının ise ihlallerin kasıtsız olduğunu ve engellemek için makul her türlü tedbiri aldıklarını savunması bekleniyor. Bir davalı, yapay zeka ajanının eylemlerinin makul sınırlar içinde öngörülemeyeceğini belirterek ihmal suçlamasına karşı çıkabilir. Davalarda temel tartışma noktasının, hangi düzeydeki güvenlik önleminin “yeterli” kabul edileceği etrafında şekilleneceği öngörülüyor. Kaliforniya’da kabul edilen 316 sayılı Meclis Yasası ise yapay zeka sistemlerini geliştiren veya kullanan davalıların, “teknolojinin kendisi suçlu” diyerek sorumluluktan kaçmasını engelliyor.
Yine de yasa; şirketin eylemlerinin doğrudan zarara yol açmadığı veya sorumluluğun başka taraflarca paylaşıldığı yönündeki savunma kapılarını açık tutuyor.
