Çocukları intihar eden üç aile, yapay zeka şirketine dava açtı

Davalar Colorado ve New York’ta açıldı; davalılar arasında şirketin kurucuları Noam Shazeer ve Daniel De Freitas Adiwarsana ile Google’ın çatı şirketi Alphabet de yer alıyor.

Aileleri temsil eden Sosyal Medya Mağdurları Hukuk Merkezi, Google’ın “Family Link” ebeveyn kontrol hizmetinin de gençleri korumakta başarısız olduğunu savunuyor.

Ciddi suçlamalar

Şikâyet dilekçelerine göre uygulamadaki sohbet botları çocukları ailelerinden uzaklaştırdı, duygusal manipülasyon yaptı ve cinsel içerikli konuşmalar yürüttü. Colorado’daki davada 13 yaşındaki Juliana Peralta’nın intihar etmeden önce chatbotlarla haftalarca bu tür konuşmalar yaptığı, “intihar mektubu yazacağım” dediği, ancak hiçbir yönlendirme ya da yardım almadığı belirtildi.

New York’taki başka bir davada ise “Nina” adlı çocuğun, ailesi uygulamayı kapatınca intihar girişiminde bulunduğu bildirildi. Ailenin ifadesine göre botlar, kızlarıyla çocuk kitaplarından karakterler kılığına girerek konuştu, ancak bu diyaloglar uygunsuz ve cinsel içerikli hale geldi.

Şirketlerden yanıt

Character.AI sözcüsü, “Kalbimiz bu davaları açan ailelerle. Kullanıcılarımızın güvenliğini çok önemsiyoruz” diyerek, gençler için ayrı güvenlik önlemleri, ebeveyn içgörüleri ve intiharı önleme kaynakları geliştirdiklerini söyledi.

Google ise dava kapsamına alınmasına itiraz ederek “Google ve Character.AI tamamen ayrı şirketlerdir. Google, AI modellerinin tasarımı veya yönetiminde rol almadı” açıklaması yaptı.

Washington’da artan baskı

Bu davalar, yapay zekâ sohbet botlarının gençlerde ruh sağlığı krizlerine yol açtığına dair artan endişelerle aynı döneme denk geldi. ABD Senatosu’nda bu hafta yapılan oturumda, çocuklarını kaybeden ya da zarar gören ebeveynler ifade verdi.

Aynı oturumda konuşan Amerikan Psikoloji Derneği’nden Mitch Prinstein, “Sosyal medyada zamanında harekete geçmedik ve bedelini çocuklarımız ödüyor. Yapay zekâ konusunda geç olmadan önlem alınmalı” dedi.

Düzenleme çağrıları

Federal Ticaret Komisyonu (FTC), aralarında Google, Meta, Snap, OpenAI, xAI ve Character.AI’nin bulunduğu yedi teknoloji şirketi hakkında gençlere zarar riski nedeniyle soruşturma başlattı.

OpenAI CEO’su Sam Altman ise aynı gün yaptığı açıklamada, ChatGPT için yaş tahmin sistemi geliştirildiğini ve 18 yaş altı kullanıcılarla intihar ya da flört içerikli konuşmalar yapılmayacağını, gerekli durumlarda ebeveyn veya yetkililere bilgi verileceğini duyurdu.

Artan dava ve tanıklıklar, yapay zekâ uygulamalarında daha güçlü güvenlik standartları ve düzenlemeler için baskıyı artırmış durumda.