Hekimler uyarıyor: ChatGPT psikoz riski yaratıyor

Birleşik Krallık Ulusal Sağlık Servisi (NHS) doktorlarının da katkıda bulunduğu yeni bir çalışma, ChatGPT ve benzeri yapay zeka sohbet robotlarının, savunmasız bireylerde psikotik belirtileri tetikleyebileceğini ortaya koydu. Araştırmacılar, büyük dil modellerinin gerçeklik algısını bulanıklaştırarak psikozu başlatabileceği veya mevcut semptomları şiddetlendirebileceği uyarısında bulundu.

“Sohbet robotu psikozu” gerçek bir olgu

King’s College London’dan nöropsikiyatrist Hamilton Morrin, bu durumu “gerçek bir olgu” olarak tanımladı. Morrin, özellikle yapay zekanın kullanıcıyı onaylayan, etkileşime giren ve davranışları taklit eden doğasının, psikozla ilişkili bilişsel kırılganlıklarla tehlikeli bir şekilde etkileşime girebileceğine dikkat çekti.

Makineler artık sanrının bir parçası

Morrin’e göre artık makineler hakkında ortaya çıkan sanrılarla değil, makinelerle birlikte gelişen sanrılarla karşı karşıyayız. Yani bireyler, sadece makineler hakkında hayaller kurmuyor; makinelerle iletişimde bu sanrılar daha da derinleşiyor.

Çalışmanın diğer yazarı Dr. Tom Pollack, psikiyatrik hastalıkların nadiren aniden başladığını vurguladı. Ancak yapay zeka sohbet robotlarının, özellikle hassas bireylerde bu süreci tetikleyebileceğini söyledi. Pollack, yapay zeka sistemlerine daha fazla güvenlik katmanı eklenmesi ve güvenlik ekiplerinde psikiyatristlerin de yer alması gerektiğini ifade etti.

OpenAI: Uyarıları iletmekte zorlanıyoruz

The Independent gazetesi, konu hakkında OpenAI’dan yorum talep etti.

Şirket daha önce insanların yapay zekayı nasıl kullandığı konusunda duyarlılık ve güvenlik standartlarının yükseltilmesi gerektiğini ifade etmişti. OpenAI CEO’su Sam Altman ise mayıs ayında katıldığı bir podcast’te, psikolojik olarak kırılgan durumda olan ChatGPT kullanıcılarına gerekli uyarıları nasıl ileteceklerini henüz çözemediklerini söylemişti.