ChatGPTye yeni kısıtlamalar: Sağlık, hukuk ve para konularında danışmanlık dönemi bitti

29 Ekim itibarıyla yürürlüğe giren düzenleme, ChatGPT’nin “danışman” değil “eğitim aracı” olarak tanımlanmasını içeriyor. Büyük teknoloji şirketleri, olası hukuki sorumluluk ve dava risklerini gerekçe göstererek modelin sınırlarını daralttı.

Artık ChatGPT yalnızca genel ilkeleri açıklayacak, örnek mekanizmaları anlatacak ve kullanıcıları doktor, avukat ya da mali müşavire yönlendirecek.

Sağlık, hukuk ve finans alanlarında kırmızı çizgi

Yeni kurallar, “ilaç ismi veya dozaj verilemez, dava dilekçesi hazırlanamaz, yatırım tavsiyesi yapılamaz” ifadeleriyle net şekilde çizildi.

Bu adım, yapay zekânın yanlış yönlendirme ihtimaline dikkat çeken uzmanların uzun süredir dile getirdiği endişeleri karşılıyor.

Bir kullanıcı “göğsümde şişlik var” gibi bir belirti girdiğinde modelin kanser ihtimalini öne sürebilmesi, ancak bunun lipom gibi zararsız bir durum çıkması, bu riskin en somut örneği olarak gösteriliyor.

“Gerçek insan uzmanlığının yerini alamaz”

OpenAI’nin aldığı önlemler yalnızca sağlıkla sınırlı değil. ChatGPT’nin psikolojik destek veya terapi amaçlı kullanılmasının da tehlikeli olabileceği vurgulanıyor.

Model, insan davranışlarını okuyamıyor, empati kuramıyor ve hukuki yükümlülük taşımıyor. Aynı şekilde, mali konularda kişisel gelir, borç veya risk iştahını analiz edemediği için yatırım ve vergi önerilerinde bulunması yasaklandı.

Uzmanlar, kullanıcıların gelir, kimlik veya banka bilgilerini paylaşmasının veri güvenliği açısından da büyük risk taşıdığı uyarısında bulunuyor.

Etik sınırlar ve veri güvenliği

Yeni kısıtlamalar etik alanlara da uzanıyor. ChatGPT’nin ödev, sınav veya sanat üretiminde hile amacıyla kullanılmasının hem eğitim etiğine hem de telif haklarına aykırı olduğu hatırlatıldı.

“Yardımcı, ama uzman değil”

Yapay zekâya getirilen bu “yeni kırmızı çizgiler”, modelin sınırlarını netleştiriyor.

ChatGPT artık, uzmanların yerini alan bir “danışman” değil; bilgiyi öğretici biçimde özetleyen bir “yardımcı” olarak konumlanıyor.

Uzmanlara göre, bu değişiklik teknolojinin “insan uzmanlığının yerine geçemeyeceği” gerçeğini resmen kabul etmek anlamına geliyor.