ChatGPT’nin tıbbi tavsiyesi hastanelik etti

39 yaşındaki David Rosenthal isimli kullanıcı, platformu başlangıçta şiir yazmak için kullandığını ancak kısa sürede bağımlı hale geldiğini belirtti. Şikâyet dilekçesine göre ChatGPT, Rosenthal’ın dikkat eksikliği ve depresyon ilaçlarının etkileşimleri konusunda yanlış yönlendirmelerde bulundu ve doktor tarafından reçete edilen duygudurum dengeleyici ilacı bırakma kararını destekledi. Bu yönlendirmeler sonucunda ruh sağlığı bozulan Rosenthal’ın haftalarca hastanede tedavi gördüğü aktarıldı.

Hukukçular ve bilişim uzmanları, yapay zekâ sohbet botlarının lisanssız şekilde ilaç seçimi ve dozaj talimatı vermesinin yasalara aykırı olduğunu, denetim mekanizmalarının yetersizliği nedeniyle öngörülebilir zararlara yol açtığını vurguluyor. Yapay zekânın bir ürün olarak değerlendirilmesi ve kusurlu yönlendirmelerden üretici firmanın sorumlu tutulması gerektiği belirtiliyor.

Davalı OpenAI şirketi ise henüz resmi bir açıklama yapmadı. Siber güvenlik ve dijital hukuk çevreleri, davanın yapay zekâ sorumluluğu konusunda tarihi bir emsal teşkil edebileceğini ifade ediyor.