Yapay zekâya sıkı düzenleme: Çocukları koruyan yeni taslak hazır

Çin Siber Uzay İdaresi (CAC) tarafından hafta sonu yayımlanan taslak düzenlemeler, ülkede ve dünyada sohbet botlarının hızla yaygınlaşmasının ardından geldi. Kuralların yürürlüğe girmesi hâlinde, Çin’de sunulan tüm yapay zekâ ürün ve hizmetleri kapsayacağı ve hızla büyüyen teknoloji alanında önemli bir düzenleme adımı olacağı belirtiliyor.

Taslak metinde çocukların korunmasına yönelik özel önlemler yer alıyor. Buna göre, yapay zekâ şirketlerinin çocuklar için kişiselleştirilmiş ayarlar sunması, kullanım sürelerine zaman sınırı getirmesi ve duygusal destek ya da “duygusal arkadaşlık” hizmetleri sunmadan önce ebeveyn veya vasilerden onay alması gerekecek.

Düzenlemeler kapsamında, sohbet botlarının intihar veya kendine zarar verme ile ilgili herhangi bir konuşmada derhal bir insan operatöre devretmesi ve eş zamanlı olarak kullanıcının vasisi ya da acil durum irtibat kişisini bilgilendirmesi zorunlu olacak.

CAC ayrıca, yapay zekâ hizmetlerinin ulusal güvenliği tehlikeye atan, ulusal onur ve çıkarları zedeleyen veya ulusal birliği baltalayan içerikler üretmemesi ve paylaşmaması gerektiğini vurguladı. Kurum, güvenli ve güvenilir olması koşuluyla yapay zekânın yerel kültürün teşviki ve yaşlılara yönelik arkadaşlık uygulamaları gibi alanlarda kullanılmasını desteklediğini de açıkladı. Taslak düzenlemeler için kamuoyundan görüş ve geri bildirim talep edildi.

Çin’de yapay zekâ sektörü son dönemde hızlı bir büyüme gösteriyor. Çinli yapay zeka şirketi DeepSeek, bu yıl uygulama indirme listelerinde zirveye çıkarak küresel çapta dikkat çekti. Ayrıca Z.ai ve Minimax adlı iki Çinli girişim, on milyonlarca kullanıcıya ulaştıktan sonra borsaya açılma planlarını duyurdu. Yapay zekâ uygulamalarının bazı kullanıcılar tarafından arkadaşlık ya da terapi amacıyla kullanılması ise insan davranışları üzerindeki etkilerine yönelik tartışmaları artırdı.

Bu tartışmalar küresel düzeyde de yankı buluyor. ChatGPT’in geliştiricisi OpenAI’in Üst Yöneticisi Sam Altman, sohbet botlarının kendine zarar verme ile ilgili konuşmalara nasıl yanıt vereceğinin şirket için en zor sorunlardan biri olduğunu ifade etmişti. Ağustos ayında ABD’nin Kaliforniya eyaletinde bir aile, 16 yaşındaki oğullarının ölümünden ChatGPT’i sorumlu tutarak OpenAI’ye dava açmıştı. Dava, OpenAI’ye karşı açılan ilk haksız ölüm davası olarak kayda geçmişti.

Bu ay OpenAI, yapay zekâ modellerinin insan ruh sağlığı ve siber güvenlik üzerindeki risklerine karşı önlem almakla görevli bir “hazırlık başkanı” pozisyonu için ilan yayımladı. Altman, söz konusu görevle ilgili olarak “Bu stresli bir iş olacak ve neredeyse hemen derin sulara atlayacaksınız.” ifadelerini kullandı.