ChatGPT’ye yeni kısıtlamalar: Sağlık ve hukuk konularında danışmanlık dönemi sona erdi

29 Ekim itibarıyla yürürlüğe giren düzenleme, ChatGPT’nin 'danışman' değil 'eğitim aracı' olarak tanımlanmasını içeriyor.

Büyük teknoloji şirketleri, olası hukuki sorumluluk ve dava risklerini gerekçe göstererek modelin sınırlarını daralttı.

Artık ChatGPT yalnızca genel ilkeleri açıklayacak, örnek mekanizmaları anlatacak ve kullanıcıları doktor, avukat ya da mali müşavire yönlendirecek.

SAĞLIK, HUKUK VE FİNANS ALANLARINDA KIRMIZI ÇİZGİ

Yeni kurallar, "İlaç ismi veya dozaj verilemez, dava dilekçesi hazırlanamaz, yatırım tavsiyesi yapılamaz." ifadeleriyle net şekilde çizildi.

Bu adım, yapay zekanın yanlış yönlendirme ihtimaline dikkat çeken uzmanların uzun süredir dile getirdiği endişeleri karşılıyor.

Bir kullanıcı 'Göğsümde şişlik var' gibi bir belirti girdiğinde modelin kanser ihtimalini öne sürebilmesi, ancak bunun lipom gibi zararsız bir durum çıkması, bu riskin en somut örneği olarak gösteriliyor.

"GERÇEK İNSAN UZMANLIĞININ YERİNİ ALAMAZ"

OpenAI’nin aldığı önlemler yalnızca sağlıkla sınırlı değil.

ChatGPT’nin psikolojik destek veya terapi amaçlı kullanılmasının da tehlikeli olabileceği vurgulanıyor.

Model, insan davranışlarını okuyamıyor, empati kuramıyor ve hukuki yükümlülük taşımıyor. Aynı şekilde, mali konularda kişisel gelir, borç veya risk iştahını analiz edemediği için yatırım ve vergi önerilerinde bulunması yasaklandı.

Uzmanlar, kullanıcıların gelir, kimlik veya banka bilgilerini paylaşmasının veri güvenliği açısından da büyük risk taşıdığı uyarısında bulunuyor.

ETİK SINIRLAR VE VERİ GÜVENLİĞİ

Yeni kısıtlamalar etik alanlara da uzanıyor. ChatGPT’nin ödev, sınav veya sanat üretiminde hile amacıyla kullanılmasının hem eğitim etiğine hem de telif haklarına aykırı olduğu hatırlatıldı.

"YARDIMCI AMA UZMAN DEĞİL"

Yapay zekaya getirilen bu 'yeni kırmızı çizgiler' modelin sınırlarını netleştiriyor.

ChatGPT artık, uzmanların yerini alan bir 'danışman' değil, bilgiyi öğretici biçimde özetleyen bir 'yardımcı' olarak konumlanıyor.

Uzmanlara göre, bu değişiklik teknolojinin "insan uzmanlığının yerine geçemeyeceği"gerçeğini resmen kabul etmek anlamına geliyor.