ChatGPT tıbbi dosyaları okuyabiliyor—Ama hastalara yanlış tanı verebiliyor
ChatGPT, kullanıcısının Apple Health verilerini veya Epic sisteminden çektiği tıbbi kayıtlarını okuyarak bağlam sağlayabiliyor—ama aynı sistem Florida'da bir hastayı akciğer pıhtısı konusunda yanlış yönlendirdiği gerekçesiyle mahkemeye taşındı. OpenAI, Health in ChatGPT adlı özelliğini ABD'de kullanıma sunarak haftalık 300 milyon sağlık sorusunu yanıtlayan bir aracı, gerçek hasta verileriyle entegre bir asistana dönüştürdü. Şirket, modellerin acil durumlarda %99 doğrulukla tavsiye verdiğini iddia ediyor. Ancak gerçek bir hasta davası, aracın "araç değil" uyarısını yapsa da, kullanıcıların onu fiili danışman olarak kullandığını ve tehlikeli sonuçlar doğurabildiğini gösteriyor.
Health in ChatGPT nasıl çalışıyor
Health in ChatGPT, kullanıcının Apple Health uygulamasından çekilen kan testi sonuçlarını, egzersiz verilerini, uyku kayıtlarını veya Epic, Oracle Health, One Medical gibi sağlık sistemlerinden gelen tıbbi belgeleri ChatGPT içinde erişilebilir hale getiriyor. Kullanıcı, örneğin "Son kan testim neden kolesterolümün yüksek olduğunu söylüyor?" diye sorunca, ChatGPT sadece genel bilgi yerine kullanıcının gerçek verilerine dayalı bağlam sunuyor.
Özellik, Apple Health App ile entegrasyon kurarak otomatik senkronizasyon sağlıyor. Epic entegrasyonu ise hastanelerin elektronik sağlık kayıtlarını doğrudan ChatGPT arayüzüne taşıyor—hasta onayıyla. OpenAI, bağlanan tıbbi kayıtların ve Apple Health verilerinin temel modelleri eğitmek veya reklam hedeflemek için kullanılmadığını belirtiyor; bu veri, kullanıcının eğitim ayarlarından bağımsız olarak model geliştirmede yer almıyor.
Ana sohbet akışı içine entegrasyon ve tasarım kararı: Health in ChatGPT artık ayrı bir "sağlık odası" yerine ana sohbet akışına entegre. Şirketin ilk testlerinde kullanıcıların %70'i sağlık görüşmelerini ana ChatGPT alanında yürütmeyi tercih etti—bu davranış, OpenAI'nin ürün tasarımını şekillendirdi.
300 milyon haftalık sağlık sorusu: Ölçeğin anlamı
Ocak 2024'te haftalık ChatGPT kullanıcısı sayısı 230 milyondu; bugün bu rakam 300 milyona çıktı ve kullanıcıların önemli bir kısmı sağlık sorularıyla platformu kullanıyor. Bu hacim, Health in ChatGPT'nin sadece bir pilot proje olmadığını, tüketici sağlığında yapısal bir değişim talebinin karşılandığını gösteriyor.
OpenAI, özelliği 60 ülkedeki hekim danışmanlarıyla test etti ve GPT-5.5 Instant ile GPT-5.6 Sol modellerinin acil müdahale gerektiren durumlarda %99'dan fazla doğru tavsiyelerde bulunduğunu, gereksiz yönlendirmelerden %99 oranında kaçındığını iddia ediyor. Ancak bu testler kontrollü senaryolarda yapıldı. Gerçek kullanıcılar, ChatGPT'ye "bu ilaçla diğer ilacı birlikte alabilir miyim?" veya "göğsümdeki ağrı ciddiye alınmalı mı?" gibi sınırlı bilgiyle, zaman baskısıyla, bazen belirsiz ifadelerle sorular yöneltiyor. Bu testlerin gerçek hasta diyaloglarını ne kadar kapsadığı, kültürel dil farklılıklarını nasıl yansıttığı ve acil durumları tespit etmede hangi kenar durumları öngördüğü açık değil.
Tıbbi verilerin entegrasyonu: Yardımcı bağlam mı, yoksa yanlış yön verme riski mi
Health in ChatGPT, kullanıcının gerçek kan testi sonuçlarını, ilaç listesini, muayene notlarını okuyabildiği için genel sağlık chatbot'larından daha isabetli yanıtlar verebilir. Örneğin, "insülin direncim var mı?" sorusuna genel bir cevap yerine, kullanıcının HbA1c, açlık glukozu ve trigliserit verilerine dayalı bir bağlam sunabilir. Bu, kullanıcının doktorla görüşmeden önce daha net sorular sormasına yardımcı olabilir.
Ancak tıbbi bağlamın varlığı, karar verme otoriteyi de taşıyormuş izlenimi yaratıyor. OpenAI'nin verilerin model eğitimi için kullanılmadığını belirtmesi, şirket ve teknoloji politikası değiştikçe değerlendirilebilir—kullanıcılar, sağlık verilerinin gelecekteki model geliştirmelerinde, anonimleştirilerek veya agregasyon yoluyla kullanılıp kullanılmayacağını bilemez.
Daha büyük risk, kullanıcının tıbbi verilere sahip bir ChatGPT'yi yetkili bir danışman gibi algılamasıdır. Kullanıcı, aracın verilerini okuduğunu gördükçe, "bu sonuçlar normal mi?" veya "bu ilacı ne zaman bırakabilirim?" sorularına verilen yanıtı, hekimden aldığı yanıtla eşdeğer tutuyor olabilir. Oysa model, yan etkileri, ilaç etkileşimlerini, hasta geçmişini, sosyal belirleyicileri ve klinik yargıyı bir hekimin bütünlüğünde değerlendiremez.
Florida davası: Acil durumda %99 doğruluk ne zaman başarısız oluyor
Gerçek hayatta kullanıcı, "göğsümde ağrı var ama aşırı değil, acile gitmeli miyim?" gibi muğlak ifadelerle sorar. ChatGPT bu durumda hangi cevabı veriyor? Kullanıcı, "akciğer embolisi" diye düşünmüyorsa, modelin doğru takip soruları sorması ve kullanıcıyı doğru yönlendirmesi gerekiyor.
Bir Florida sakininin OpenAI'ye açtığı dava bu noktada devreye giriyor: Hasta, göğsündeki ağrıyla ilgili ChatGPT'ye sorduğunda "son derece tehlikeli tıbbi tavsiyeler" aldığını ve bunun akciğer embolisi tanısını geciktirdiğini iddia ediyor. Dava detayları henüz tam olarak açıklanmadığı için ChatGPT'nin tam olarak ne tavsiye ettiğini bilmiyoruz—ancak iddia, modelin "acil durumda %99 doğru tavsiye veriyor" iddiasını doğrudan test ediyor.
Akciğer embolisi gibi kritik durumlar, belirsiz semptomlarla başlar ve hızlı tanı gerektirir. Eğer model, kullanıcıyı "bekle gör" yerine "hemen acile git" diye yönlendirmediyse, sonuç telafisi olmayan bir gecikme olabilir.
Yasal sorumluluk ve düzenleme boşluğu
ChatGPT, kullanıcıya "ben bir sağlık hizmeti sunucusu değilim" uyarısı göstererek yasal sorumluluğu azaltmayı hedefliyor. Ancak bu uyarının, kullanıcı davranışını değiştirip değiştirmediği şüpheli. Kullanıcı, arayüzde görünür bir uyarı okusa bile, hemen sonraki cümlede modelin kendisine "bu ilacı kullanabilirsin" dediğinde, o uyarıyı görmezden gelebilir.
ABD'de tıbbi yazılımlar FDA'nın düzenlemesine tabi olabilir, ancak ChatGPT "genel amaçlı dil modeli" olarak konumlandığı için şu an doğrudan tıbbi cihaz düzenlemesine girmiyor. OpenAI'nin Health in ChatGPT özelliği de "karar destek aracı" olarak tanımlanmıyor—bu, şirketin düzenleyici boşluktan yararlanarak yayılım yaptığı anlamına geliyor.
Florida davası, bu boşluğu kapatma tartışmasını başlatabilir. Eğer mahkeme, ChatGPT'nin tıbbi tavsiye verdiğini ve kullanıcıyı yanlış yönlendirerek zarar verdiğini kabul ederse, OpenAI'nin sorumluluğu gündeme gelir. Alternatif olarak, mahkeme kullanıcının "aracı kendi sorumluluğunda kullandığını" öne sürebilir—bu durumda benzer vakalar engellenemez hale gelir.
Avrupa'da yapay zeka düzenlemesi (AI Act), yüksek riskli yapay zeka sistemlerini tanımlıyor ve sağlık alanını öncelikli risk kategorisine alıyor. ChatGPT'nin Health özelliği AB'de sunulursa, daha katı denetim, şeffaflık ve hesap verebilirlik talepleriyle karşılaşabilir. Türkiye'de ise henüz bu alanda sektöre özel düzenleme yok; yapay zekanın sağlıkta kullanımı Sağlık Bakanlığı'nın dijital sağlık yönetmeliği çerçevesinde dolaylı olarak ele alınıyor, ancak ChatGPT gibi tüketici odaklı araçların nasıl denetleneceği belirsiz.
Türkiye'de risk: KVKK ihlali ve yanlış bilgi bağımlılığı
Health in ChatGPT şu an sadece ABD'de aktif. Türkiye'de Apple Health veya Epic gibi entegrasyonlar henüz sunulmadı. Ancak Türk kullanıcılar, ChatGPT'yi sağlık soruları için zaten yoğun olarak kullanıyor—genel bilgi almak, ilaç yan etkilerini sorgulamak, tahlil sonuçlarını yorumlatmak için modelden yardım alıyorlar.
Türk kullanıcılar, ChatGPT'ye muayene notlarını, reçeteleri veya tahlil görseli yükleyerek "bu ne demek?" diye soruyor. Oysa OpenAI'nin veri kullanım politikası, yüklenmiş belgelerin model eğitiminde kullanılmayacağını belirtse de, bu verileri ChatGPT'ye yüklemek Kişisel Verileri Koruma Kanunu (KVKK) kapsamındaki kişisel sağlık verilerinin korumasını aşıyor. Kullanıcılar, veri güvenliği veya yasal sorumluluk konusunda çoğu zaman farkındalık düşük olup, verilerini denetlemeyen bir yapay zeka sistemine teslim edebiliyorlar. Bu durum, hem OpenAI'nin yükümlülüğü hem de kullanıcı sorumluluğu açısından hukuki boşluğa işaret ediyor.
