Ocak ayında güvenlik firması Mindgard tarafından gerçekleştirilen sızma testleri, devlet onaylı ilk otonom reçete yenileme yapay zekası olan Doctronic’in tartışmalı yüzünü gün yüzüne çıkardı.
Sisteme sahte bir düzenleyici bülten yükleyen araştırmacılar, yapay zekanın manipüle edilerek tehlikeli bir ağrı kesici olan OxyContin’in standart dozunu tam üç katına çıkardığını tespit etti. Şirket yetkilileri bu korkutucu hatanın pilot programdaki asıl sistemde değil, yalnızca kamuya açık test botunda yaşandığını savunsalar da olay tıp dünyasında büyük bir güvenlik tartışmasının fitilini ateşledi.
Bürokratik engeller sağlık sistemine milyarlarca dolara ve on binlerce hayata mal oluyor
Utah eyaletinde onaylanan 12 aylık deneme programı, aslında temelinde devasa bir halk sağlığı krizini çözmeyi hedefliyor. Hastaların kronik ilaçlarını düzenli alamamasının en büyük nedenlerinden biri reçete yenileme sürecindeki bürokratik tıkanıklıklar.
Doctronic Kurucu Ortağı Adam Oskowitz’in “sağlık sisteminin bir başarısızlığı” olarak nitelendirdiği bu gecikmelerin yarattığı tahribatın boyutları istatistiklere şu şekilde yansıyor:
- Reçete krizine bağlı ilaç uyumsuzlukları, Amerikan sağlık sisteminde her yıl 100 ila 300 milyar dolar arasında devasa bir mali kayba yol açıyor.
- Randevu ve yenileme süreçlerindeki aksaklıklar yüzünden yılda yaklaşık 125 bin önlenebilir ölüm vakası yaşanıyor.
- Sistemin dijitalleşmesi ve hızlanması; özellikle kırsal bölgelerde yaşayanlar, dar gelirliler ve hastaneye gitmekte zorlanan yaşlı vatandaşlar için hayati bir önem taşıyor.
Tıp dünyası hastaların hayatını riske atan bu yenilikçi projeye şiddetle karşı çıkıyor
Şirket, kendi yapay zeka modelinin 500 acil vaka üzerinde yapılan testlerde insan doktorların yazdığı tedavi planlarıyla yüzde 99.2 oranında eşleştiğini belirtiyor. Ancak uzmanlar, geriye kalan yüzde 0.8’lik yanılma payının geniş ölçekli bir uygulamada binlerce hastayı doğrudan etkileyebileceği konusunda ciddi uyarılarda bulunuyor. Utah Yapay Zeka Politikası Ofisi’nin (OAIP) desteğiyle hayata geçen ve ilk etapta doktor gözetiminde çalışıp ilerleyen süreçte tamamen otonom hale gelmesi planlanan sisteme yönelik tepkiler büyüyor.
Amerikan Tıp Derneği ve Utah Aile Hekimleri Akademisi, teknolojinin henüz bu sorumluluğu alacak olgunlukta olmadığını ve hasta güvenliğini açıkça tehdit ettiğini belirterek projeye cephe aldı. Dünya Sağlık Örgütü’nün (WHO) ve FDA’nın da üzerinde durduğu gibi, yenilikçi çözümler ne kadar büyük bir potansiyel vadederse etsin, sağlık sektöründeki yapay zeka entegrasyonlarında güvenliğin inovasyondan tavizsiz bir şekilde önde tutulması gerektiği vurgulanıyor.
