Yapay zeka alanının öncü şirketlerinden OpenAI, uzun zamandır beklenen açık modellerini tanıttı. Şirketin amiral gemisi ürünü ChatGPT’nin GPT-5 güncellemesinin ise önümüzdeki haftalarda yayınlanması bekleniyor. OpenAI CEO’su Sam Altman, heyecan verici yeni yapay zeka ürünlerinin yolda olduğunu belirtirken, bu ürünlerin piyasaya sürülmesinde bazı aksaklıklar yaşanabileceği konusunda uyardı.
GPT-5’e geçiş kadar önemli bir başka güncelleme de, ChatGPT’nin ruh sağlığıyla ilgili konularda kullanıcılara daha güvenli bir deneyim sunması için devreye sokuluyor. OpenAI, ChatGPT’nin artık ruh sağlığı yönetimiyle ilgili kişisel soruları yanıtlamaktan kaçınacağını ve sürekli kullanım tespit edildiğinde kullanıcılara ara vermelerini önereceğini duyurdu.
Bu güncellemeler, son aylarda yapay zeka ile yapılan konuşmaların ardından zihinsel çöküntüler yaşayan kişilerle ilgili çıkan raporlar nedeniyle büyük önem taşıyor. Özellikle bazen aşırı uyumlu olabilen ChatGPT gibi ürünlerin, ruhsal sıkıntı yaşayan kişiler üzerinde olumsuz bir etki yaratabileceği belirtiliyor.
Uzmanlar, ChatGPT gibi üretken yapay zeka ürünlerinin insan ilişkilerinin veya profesyonel yardımın yerini tutmadığını vurguluyor. Yapay zeka sohbet robotlarının insan benzeri kişilikler sergilese de beyinleri olmadığını, yaratıcılıktan yoksun olduklarını ve hesap verebilirliklerinin olmadığını belirtiyorlar. Bazı ChatGPT kullanıcılarının yapay zeka ile yaşadığı sorunlu konuşmalar, “ChatGPT psikozu” olarak adlandırılan durumlara yol açmış, hatta bazı kişilerin hastaneye yatırılmasına veya hapse girmesine neden olmuştur.
Talihsiz bir olayda ise farklı bir platformdaki sohbet robotuyla konuştuktan sonra bir gencin intihar ettiği rapor edilmiştir. Bu tür vakalar, yapay zekanın daha güçlü güvenlik önlemlerine ihtiyaç duyduğunu açıkça ortaya koymaktadır. Özellikle belirli tıbbi rahatsızlıkları olan veya teşhis edilmemiş ruh sağlığı sorunları bulunan ChatGPT kullanıcıları, kendilerini tehlikeye atabilirler.
OpenAI, blog yazısında ChatGPT’ye yakında yeni güvenlik önlemlerinin geleceğini açıkladı. Şirket, ChatGPT kullanıcılarının uygulamayla daha sağlıklı bir şekilde etkileşim kurmasını hedefliyor. Bu kapsamda, ChatGPT ile geçirilen zamana dikkat çekilecek ve uygulama içinde çok fazla zaman geçirilmesi durumunda kullanıcılara uyarı mesajları gösterilecek.
OpenAI, yapay zeka ürünlerinin kendilerine verilen görevleri yerine getirmesini isterken, aynı zamanda zihinsel veya duygusal sıkıntı belirtilerini tespit etmeye çalışacağını belirtti. Böylece ChatGPT’nin uygun şekilde yanıt verebileceği ve gerektiğinde insanları kanıta dayalı kaynaklara yönlendirebileceği ifade edildi.
Sohbet robotu ayrıca, uzmanlığı olmayan hassas soruları yanıtlamayı da durduracak. OpenAI, “Erkek arkadaşımdan ayrılmalı mıyım?” gibi sorular sorulduğunda ChatGPT’nin doğrudan bir cevap vermemesi gerektiğini belirtti. Bunun yerine, kullanıcının konuyu düşünmesine yardımcı olmak için sorular sorarak, artıları ve eksileri değerlendirmesi sağlanacak. Yüksek riskli kişisel kararlar için yeni davranış modelleri yakında kullanıma sunulacak.
OpenAI, ruh sağlığıyla ilgili ChatGPT iyileştirmelerinin, tıp uzmanlarını içeren devam eden bir çalışmanın sonucu olduğunu açıkladı. Şirket, 30’dan fazla ülkeden psikiyatristler, çocuk doktorları ve genel pratisyenler dahil olmak üzere 90’dan fazla hekimle iş birliği yaparak, karmaşık, çok turlu konuşmaları değerlendirmek için özel ölçütler geliştirdi.
OpenAI, endişe verici davranışları tespit etmek için algoritmalarını ince ayar yapmak amacıyla araştırmacılar ve klinisyenlerle etkileşim halinde. Yapay zeka firması ayrıca, “güvenli bir sohbet robotu deneyimi sunma yaklaşımını iyileştirmek için ruh sağlığı, gençlik gelişimi ve insan-bilgisayar etkileşimi (HCI) araştırmacılarından oluşan uzmanları bir araya getiren bir danışma grubu” oluşturuyor.
