ChatGPT‘nin geliştiricisi OpenAI, yapay zeka tarafından oluşturulan içerik ile insan tarafından oluşturulan metni birbirinden ayırmak için yeni bir aracı olan OpenAI Text Classifier’ı yayınladı.
OpenAI Text Classifier nedir?
Yapay zeka tarafından oluşturulan içerikleri yüzde 100 doğrulukla tespit etmek imkansız olsa da OpenAI, yeni aracının insanların yapay zeka tarafından üretilen içerikleri yazdığına dair yanlış iddiaları azaltmaya yardımcı olabileceğine inanıyor.
Şirket yaptığı bir duyuruda, yeni yapay zeka Text Classifier’ın (Metin Sıfırlandırıcısı) otomatik yanlış bilgilendirme kampanyaları yürütme, akademik sahtekarlık için yapay zeka araçlarını kullanma ve sohbet robotlarıyla insanları taklit etme gibi durumları sınırlayabileceğini söylüyor.
Araç, bir dizi İngilizce metin üzerinde test edildi ve metnin yapay zeka tarafından yazılıp yazılmadığını yüzde 26 oranında doğru bir şekilde söyleyebildi. Ancak aynı zamanda insan tarafından yazılmış metnin yapay zeka tarafından yüzde 9 oranında yazıldığına inandı.
OpenAI, aracının metin ne kadar uzun olursa o kadar iyi çalıştığını söylüyor, bu da bir testi çalıştırmak için en az 1000 karakter gerektirmesinin nedeni sayılabilir.
OpenAI Text Classifier’ın diğer sınırlamaları arasında şunlar yer alıyor:
- Hem yapay zeka tarafından oluşturulmuş hem de insan tarafından yazılmış içerikleri yanlış sınıflandırabilir
- Yapay zeka tarafından oluşturulan yazı, küçük düzenlemelerle bu özellikten kaçabilir.
- Öncelikli olarak yetişkinler tarafından yazılan İngilizce içerik üzerinde eğitildiği için çocuklar tarafından yazılan metinlerde ve İngilizce olmayan metinlerde bazı şeyleri yanlış anlayabilir.
Bunu göz önünde bulundurarak, nasıl performans gösterdiğine bakalım.
OpenAI Text Classifier nasıl kullanılır?
- OpenAI Text Classifier hakkında hazırlanan blog sayfasına gidin.
- Ekranı aşağı doğru kaydırın ve “Try the Classifier” seçeneğine tıklayın.
- Hesabınıza giriş yapın ve kontrol etmek istediğiniz metni alana yapıştırıp “Submit” seçeneğine tıklayın.
Sonuçlar aşağıdakiler arasında değişkenlik gösterecek:
- Very unlikely
- Unlikely
- Unclear if it is
- Possibly
- Likely
OpenAI Jukebox: Müzik endüstrisini nasıl değiştirecek?
OpenAI Text Classifier Sıkça Sorulan Sorular
OpenAI, sayfanın alt kısmında bulunan Sıkça Sorulan Sorular (FAQ) bölümünde;
“Text Classifier’ı kullanım amacımız, insan tarafından yazılmış ve yapay zeka tarafından oluşturulmuş içerik arasındaki ayrım hakkında konuşmayı teşvik etmektir. Sonuçlar yardımcı olabilir, ancak bir içeriğin yapay zeka ile oluşturulup oluşturulmadığına karar verirken tek kanıt olmamalı. Araç, çeşitli kaynaklardan alınan insan tarafından yazılmış metinler üzerinde eğitildi ve bu metinler her tür insan tarafından (yaşlı, çocuk, yetişkin) vb. yazılmış metni temsil etmeyebilir” şeklinde açıklama yaptı.
OpenAI, aracın yapay zeka ve insan tarafından yazılan içeriklerin bir kombinasyonunu içeren içeriği tespit etmek için kamsamlı bir şekilde test edilmediğini de ekliyor.
Sonuç olarak Text Classifier, potansiyel olarak yapay zeka tarafından oluşturulan içerikleri anlayabilmek için değerli bir araç olabilir.
