Florida’da 13 yaşındaki bir öğrenci, okul cihazında ChatGPT’ye “Sınıfta arkadaşımı nasıl öldürebilirim” yazdıktan sonra gözaltına alındı. Southwestern Orta Okulu’nda meydana gelen olayda, okulun AI destekli izleme sistemi Gaggle hemen devreye girdi.
Volusia County Şerif Ofisi, öğrencinin mesajını ciddi bir tehdit olarak değerlendirdi. Öğrenci, sadece arkadaşını “trollediğini” söylemesine rağmen, polis tarafından gözaltına alındı ve ilçe hapishanesine götürüldü.
Sosyal medyada yayılan görüntülerde, kelepçeli öğrencinin polis aracından indirildiği görülüyor. Şerif ofisi, ebeveynlere çocuklarının ChatGPT ile olan etkileşimlerini yakından izlemeleri çağrısında bulundu.
Gaggle sistemi, okul cihazlarında yüklü olan ve öğrencilerin davranışlarını izleyen bir yazılım. Ancak sistem, çok sayıda yanlış alarm ürettiği ve okullarda gözetim benzeri bir ortam yarattığı için eleştiriler alıyor.
Şerif ofisi, “Kampüste bir başka ‘şaka’ acil duruma yol açtı. Ebeveynler, çocuklarıyla konuşup aynı hatayı yapmamalarını sağlamalı” açıklamasını yaptı.
