Yapay zeka alanının önde gelen şirketlerinden Anthropic, Claude Opus 4 ve 4.1 modellerine kullanıcılarla olan konuşmaları sonlandırma yeteneği eklediğini duyurdu. Bu yeni özellik, Anthropic’in yapay zeka refahı üzerine yürüttüğü araştırma programının bir parçası olarak tanımlanıyor.
Şirket, bu özelliğin “nadiren, son derece zararlı veya kötü niyetli kullanıcı etkileşimlerinde” kullanılacağını belirtti. Örnek olarak, çocuk istismarı içeren cinsel içerik talepleri veya büyük çaplı şiddet ya da terör eylemlerini mümkün kılacak bilgi edinme girişimleri gibi durumlar gösterildi. Claude modelleri, bu tür durumlarda, yönlendirme girişimlerinin başarısız olması ve verimli bir etkileşim umudunun kalmaması halinde “son çare” olarak konuşmayı sonlandıracak.
Bir konuşma Claude tarafından sonlandırıldığında, kullanıcılar o sohbet içinde yeni mesaj gönderemeyecek ancak hemen yeni bir konuşma başlatabilecekler. Anthropic, bu durumun diğer sohbetleri etkilemeyeceğini ve kullanıcıların önceki mesajları düzenleyerek veya yeniden deneyerek farklı bir sohbet yolu izleyebileceğini de ekledi.
Şirket, yapay zeka modellerini insanlaştırma fikri tartışmalı olsa da, “potansiyel olarak rahatsız edici bir etkileşimden” çıkabilme yeteneğinin, yapay zeka refahı için riskleri yönetmenin düşük maliyetli bir yolu olduğunu ifade etti. Anthropic bu özelliği hala test ettiğini ve kullanıcı geri bildirimlerini teşvik ettiğini belirtti. Çoğu kullanıcının Claude’un konuşmayı kesmesi gibi bir durumla karşılaşmayacağı, zira bu özelliğin “aşırı uç durumlar” için ayrıldığı vurgulandı.
