Yapay zeka şirketi OpenAI, çocukların istismarına ilişkin çevrim içi görüntüleri, yapay zeka tarafından üretilenler de dahil olmak üzere, tespit edebilen "yeni bir sınıflandırma aracı" geliştirdiğini duyurdu.
Şirketin internet sitesinde yayımlanan açıklamaya göre, yeni görüntü sınıflandırma aracı, çocukların istismarını içeren ve daha önce tespit edilmemiş görselleri belirlemek için görsel işaretleri analiz ediyor.
Araç, inceleme ekiplerine hangi görüntülerin öncelikli olarak değerlendirilmesi gerektiğini gösteren puanlar sunuyor.
OpenAI, yapay zeka tarafından üretilmiş çevrim içi çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirttiği sistemi, onaylanmış kuruluşların kullanımına ücretsiz sunacak.
ChatGPT'de zararlı davranışlara yönelik uyarılar devreye girecek
OpenAI, mevcut güvenlik önlemlerine ek olarak ChatGPT'de çocuk istismarı içeriği arama girişimlerini kesintiye uğratacak yeni uyarı mekanizmaları uygulayacağını duyurdu.
Bu kapsamda kullanıcıya, çocuklara yönelik istismar sayılabilecek içeriklerin yapay zeka tarafından üretilmiş olsa dahi zarara yol açtığı açıklanacak
İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT'ye erişimi 24 saatliğine durdurulacak. Bu süreçte zararlı davranışları sonlandırmaya yönelik uzman desteği de sunulacak.
İhlallerin tekrarlanması halinde daha uzun süreli kısıtlamalar uygulanabilecek, hesabın kapatılması veya durumun yetkililere bildirilmesi söz konusu olabilecek.
Şirket, bu yaklaşımı çocukların istismarını önlemeye yönelik çalışmalar yürüten kuruluşlar ve akademik danışmanların katkısıyla geliştirdiğini bildirdi. ???????
TeknolojiAnkaraGüncel