Facebook, yapay zeka botuna karşı uyardı: Palavra söyleyebilir ve hakaret edebilir

Facebook yeni yapay zekasına güvenilmemesi gerektiği konusunda uyarıyor. Zira Meta’nın geliştirdiği yeni yapay zeka, palavra söyleyebilir ve hakaret edebilir.

Meta, BlenderBot 3 sohbet botunu duyurdu. Şirket, geliştirdiği yapay zekanın neredeyse her mevzu hakkında konuşabileceğini ve konuşmalardan öğrenebileceğini söylüyor. Fakat Meta, kullanıcıları chatbot hakkında uyarmayı da ihmal etmiyor.

Meta’nın BlenderBot 3 sohbet robotu, ABD’deki kullanıcıların denemesi için halka açıldı. Şirket, yapay zekasının internette arama yapabileceğini ve neredeyse her mevzu hakkında sohbet edebileceğini argüman ediyor. Hatta kendini geliştirme ve beşerlerle konuşarak daha yeterli bağlantı kurmayı öğrenme yeteneği bile verildi.

GÜVENLİ OLMAYABİLİR

Yine de tüm çalışmalara karşın geliştirilen yapay zekanın lisanında meseleler olduğu tespit edildi. Facebook, yapay zeka botunu duyurduğu blog yazısında şu kelamlara yer veriyor: “Tüm konuşma emelli yapay zeka sohbet botlarının bazen inançlı olmayan, önyargılı yahut saldırgan açıklamaları taklit ettiği ve ürettiği bilindiğinden, büyük ölçekli çalışmalar yürüttük, ortak çalıştaylar düzenledik ve BlenderBot 3 için güvenlik tedbirleri oluşturmak için yeni teknikler geliştirdik. Bu çalışmaya karşın, BlenderBot hala kaba yahut saldırgan yorumlar yapabiliyor, bu nedenle gelecekteki sohbet botlarını daha güzel hale getirmeye yardımcı olacak geri bildirimler topluyoruz.”

Meta bot ile ilgili kullanıcılarını uyarırken gerçek bilgi vermeyebileceğini de belirtiyor: “Kullanıcılar, bu çeşit problemleri azaltmak için elimizden gelenin en düzgününü yapmamıza karşın, botun uygunsuz, kaba yahut gerçek olmayan yahut çelişkili açıklamalarda bulunabileceğini bilmeli. Bot’un yorumları Meta’nın bir şirket olarak görüşlerini temsil etmez ve tıbbi, yasal yahut finansal tavsiye dahil gerçek bilgiler için güvenilmemeli.”

SORUNU GİDERMEYE ÇALIŞIYOR

Şirket; botun küfür, hakaret içeren lisanlar yahut kültürel açıdan duyarsız sözler kullanmasını en aza indirmek için çalıştığını kelamlarına ekledi. Kullanıcılar bu yorumları bildirme ve beğenmeme hakkına sahip.

İlk kez bir sohbet botu vereceği karşılıklar konusunda taraflı bir tutum sergilemiyor. Chatbot’lar internette herkese açık datalar üzerinden eğitildikleri için davranışları internetteki içeriği yansıtabilir. Ve çevrimiçi pek çok uygunsuz, aşağılayıcı içerik var; bu nedenle bir yapay zekayı bu içeriği kullanarak etkileşimde bulunmak için eğitmek, kimi problemlere neden olabilir.

Daha evvel Google’un da sıkıntılı bir yapay zekaya sahip olduğu bir yazılım mühendisi tarafından sav edilmiş hatta yapay zekanın ırkçı ve ayrımcı bir lisana sahip olduğunu belirtmişti.

Yorum yapın