Facebook, Yapay Zeka Botuna Karşı Uyardı!

Facebook yeni yapay zekasına güvenilmemesi gerektiği konusunda uyarıyor. Çünkü Meta'nın geliştirdiği yeni yapay zeka, yalan söyleyebilir ve hakaret edebilir.

Meta, BlenderBot 3 sohbet botunu duyurdu. Şirket, geliştirdiği yapay zekanın neredeyse her konu hakkında konuşabileceğini ve konuşmalardan öğrenebileceğini söylüyor. Ancak Meta, kullanıcıları chatbot hakkında uyarmayı da ihmal etmiyor.

Meta’nın BlenderBot 3 sohbet robotu, ABD’deki kullanıcıların denemesi için halka açıldı. Şirket, yapay zekasının internette arama yapabileceğini ve neredeyse her konu hakkında sohbet edebileceğini iddia ediyor. Hatta kendini geliştirme ve insanlarla konuşarak daha iyi iletişim kurmayı öğrenme yeteneği bile verildi.

GÜVENLİ OLMAYABİLİR

Yine de tüm çalışmalara rağmen geliştirilen yapay zekanın dilinde sorunlar olduğu tespit edildi. Facebook, yapay zeka botunu duyurduğu blog yazısında şu sözlere yer veriyor: “Tüm konuşma amaçlı yapay zeka sohbet botlarının bazen güvenli olmayan, önyargılı veya saldırgan açıklamaları taklit ettiği ve ürettiği bilindiğinden, büyük ölçekli çalışmalar yürüttük, ortak çalıştaylar düzenledik ve BlenderBot 3 için güvenlik önlemleri oluşturmak için yeni teknikler geliştirdik. Bu çalışmaya rağmen, BlenderBot hala kaba veya saldırgan yorumlar yapabiliyor, bu nedenle gelecekteki sohbet botlarını daha iyi hale getirmeye yardımcı olacak geri bildirimler topluyoruz.”

Meta bot ile ilgili kullanıcılarını uyarırken gerçek bilgi vermeyebileceğini de belirtiyor: “Kullanıcılar, bu tür sorunları azaltmak için elimizden gelenin en iyisini yapmamıza rağmen, botun uygunsuz, kaba veya doğru olmayan veya çelişkili açıklamalarda bulunabileceğini bilmeli. Bot’un yorumları Meta’nın bir şirket olarak görüşlerini temsil etmez ve tıbbi, yasal veya finansal tavsiye dahil gerçek bilgiler için güvenilmemeli.”

SORUNU GİDERMEYE ÇALIŞIYOR

Şirket; botun küfür, hakaret içeren diller veya kültürel açıdan duyarsız ifadeler kullanmasını en aza indirmek için çalıştığını sözlerine ekledi. Kullanıcılar bu yorumları bildirme ve beğenmeme hakkına sahip.

İlk defa bir sohbet botu vereceği yanıtlar konusunda taraflı bir tavır sergilemiyor. Chatbot’lar internette herkese açık veriler üzerinden eğitildikleri için davranışları internetteki içeriği yansıtabilir. Ve çevrimiçi pek çok uygunsuz, aşağılayıcı içerik var; bu nedenle bir yapay zekayı bu içeriği kullanarak etkileşimde bulunmak için eğitmek, bazı sorunlara neden olabilir.

Daha önce Google’un da sorunlu bir yapay zekaya sahip olduğu bir yazılım mühendisi tarafından iddia edilmiş hatta yapay zekanın ırkçı ve ayrımcı bir dile sahip olduğunu belirtmişti.