Robotlar Önyargılı Olmayı Öğreniyor

0
98
robotlar önyargılı olmayı öğreniyor
robotlar önyargılı olabilir mi, credit: PaulM

Robotlar önyargılı olmayı öğreniyor. Yapılan yeni bir araştırma robotlar önyargılı olabilir mi sorusunun yanıtının arıyor.

Robotlar Önyargılı Olabilir mi?

Yapılan yeni bir araştırma diğer insanlara karşı ön yargı geliştirmenin üst düzey bilişsel yetenek gerektirmediğini ve yapay zekalı makineler tarafından da kolaylıkla sergilenebilecek bir davranış olduğunu ortaya koydu.

Cardiff Üniversitesi ve MIT’ den Bilgisayar bilimleri ve psikoloji uzmanları otonom makinelerin; bu davranışı sadece birbirleri aracılığı ile tanımlama, kopyalama ve öğrenme yoluyla kazanabildiklerini gösterdiler.

Önyargı; belli bir kişi ya da gurup hakkında bir fikir oluşturmak ya da basmakalıp bir inanış oluşturmak için insan kavrayışı gerektiren, insanlara has özel bir fenomen gibi gözükebilir. Ancak bazı bilgisayar algoritmaları; kamusal kayıtlar ve insanlar tarafından üretilen diğer bilgileri temel alarak ırkçılık ve cinsiyet ayrımı gibi birçok konuda çoktan önyargı davranışını göstermiş durumdadır. Yapılan bu yeni çalışma, yapay zekanın kendi kendine önyargılar geliştirme ihtimalini göstermektedir.

robotlar önyargılı olmayı öğreniyor
robotlar önyargılı olabilir mi, credit: Amigos3D

The Journal Scientific’ de yayınlanan yeni bulgular; benzer bireysel önyargıların ya da sanal ajanların bilgisayar simülasyonları da bir gurup oluşturarak birbirleri ile etkileşim haline geçebildiklerini gösteriyor. Bir uzlaşma oyununda, her bir birey bir karar alıyor. Aldıkları karar, bağış yapacakları kişinin kendi gurupları içinden mi yoksa farklı bir guruptan mı seçileceğiyle ilgili. Bunu yaparken yabancılara karşı geliştirdikleri önyargılarının derecesini gösteren kendi bağış stratejileri kadar kişisel ünlerini de dikkate alıyorlar.

Oyun başladığında, bir süper bilgisayar binler simülasyon puan kazanıyor, her bir birey, kendi gurupları ya da toplam popülasyon içinde diğerlerini kopyalayarak yeni stratejiler öğrenmeye başlıyor.

Robotlar Önyargılı Olmayı Öğreniyor

Cardiff Üniversitesi Suç ve Güvenlik Araştırmaları ile Bilgisayar ve Enformatik Bilimlerinden Profesör Roger Whitaker önyargının özellikleriyle ilgili şu açıklamayı yapıyor: “Bu simülasyonları binlerce kez, tekrar ve tekrar uygulayarak, önyargı hakkında nasıl geliştiği, nasıl teşvik edildiği ve ket vurulduğuyla ilgili oldukça derin bir fikre sahip olduk. Simulasyonlarımız,  bize önyargının doğanın etkili bir gücü olduğunu ve değişim geçirdiğini gösterdi. Araştırma, önyargının sanal popülasyonlarda kolaylıkla teşvik edilebildiğini ve diğerleriyle iletişim haline daha büyük kitlelere zarar verebileceğini ortaya koyuyor.

Önyargı guruplarından, parçalanmış ve bölünmüş bir popülasyon içinde korunmaya çalışmak ise, istemeden de olsa bireysel oluşumlarla daha fazla önyargı gurupları oluşturmasına sebep olabilmektedir. Bu çeşit geniş yayılımlı bir önyargıyı da tersine çevirmek oldukça güç bir iştir.”

Elde edilen bulgular kişisel önyargı düzeylerinde değişiklikler olduğunu gösteriyor.  Bu değişiklik ya da güncelleme diyelim, tercihen kısa dönemde daha yüksek puan alanları kopyalayarak yapılıyor ki bu da ileri düzeyde bilişsel bir yetenek gerektiren bir davranış değildir.

robotlar önyargılı olmayı öğreniyor
robotlar önyargılı olabilir mi, credit: geralt

Profesör Whitaker açıklamasına şu şekilde devam ediyor: “Otonom makinelerin, gelecekte diğer bireyleri kopyalayarak ve farklılaştırarak tanımlayabilmesi olası gözüküyor. Bu durum insan popülasyonu içerisinde gördüğümüz önyargısal fenomene oldukça benzemektedir. Yapay zeka gelişmelerinin birçoğunda otonom ve kendi kendini kontrol yeteneği görmekteyiz. Bunun anlamı; bu araçların davranışları da etraflarındakilerle belirlenecek. Cihazlarımız ve nesnelerin interneti buna iki örnek olarak gösterilebilir. Yaptığımız çalışma bize teorik bir bakış vermektedir. Simüle ettiğimiz birimler düzenli aralıklarla bazı kaynaklar için diğerlerine başvurmaktadır.”

Çalışma sonucunda elde edilen daha ilginç bir bulgu ise; daha belirgin alt popülasyonların mevcut bulunduğu belirli koşullar altında, önyargının daha zor oluştuğunun ortaya çıkması oldu.

Profesör Whitaker: “ Daha fazla alt popülasyon ile, önyargısal olmayan guruplar kötüye kullanılmadan işbirliği içinde çalışabilir. Bu aynı zamanda azınlık olma durumlarını ortadan kaldırarak, önyargının ortaya çıkmasına zemin oluşturacak durumları da yok edebilir. Bununla beraber; özel birimlerin, kendi gurupları dışındakilerle etkileşimlere karşın daha yüksek bir eğilim gösterecekleri durumlara ihtiyaç duyulmaktadır.

Robotikpedia, gelecekte görüşmek üzere…

Kaynak: Cardiff University. “Could AI robots develop prejudice on their own?.” ScienceDaily. ScienceDaily, 6 September 2018 <www.sciencedaily.com/releases/2018/09/180906123325.htm>

CEVAP VER

Lütfen yorumunuzu girin
Please enter your name here

This site uses Akismet to reduce spam. Learn how your comment data is processed.