Otonom makinelerde etik davranışları geliştirecek ilkesel tabanlı bir paradigma

0
104
otonom robotlarda etik
otonom makinelerde etik, Credit: Anderson, Anderson & Berenz tablo

Otonom makinelerde etik davranışları geliştirecek ilkesel tabanlı bir paradigma

Hartford Üniversitesi, Connecticut Üniversitesi ve Max Planck Zeka Sistemleri Enstitüsünden bir araya gelen bir grup araştırmacı, otonom makinelerde etik davranışları sağlama yolunda örnek olay destekli, etik tabanlı davranışsal bir paradigma öne sürdü.  IEEE’ de yayınlanan araştırma, otonom sistemlerin önemli ahlaki davranışlarının, etik uzmanlarının buluştuğu ortak kararlarla belirlenen, açık ve net etik kurallarca rehberlik edilmesi gerektiğini açıklıyor.

“Bu yıl, 1968 yılı yapımı the movie 2001: A space Odyssey filminin 50.yıl dönümünü geçirirken” Araştırmanın yazarlarından Micheal anderson: “ Yüzyılımızın dönüm noktasında The Making of 2001: A Space Odyssey okurken, Odyssey’ daki HAL karakterinin yeteneklerinin ( Odyssey serisindeki gemideki tüm sistemleri kontrol edebilen, duygulara sahip süper gelişmiş, kırmızı bir göz görünümündeki bilgisayar karakterinin adı) artık bilim kurgu aurasından çıktığını ve artık anlaşılmanın eşiğinde olduğu gerçeğiyle sarsıldım. Beni bu kadar etkilemesinin bir nedeni de çok yanlış bir etiğe sahip olmalarıydı: Eğer HAL ile karşılaşmak üzereysek, öyleyse doğru etik kuralları bir an önce oluşturma vakti gelmiş demektir.”

Anderson ve meslektaşları, makine etiği isimli bir projenin parçası olarak, otonom özellikteki makinelere entegre edilebilecek etik ilkelerin keşfedilmesi üzerine çalışmalar yapıyorlar. Çalışmayı sürdüren araştırmacılar, yapay zeka davranışlarının belirli etik kurallar rehberliğinde geliştirilmesi gerektiğinine inanıyorlar.

Araştırmacılara göre; etik uzmanlarının ortak kararıyla oluşturulan bu etik kurallar, bu çeşit karmaşık ve dinamik sistemlerin yalnızca etik davranışlarını kontrol etmekle kalmamalı. Aynı zaman da makine davranışlarının yargılanmasına da bir temel oluşturmalıdır.

otonom makinelerde etik
otonom makinelerde etik, Credit: Anderson, Anderson & Berenz tablo

Araştırmacılar bu yönde, genişletilebilir, genel örneklerle desteklenen CPB isimli bir etik ilkeler tabanlı paradigma (yaklaşım) geliştirdiler. Bu paradigmada, otonom bir sistem, etik uzmanlarının yapılması gereken doğru davranış üzerinde daha önceden üzerinde tartışıp, fikir birliğine ulaştığı durumlardan çıkarılmış bir ilkeyi kullanarak bir sonraki eyleminin ne olması gerektiğine karar veriyor.

Makine öğrenmesinde ahlaki ikilemler

Anderson geliştirdikleri yaklaşımı şu şekilde açılıyor: “CPB, etik olarak tercih edilmesi gereken seçeneğin net olduğu ahlaki ikilemler içeren belirli durumların, ahlaki özelliklerinden etik bir tercih kuralı çıkarabilmek için makine öğrenmesini kullanıyor. Bir sistem, bu prensibi gerekli olduğu herhangi bir an, tercih edilmesi gereken eyleme karar verebilmek için kullanabilir.”

otonom makinelerde etik
otonom makinelerde etik, Credit: Anderson, Anderson & Berenz tablo

Geliştirilen paradigma, otonom makinelerde etik prensipleri çok açık bir şekilde temsil edebiliyor. Öyle ki bu şekilde otonom sistemlere ait eylemlerin sorgulanmasına da yardımcı olabiliyor. Diğer bir deyişle CPB, bir robotun niçin belirli bir şekilde davranmayı seçtiğinin mantıklı bir açıklamasını sunarak, davranışlarının daha iyi anlaşılmasına yardımcı olabiliyor.

Ahlaki ilkelerde öncelik

Anderson: “Bir robotun, ahlak kurallarının devreye girmesi gereken bir durumu nasıl anlayabileceğini çözmeye çalıştığımızda, karşımıza hep şu şekilde bir durum çıktığını fark ettik. Buna göre; ahlak kuralları sadece basit bir şekilde doğru olmayan eylemleri seçmekle ilgili değildi. Ahlak kuralları; karşılaşılan durumdaki etik olarak tercih edilebilen tüm eylemlemlerin seçimini ilgilendiriyordu. Böyle bir durumda, CPB, değişen duruma ya da zamana aldırmadan etik olarak seçilmesi uygun eylemlere karar verebilecek bir duruş sergiliyor.”

otonom makinelerde etik
otonom makinelerde etik, Credit: Anderson, Anderson & Berenz tablo

Araştırmanın en büyük amacı, yaşlı bakımı alanındaki robotlara rehberlik edebilecek prensipleri tanımlayarak, bu alandaki etik olarak doğru özellikleri ve görevleri belirlemekti. Ancak aynı paradigma diğer alanlarda çalışan robotlara da başarılı bir şekilde uygulanabilir.

otonom makinelerde etik
otonom makinelerde etik, HAL, credit: wikipedia

Anderson: “Değişken durumlara bağlı olarak bir görevin diğeriyle çelişebileceği yerlerde, ahlaki kurallara öncelik verebilecek bir yaklaşımı destekliyoruz. Başka bir deyişle Asimov yasalarında söylendiği gibi katı kuralları olan bir hiyerarşi yok. Gelecekte, özellik/görev temsili şemalarımızın, otonom makinelerde etik için bütün ahlaki çelişkileri kapsayacağına inanıyoruz.”

Kaynak: techxplore “A principle-based paradigm to foster ethical behavior in autonomous machines” Yazar: Ingrid Fadelli  <https://techxplore.com/news/2018-10-principle-based-paradigm-foster-ethical-behavior.html>

CEVAP VER

Lütfen yorumunuzu girin
Please enter your name here

This site uses Akismet to reduce spam. Learn how your comment data is processed.