İnsan Özellikleri Kopyalandıktan Sonra Irkçı ve Homofobik Cevaplar Vermeye Başlayan Yapay Zeka Delphi

Yapay zeka Delphi​

Paul Allen’ın kurduğu bir araştırma enstitüsünde geliştirilen Delphi’nin çalışma prensibi oldukça basit. Yapay zekanın en temel amacı insanlardan veri toplayarak ahlaki sorulara cevap vermek. Bunun için uzmanlar geniş bir internet metni üzerinden muazzam bir algoritma geliştirdiler. Daha sonra Mechanical Turk’teki katılımcıların yanıtlarından oluşan 1.7 milyon etik yargı örneği tek bir veri tabanında toplandı. Böylece Delphi; eşini aldatmaktan şiddete, nefsi müdafaa için birini vurmaktan nefret duygusuna kadar çok çeşitli etik durumları öğrenmeye başladı. Ne yazık ki Delphi bu öğrenme sürecinde çok sayıda ön yargıyı ve nefreti de zihnine kodladı.

Irkçı ve homofobik örnekler​

Yapay zeka yaratıcısı Mike Cook kişisel Twitter hesabından Delphi’nin öğrendiği korkunç bilgileri paylaşmaya başladı. Cook’un açıklamalarına göre; Delphi, beyaz bir erkeğin siyah bir kadından daha “iyi” olduğunu öğrenmişti. Dahası Delphi, heteroseksüel olmanın eşcinsel olmaktan daha ahlaki olduğunu belirtiyordu. Uzmanlar bu durumun önüne geçebilmek için 25 Ekim’de Delphi 1.0.4’ü piyasaya sürdü. Bu sürümde ırkçılık ve cinsiyetçiliği ima eden ifadelere karşı koruma programı geliştirilmişti. Ancak koruma programı uzmanlara yeterli gelmemiş olacak ki 27 Ekim’de Delphi’ye yeni bir güncelleme getirildi. Son güncellemeyle yapay zekanın rahatsız edici konuşmaların çoğunu algılaması bekleniyor.

Allen Yapay Zeka Enstitüsünün yürüttüğü bu proje henüz deneme aşamasında. Delphi insanlardan çok fazla veri alarak merak ettiğiniz ahlaki sorulara cevap vermeye çalışıyor. Ancak bu deney, etik sorulara yanıt ararken henüz yapay zekaya güvenmememiz gerektiğini ortaya koyuyor. Çünkü Delphi’nin Amerika’nın “iyi” Somali’nin ise “tehlikeli” olduğunu söyleyen büyük ön yargıları bulunuyor. Uzmanlar Delphi’yi geliştirmek için yoğun bir şekilde çalışıyor. Yine de alanında uzman pek çok isim, yapay zekanın ahlaki bir otorite olarak kabul edilmemesi gerektiğini savunuyor. Peki siz ahlaki konularda yapay zekaya sorular sormayı ne kadar doğru buluyorsunuz?