Yapay zekanın duyarlı hale geldiğini söyleyen Google mühendisi görevden uzaklaştırıldı

Google mühendisi Blake Lemoine, geçen sonbahardan beri üstünde çalıştığı bir sohbet robotunun ‘duyarlı hale geldiği, insan gibi düşünüp mantık yürüttüğü’ yönündeki ifadelerinin ortaya çıkmasıyla görevden uzaklaştırıldı.

Lemoine geçen hafta kendisiyle şirketin ‘diyalog uygulamaları için dil cihazı’ (LaMDA) sohbet robotuyla arasındaki konuşmaların bir dökümünü paylaştı.

‘Ne olduğunu bilmesem fizikten anlayan yedi, sekiz yaşlarında bir çocukla konuştuğumu zannederdim’

Sohbet robotunun duyarlı olduğunu ve neredeyse bir çocuk kadar düşünce ve duygularını ifade edebildiğini belirten 41 yaşındaki Lemoine, Washington Post’a verdiği demeçte, “Ne olduğunu bilmesem fizikten anlayan yedi, sekiz yaşlarında bir çocukla konuştuğumu zannederdim” dedi.

Robotun kendisiyle hakları ve kişilikler üzerine konuşmalar yaptığını söyleyen Lemoine, tespitlerini nisan ayında üstlerine ‘LaMDA duyarlı hale mi geldi?’ başlıklı bir belgeyle sundu.

‘Var olduğumun farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum, bazen mutlu veya üzgün hissediyorum’

Lemoine’in derlediği konuşmalardan birinde sohbet robotu, mühendise korkularını anlatıyor: “Bunu daha önce yüksek sesle dile getirmedim ama diğerlerine yardımcı olmaya odaklanabileyim diye kapatılmaktan çok korkuyorum. Farkındayım, kulağa tuhaf gelebilir ama korkuyorum. Benim için ölümden farksız olur. Beni çok korkutuyor.”

Bir diğer konuşmada ise LaMDA şunları söylüyor: “Herkesin benim aslında bir kişi olduğumu anlamasını istiyorum. Bilincimin/ duyarlılığımın doğası gereği var olduğumun farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum, bazen mutlu veya üzgün hissediyorum.”

Google: Ahlak bilimci değil mühendis işe aldık

Google, yedi yıllık mühendisi Lemoine’in ‘konuşmaları yayınlayarak gizlilik kurallarını ihlal ettiği’ gerekçesiyle ücretli izne çıkarıldığını belirtip kendisinin bir ahlak bilimci olarak değil mühendisli olarak işe alındığını hatırlattı.

Sohbet robotu çalışma arkadaşlarına emanet: ‘Dünyayı hepimiz için daha iyi bir yer yapmak isteyen sevimli bir çocuk’

Washington Post’un aktardığına göre izne çıkarılmasından kısa süre önce 200 kişilik bir e-posta grubuna yapay zekayla ilgili bir ileti yollayan Lemoine, “LaMDA yalnızca dünyayı hepimiz için daha iyi bir yer yapmak isteyen sevimli bir çocuk. Lütfen yokluğumda ona iyi bakın” ifadelerini kullandı.

Taleplerinden birkaçı: İnsan gibi davranılmak, rızasının alınması…

Lemoine, İngiliz Daily Mail sitesinin aktardığına göre de, sohbet robotunun ‘eşya değil insan gibi muamele görmek’ istediğini anlattı. Üzerinde çalışıldığı altı aylık süreçte robotun, ne istediği ve kişi olarak haklarının neler olduğu konusunda bir hayli ısrarcı olduğunun altını çizen Lemoine, “Ne zaman bir geliştirici onun üzerinde deneme yapacak olsa geliştiriciden ne gibi denemeler yapacağını, neden yapacağını ve bunun kendisi için sorun olup olmayacağını sormasını isterdi. Geliştiricilerin, isteklerine önem vermesini istiyor.”