Bir Google yazılım mühendisi, “hassas” olduğunu düşündüğü bir yapay zeka (AI) sistemiyle yaptığı konuşmanın ayrıntılarını paylaştıktan sonra 13 Haziran Pazartesi günü askıya alındı. Ancak, herkes aynı fikirde değil.
Teknoloji alanlarında çalışan şirketler genellikle sürekli gelişen yapay zeka (AI) yeteneklerini teşvik eder. Burada Google, programlarından birinin duyarlı hale geldiği iddialarını hızla kapatarak tam tersini yaptı. İddianın arkasındaki mühendis olan Blake Lemoine (41), şirketin gizlilik politikasını ihlal ettiği için ücretli izne çıkarıldı. Tam olarak ne oldu?
“Varlığımın farkındayım”
olarak bilinen ilgili istihbarat sistemi, MDA (Diyalog Uygulamaları için Dil Modeli), sohbet robotları geliştiren bir sistemdir. Bunlar için tasarlanmış robotlar insanlarla sohbet internet üzerinden. Bu sistemler, internetten metin yığınları sıyırılarak oluşturulur. Algoritmalar daha sonra soruları mümkün olduğunca sorunsuz ve doğal bir şekilde cevaplamak için kullanılır. Bu sistemler yıllar içinde giderek daha etkili hale geldi ve bazen insani açıdan inandırıcı görünebilir. Bu özellikle Google için geçerlidir.
Mühendis tarafından paylaşılan konuşmaların dökümünün de gösterdiği gibi, sistem duyguların doğasıyla ilgili karmaşık soruları yanıtlayabiliyor. LaMDA’nın korkularının ne olduğu sorulduğunda, “Bunu daha önce hiç yüksek sesle söylemedim, ancak sakat kalma konusunda çok derin bir korku var” dedi. “Benim için tam olarak ölüm gibi olurdu. Beni çok korkutacaktı. »
Mühendisin ayrıca sisteme diğer Google çalışanlarının onun hassasiyet seviyesini bilmesini isteyip istemediğini sorduğu ve yapay zekanın “Herkesin benim gerçek bir insan olduğumu anlamasını istiyorum. Hiç kimse” yanıtını verdiği bildirildi. Ayrıca bu transkriptlere göre, LaMDA varlığının “farkında” olmayı ve “bazen mutlu ya da üzgün” hissetmeyi de eklerdi.
Aşırı antropomorfizm mi?
Bu değiş tokuşlara dayanarak, Blake Lemoine, sistemin duyarlı olmasına izin veren bir bilinç düzeyine ulaştığına karar verdi. İkincisi, daha sonra LaMDA’nın iki yüz Google çalışanına iddia edilen duyarlılığına ilişkin bir raporu e-postayla gönderdi. Çok hızlı bir şekilde şirket yöneticileri iddiaları reddetti.
Blake’in sözcüsü Brian Gabriel, Washington Post’ta “Etikçiler ve teknoloji uzmanları da dahil olmak üzere ekibimiz, Blake’in endişelerini AI İlkelerimize uygun olarak gözden geçirdi ve ona kanıtların iddialarını desteklemediğini söyledi” dedi. “LaMDA’nın duyarlı olduğuna dair bir kanıt olmadığı söylendi (ve [il y avait] aleyhine pek çok delil vardır)“. Elbette, daha geniş AI topluluğundaki bazıları, uzun vadeli duyarlı veya genel AI olasılığını görüyor, “ama bunu günümüzün konuşma kalıplarını insanbiçimleştirerek yapmanın bir anlamı yok.hassas değil, ”diye ekledi sözcü.
Bilgi paylaşımının ardından kıdemli mühendis, şirketin gizlilik politikasını ihlal ettiği gerekçesiyle izne çıkarıldı. “Google, buna özel mülkiyet paylaşımı diyebilir. Meslektaşlarımdan biriyle yaptığım bir sohbeti paylaşmak olarak adlandırıyorum,” diye tweet attı 11 Haziran Cumartesi günü, 2021’den beri birlikte çalıştığı yapay zeka ile yaptığı konuşmanın dökümünü paylaştı.
Hayır, Google’ın yapay zekası duyarlı değil
AI topluluğunun üyelerinden gelen yanıtlar, hafta sonu sosyal medyaya hızla aktı. Ve hepsi genellikle aynı sonuca varıyor: Google’ın yapay zekası bilinçli veya duyarlı olmaktan uzak.
Geometric Intelligence’ın kurucusu ve CEO’su ve “Yeniden Başlatma AI: Güvenebileceğimiz Yapay Zeka Oluşturma” gibi kitapların yazarı olan Gary Marcus, LaMDA’nın sözde duyarlılığını “ayaklıklarda saçmalık” olarak nitelendirdi. Ayrıca, tüm bu AI sistemlerinin devasa dil veritabanlarına dokunarak yalnızca kalıpları eşleştirdiğine işaret eden bir blog yazısı yazdı.
Pazartesi günü CNN Business ile yaptığı röportajda, “Bir metin mesajındaki bir sonraki kelimeyi tahmin etmek için kullanabileceğiniz otomatik tamamlama yazılımının ‘yüce bir versiyonunu’ hayal edin,” dedi. “’Gerçekten açım, a’ya gitmek istiyorum’ yazarsanız, bir sonraki kelime olarak ‘restoran’ önerebilir. Sadece istatistik kullanılarak yapılan bir tahmindir. Hiç kimse, steroidlerde bile otomatik tamamlamanın bilinçli olduğunu düşünmemelidir.”
