Geçen ay üzerinde çalıştığı AI programının bilinç geliştirdiğini açıklayan Google mühendisi Blake Lemoine'i duyduğunuzda ilk tepkiniz ne oldu?

Benim gibi içgüdüsel olarak şüpheciyseniz, şuna benzer bir şey olabilir: Bu adam ciddi mi? Gerçekten söylediklerine inanıyor mu? Yoksa bu ayrıntılı bir aldatmaca mı?

Bu soruların cevaplarını bir kenara koyun. Bunun yerine soruların kendilerine odaklanın. Onlara sormanın bile Blake Lemoine hakkında çok önemli bir şeyi varsaymak olduğu doğru değil mi: özellikle o bilinçli mi?

Başka bir deyişle, hepimiz Blake Lemoine'in aldatıcı olduğunu hayal edebiliriz.

Ve bunu yapabiliriz, çünkü onun içsel inançları -gerçekten inandığı- ile dışsal ifadeleri: inandığını iddia ettiği şeyler arasında bir fark olduğunu varsayıyoruz.

Bu farklılık bilincin işareti değil midir? Bir bilgisayar için de aynı şeyi varsayabilir miyiz?

Bilinç: 'zor sorun'

Filozofların bilinci “ zor problem ” olarak adlandırmaları boşuna değildir . Tanımlanması çok zor.

Ama şimdilik, diyelim ki bilinçli bir varlık, bir düşünceye sahip olabilen ve onu ifşa etmeyen bir varlıktır.

Bu, ironinin ön koşulunun bilinç olacağı anlamına gelir, ya da tam tersini ifade ederken bir şeyi söylemek. Sözlerinin düşüncelerine uymadığını fark ettiğimde ironi yaptığını biliyorum .

Çoğumuzun bu kapasiteye sahip olması - ve çoğumuzun rutin olarak söylenmemiş anlamlarımızı bu şekilde iletmesi - bence bizi olduğundan daha sık şaşırtması gereken bir şey.

Neredeyse tamamen insan gibi görünüyor.

Hayvanlar kesinlikle komik olabilir - ama kasıtlı olarak değil.

Peki ya makineler? aldatabilirler mi? Sır tutabilirler mi? ironik olabilirler mi?

Hayvanlar komik olabilir ama bilerek değil. Shutterstock

Yapay zeka ve ironi

İçinde "AI" harfleriyle hazırlayabileceğiniz herhangi bir araştırma sorusunun, müstehcen kaynaklara sahip bir bilişim bilimci ordusu tarafından halihazırda bir yerlerde incelenmekte olduğu (en azından akademisyenler arasında) evrensel olarak kabul edilen bir gerçektir - her zaman olmasa da, genellikle, ABD ordusu tarafından finanse edildi.

Bu, son zamanlarda önemli miktarda araştırma ilgisini çeken AI ve ironi sorusu için kesinlikle geçerlidir .

Elbette ironinin bir şeyi söylerken tam tersini söylemekten ibaret olduğu düşünülürse, bırakın üretmeyi, onu algılayabilen bir makine yaratmak hiç de basit bir iş değil.

Ancak böyle bir makine yaratabilseydik , bazıları diğerlerinden daha uğursuz olan çok sayıda pratik uygulamaya sahip olurdu.

Örneğin, çevrimiçi inceleme çağında perakendeciler, yalnızca içeriği değil, aynı zamanda yorumcunun yorumlarının ruh halini de haritalamak için yapay zekayı kullanan "fikir madenciliği" ve "duygu analizi" denilen şeylere çok meraklı hale geldi.

Ürününüzün övüldüğünü veya şakanın kıçı haline gelip gelmediğini bilmek değerli bilgilerdir.

Veya sosyal medyada içerik denetlemeyi düşünün. İfade özgürlüğünü korurken çevrimiçi kötüye kullanımı sınırlamak istiyorsak, birinin ne zaman ciddi olduğunu ve ne zaman şaka yaptığını bilmek yardımcı olmaz mı?

Ya da birileri yerel terörist hücresine yeni katıldıklarını ya da bavullarına bomba koyup havaalanına gittiklerini tweetlerse? (Bu arada, asla tweet atmayın.) Ciddi olup olmadıklarını veya sadece “ironik” olup olmadıklarını anında belirleyebileceğimizi hayal edin.

Aslında, ironinin yalan söylemeye yakınlığı göz önüne alındığında, yeni iletişim teknolojileri etrafında gelişen tüm gölgeli hükümet ve şirket gözetimi mekanizmasının bir ironi algılayıcı olasılığını nasıl son derece ilginç bulacağını hayal etmek zor değil.

Ve bu, konuyla ilgili artan literatürü açıklamak için uzun bir yol kat ediyor.

Yapay zeka, Clippy'den yüz tanımaya

Yapay zeka ve ironiye ilişkin mevcut araştırmaların durumunu anlamak için, daha genel olarak yapay zekanın tarihi hakkında biraz bilgi sahibi olmak faydalı olacaktır.

Bu tarih tipik olarak iki döneme ayrılır.

1990'lara kadar, araştırmacılar bilgisayarları önceden tanımlanmış durumlarda nasıl davranacaklarına dair bir dizi el yapımı resmi kuralla programlamaya çalıştılar.

1990'larda Microsoft Word kullandıysanız, istenmeyen tavsiyeler vermek için durmadan ortaya çıkan rahatsız edici ofis asistanı Clippy'yi hatırlayabilirsiniz.

Yüzyılın başından beri, bu modelin yerini veriye dayalı makine öğrenimi ve sinir ağları aldı.

Burada, belirli bir fenomenin örneklerinin muazzam önbellekleri, bilgisayarların hiçbir insanın keşfedemeyeceği kalıpları belirlemek için karmaşık matematiksel işlemleri gerçekleştirebileceği sayısal değerlere çevrilir.

Ayrıca, bilgisayar sadece bir kuralı uygulamaz. Bunun yerine deneyimden öğrenir ve insan müdahalesinden bağımsız yeni işlemler geliştirir.

İki yaklaşım arasındaki fark, Clippy ile örneğin yüz tanıma teknolojisi arasındaki farktır.

Alaycılığı araştırmak

Araştırmacılar, ironiyi tespit etme yeteneğine sahip bir sinir ağı oluşturmak için başlangıçta bazılarının en basit biçimini düşündüğü şeye odaklanır: alaycılık.

Araştırmacılar işe sosyal medyadan çıkarılan verilerle başlıyor.

Örneğin, #sarcasm etiketli tüm tweetleri veya Reddit kullanıcılarının ciddi olmadıklarını belirtmek için kullandıkları bir kısayol olan /s etiketli Reddit gönderilerini toplayabilirler.

Mesele, bilgisayara herhangi bir alaycı yazının iki ayrı anlamını tanımayı öğretmek değil. Aslında anlamın hiçbir önemi yoktur.

Bunun yerine, bilgisayara yinelenen kalıpları veya bir araştırmacının "sözdizimsel parmak izleri" dediği şeyi - kelimeler, ifadeler, emojiler, noktalama işaretleri, hatalar, bağlamlar vb. - araması talimatı verilir.

Bunun da ötesinde, örneğin aynı başlıktaki veya aynı hesaptaki diğer gönderiler gibi daha fazla örnek akışı eklenerek veri seti desteklenir.

Her yeni bireysel örnek, daha sonra tek bir belirlemeye ulaşana kadar bir dizi hesaplamadan geçirilir: alaycı ya da alaycı değil.

Son olarak, her orijinal postere yanıt vermek ve alaycı olup olmadıklarını sormak için bir bot programlanabilir. Bilgisayarın büyüyen deneyim dağına herhangi bir yanıt eklenebilir.

En yeni alay dedektörlerinin başarı oranı şaşırtıcı bir şekilde %90'a yaklaşıyor - sanıyorum ki birçok insanın başarabileceğinden daha fazla.

Yani, yapay zekanın bizi Clippy'den yüz tanıma teknolojisine yirmi yıldan daha kısa bir süre içinde götüren hızda ilerlemeye devam edeceğini varsayarsak, ironik androidler çok uzakta olabilir mi?

İroni nedir?

Ama ironinin “sözdizimsel parmak izlerini” tasnif etmekle onu gerçekten anlamak arasında niteliksel bir fark yok mu?

Bazıları önermez . Bir bilgisayara tam olarak bir insan gibi davranması öğretilebiliyorsa, davranışının altında zengin bir anlam dünyasının gizlenip gizlenmediği önemsizdir.

Ancak ironi tartışmasız benzersiz bir durumdur: dışsal davranışlar ve içsel inançlar arasındaki ayrıma dayanır.

Burada, hesaplamalı bilim adamlarının ironiye yeni yeni ilgi duymasına rağmen, filozofların ve edebiyat eleştirmenlerinin çok uzun zamandır üzerinde düşündüklerini hatırlamakta fayda var.

Ve belki de bu geleneği keşfetmek, yeni bir soruna eski bir ışık tutabilirdi.

Bu bağlamda zikredilebilecek pek çok isimden ikisi vazgeçilmezdir: Alman Romantik filozof Friedrich Schlegel ; ve post-yapısalcı edebiyat kuramcısı Paul de Man .

Schlegel için ironi basitçe yanlış, dışsal bir anlam ve gerçek, içsel bir anlam gerektirmez. Aksine, ironide, iki zıt anlam eşit derecede doğru olarak sunulur. Ve sonuçta ortaya çıkan belirsizlik, mantık için, özellikle de bir ifadenin aynı anda hem doğru hem de yanlış olamayacağını savunan çelişkisizlik yasası için yıkıcı etkilere sahiptir.

De Man bu konuda Schlegel'i takip ediyor ve bir anlamda içgörüsünü evrenselleştiriyor. Bir ironi kavramını tanımlamaya yönelik her türlü çabanın, açıklamayı iddia ettiği fenomenlerden etkilenmeye mahkûm olduğunu not eder .

Gerçekten de de Man, tüm dillerin ironi tarafından enfekte olduğuna inanır ve “kalıcı parabasis” dediği şeyi içerir. İnsanlar düşüncelerini birbirlerinden gizleme gücüne sahip olduklarından, söylediklerini kastetmemeleri her zaman mümkün olacaktır - kalıcı olarak mümkün olacaktır.

Diğer bir deyişle ironi, pek çok dilden biri değildir. Her dil kullanımını ve her etkileşimi yapılandırır veya daha iyisi musallat olur.

Ve bu anlamda, ispat ve hesaplama sırasını aşar. Soru, aynı şeyin genel olarak insanlar için doğru olup olmadığıdır.

Charles Barbour

Senior Lecturer, School of Humanities and Communication Arts, Western Sydney University

Editör: TE Bilisim