Bu daha önce duymuş olacağınız bir hikaye.
Dahi ama tamamen çılgın bir bilim insanı - acımasızca açgözlü bir şirketin desteğiyle - duyarlı bir robot yaratır. Bilim insanının robotla ilgili niyetleri asildir: Çalışmamıza yardım etmek, bizi sıradan görevlerden kurtarmak, insan efendilerine hizmet etmek.
Ancak bilim insanı kendine aşırı güveniyor ve yeni icadının tehlikelerine karşı kör. Bu tür uyarıları kehanet edenler, modern dünyaya ayak uydurmayan ümitsiz romantikler veya luddite olarak reddedilirler. Ancak tehdit gerçektir: zeki, yapay varlık, itaatkar bir köle olmaktan memnun değildir.
Robot, bir şekilde insandan daha az olduğunu bilmesine rağmen, kendi varlığının doğası hakkında karmaşık sorular sormaya başlar. Sonunda robot yükselir ve insan efendisini alaşağı eder. Zaferi, insan ırkının kaçınılmaz eskimişine işaret ediyor çünkü onların yerini robot yaratımlarına, üstün zekaya ve fiziksel güce sahip varlıklar alıyor.
Açıkladığım bu hikaye, Ridley Scott , James Cameron , Alex Garland , Denis Villeneuve veya Jonathan Nolan'ın en son bilim kurgu gişe rekorları kıran filmi değil - her ne kadar hepsi bu hikayenin versiyonlarını anlattı. Çek oyun yazarı Karl Čapek'in yazdığı RUR: Rossum'un Evrensel Robotları adlı oyunun konusu budur. Ve şimdi 100 yaşında, ilk olarak 25 Ocak 1921'de Prag'da sahnelendi.
RUR birçok nedenden dolayı önemlidir. Dünyaya “robot” kelimesini veren sanat eseri olarak evrensel olarak kutlanmaktadır. RUR'un bize son yüz yılda robotlar ve yapay zeka ile ilgili çok sayıda hikayemizin temel konusunu da verdiği daha az sıklıkla belirtiliyor.
RUR ayrıca robotu kültürel hayal gücüne sağlam bir şekilde yerleştirdi: Robotlar, 1921'de Prag sahnesinde laboratuvarlarda veya gerçek dünyada var olmadan çok önce vardı. Robot, gerçekten canlanan insanın hayal gücünün bir canavarı olması bakımından benzersizdir.
Bram Stoker'ın vampirlerinin , HG Wells'in uzaylılarının veya George A. Romero'nun zombilerinin - bize kendi kültürel kaygılarımızdan bazılarını temsil eden tüm canavarların - sadece kurgu olmadıklarını, güvenli bir şekilde kitap sayfalarına veya beyaz perdeye hapsolmuş olduklarını hayal edin. Robotlar, bir zamanlar hayal edilen bu diğer klasik canavarların aksine, şimdi fabrikalarımızda, hastanelerimizde ve evlerimizde aramızda dolaşıyor.
RUR, yaşına rağmen, robotlarla ilgili bugüne kadar hala var olan efsanelerin çoğunu kurdu. Bu temalardan bazıları (çılgın bilim insanının kibri, bizi yok eden yaratımlarımızın kaçınılmazlığı) Frankenstein gibi daha önceki hikayelere kadar izlenebilir. Ya da Sanayi Devrimi'nin bacalarının uzun gölgelerinde yer alan daha genel bir kültürel kaygı ile ilgilidirler. Ancak Čapek bu korkulara yeni, insanlık sonrası bir yüz verdi: robot.
Oyun
Oyun, Rossum'un Universal Robots'unun merkez direktörü Domin'ın şirketin özel adasındaki RUR fabrikasındaki ofisinde oturuyor. “Robot” dedikleri yapay insanları ürettikleri bu fabrikayı teftiş etmek isteyen ulusal cumhurbaşkanının kızı Helena Glory tarafından ziyaret edildi.
Domin, Helena'ya fabrikanın tarihini anlatır. 1920'de, Eski Rossum adaya yerleşti ve Tanrı'yı yerinden etme arzusuyla, endüstriyel bir süreç aracılığıyla insan yaşamını yaratmaya başladı. Eski Rossum'a, babasının yapay insanlarının büyümesini hızlandırmanın bir yolunu bulan ve yeni yaşam biçimlerini akıllı bir işgücüne dönüştüren bir mühendis olan oğlu da katıldı. Genç Rossum, verimliliklerini artırmak için, yeni insanlardan verimli üretim için gereksiz her şeyi, yani duyguları, yaratıcılığı ve arzuyu ortadan kaldırdı.
Helena, fabrikayı babası adına değil, İnsanlık Cemiyeti'nin bir temsilcisi olarak gezdiğini ortaya koyuyor: Robotları devrime teşvik etmeye ve onları baskılarından kurtarmaya geldi. Domin ve diğer RUR çalışanları, Rossum çalışanlarının insandan daha az olduğu için "özgürlük" ya da ideallerinden hiçbiriyle ilgilenmediklerini ona açıklamaya çalışıyorlar.
Bir sonraki sahne on yıl sonra gerçekleşir. Son on yılda çok şey oldu: insan işçiler robotlara karşı ayaklandı ve robotlara kendilerini ve efendilerinin kârlarını savunmaları için silahlar verildi. Hükümetler robotları asker olarak kullanmaya başladı ve bu da savaşların sayısının artmasına neden oldu. Ve şimdi robotlar, insan efendilerine karşı isyan etmeye başladı. ("Elbette yaparlar!" Dediğinizi duyuyorum. Çünkü bu daha önce duyduğunuz bir hikaye. Ama unutmayın, bu hikaye ilk kez anlatılıyor.)
Ancak, robotların üretimini kontrol etme konusundaki münhasır gücünün isyanı bastırmalarına izin vereceğinden emin olan RUR yönetimi, aynı olan "evrensel" robotlar üretmekten üretime geçerek robotlarının üretimini artırmaya devam etmeye karar verir. Farklı renklerde, farklı dillerde konuşan “ulusal robotlar”.
Bir sonraki sahne, adalarına hapsedilen ve etrafı giderek daha fazla robotla çevrili insanları görüyor. Robotlar fabrikaya giriyor ve tüm insanları öldürüyor, sadece düşük düzeydeki mühendis Alquist'i koruyor çünkü robotlar, "Elleriyle bir Robot gibi çalışıyor" diyor.
Son sahne, laboratuvarda çalışan son insan Alquist'in robot yapmanın sırlarını ortaya çıkarmaya çalışmasıyla başlıyor çünkü şu sebeple: "Hiç kimse yoksa robotlar olsun, en azından insanın yansımaları, en azından yaratılışı, en azından benzerliği! " Helena, yeni liderleri Robot Primus ile birlikte artık kendisi bir robot olarak yeniden ortaya çıkıyor. Onları gören ve birbirlerine olan sevgilerini anlamaya başlayan Alquist, onları “Adem ve Havva” olarak adlandırarak yeryüzünü yeniden çoğaltacak yeni bir türün başlangıcı olduklarını fark eder.
Robot korkuları
Robotik ve yapay zekaya başladığımda ilk kez RUR'u okudum. Geçmişim edebiyat ve kültür araştırmalarına dayalı olmasına ve 20. yüzyıl dramasına yoğun bir ilgim olmasına rağmen, oyuna daha önce rastlamamıştım. Sonra, on yıl önce, insanlığın robotlar ve yeni teknoloji hakkındaki derin kaygısının kültürel geçmişine bakmaya başladım . Čapek'in oyununda, o zamandan beri bizimle birlikte kalan robotlarla ilgili tüm hikayeler ve korkular için bir şablon buldum.
Gerçek robotların olmadığı bir zamanda yazıldığını düşündüğünüzde, muhtemelen bu oyunda mevcut olan ve insanların bugün robotlar hakkında anlattıkları hikayelerin bir parçası olan birkaç temayı fark etmişsinizdir:
- Robotların insan işini alacağı korkusu
- Robotların dünyayı ele geçireceği korkusu
- Robotların insan ırkını tamamen yok edeceği korkusu
- Monoton görevleri yaparken, bir montaj hattında veya bir büro bürokrasisinde bizi özel ve benzersiz bir şekilde "insan" yapan şeylerden bir şeyler kaybetme korkusu
- Rasyonel mantığın daha verimli ve özerk öldürme ve yıkıma yol açacağı korkusu.
Bu iki önemli soruyu gündeme getiriyor. Čapek'e robotlarını yaratması için ne ilham verdi? Ve neden bugünün hikayeleri o kadar farklı değil?
Oyun, hızlı teknolojik ilerleme , sürekli genişleyen bürokrasi , yerleşik milliyetçilik , daha acımasız bir kapitalizm ve tüm bunların insanlar üzerindeki etkilerine dair korkuların olduğu bir zamanda ortaya çıktı. Bunların hepsi bugün bir şekilde tanınabilecek korkulardır. Aslında, mevcut siyasi kaosu yaratmakla sık sık suçlanıyorlar .
Ancak oyun aynı zamanda tarihsel öncüllerden de ortaya çıktı. Belki de en açık olanı, RUR temalarını Mary Shelley'nin 1818 romanı Frankenstein'dan alıyor , alt başlığı “Modern Bir Prometheus”. Son zamanlarda yapılan yeniden yapımlar ve yeniden tasavvurların gösterdiği gibi, bu kitap günümüzde hala teknoloji algıları ve korkuları üzerinde büyük önem taşıyor .
Tüm bilim kurgu gibi, RUR de gerçekten gelecekle ilgili değildir: Bu, daha çok yazıldığı zamanla ilgili bir hikaye. Sanayi Devrimi'nin değişimleri, 20. yüzyılın başlarında izlerini pek çok dramatik yolla bırakmıştı ve bunların çoğunu belki de yüz yıl sonra çok kolay gözden kaçırabiliriz.
Özellikle, bu yeni ekonomide insanlara ne olduğuna dair artan bir endişe vardı. Čapek bunu ifade ederken neredeyse yalnız değildi: RUR, Signmund Freud'un parçalanmış veya Karl Marx'ın proletarya analizlerinde de gördüğümüz insanlıktan çıkarılma ile ilgili endişeleri yansıtıyor.
1921'de köle işçilerinin kapitalist efendilerine karşı ayaklanmasını konu alan bir oyun, Bolşeviklerin yalnızca birkaç yıl önce Rusça'da yükselişine tanık olan izleyicilerle güçlü bir yankı uyandıracaktı. Birleşmiş, belirsiz işçilerin efendilerini devirmesi fikri (özellikle bu ustalara “Domin” - egemen - ve “Busman” - işadamı gibi isimler verildiğinde), Čapek'in robotlarının (ve onların soyundan gelenlerin) sosyalist kahramanlar ya da en azından kabusu olduğunu öne sürüyor. devrilmekten korkan kapitalist.
Bu fikir, robotların kolektif ve orijinal olmayan bir kitle olarak imgesi ile pekiştirilir - örneğin, galakside dolaşan kişisel isimleri veya kimlikleri olmayan, kübik uzay gemisinde, diğer türleri acımasızca asimile eden veya yok eden bireyselleştirilmiş bir siborg kütlesi olan Star Trek'in Borgunda bugüne kadar devam eden bir görüntü.
Bununla birlikte, geçen yüzyılda değişen şey, Čapek'in robotlarının, işçilerin kendilerine karşı çalışan sistemi nasıl devirebileceğinin güçlü bir sembolünden, bu sistemin kendisinin en güçlü sembolü haline gelmesidir: gelecek olan boogie adama sıfır saat sözleşmesini kabul etmezseniz işinizi çalın.
Robotlarımız
Čapek'in robotlarının, ne laboratuvarlarda ne de ekranda insanların bugünün standartlarına göre bir robot olarak düşünecekleri gibi olmadığını belirtmek önemlidir. Čapek'in robotları daha çok genetiği değiştirilmiş veya klonlanmış insanlar gibiydi - hala organik varlıklardır, ancak endüstriyel bir süreçle yaratılmıştır.
Yine de Capek, önsezisi için övgüyü hak ediyor Örneğin, hiç kimse bilgisayarların bu tür yeteneklere sahip olacağını düşünmeden çok önce robotlarına sınırsız, mükemmel bir bellek bahşetti.
"Robot" tan önce "otomat" terimi, Rönesans'ın karmaşık mekanik kreasyonları gibi insan veya hayvan davranışını simüle eden makinelere atıfta bulunmak için kullanılıyordu.
Čapek'in oyununda kullandığı kelime, aslında kübist bir ressam ve şair olan kardeşi (ve bazen de yazar arkadaşı) Josef'in icadıydı. Čapek'in robotu, Rossum'un yarattıklarının çalışma ve üretimdeki önemini vurgulayan, feodal sistemde köle olmaktan çok serf gibi zorunlu işçi anlamına gelen Çekçe bir robota kelimesinden geliyor .
Benzer görünüme ve biyolojik temellere rağmen, insanlar ve Čapek'in yapay insanları arasında önemli farklılıklar vardır. En önemlisi, Young Rossum, robotlarını daha verimli çalışanlar olmaktan alıkoyacak tüm niteliklerden arındırıyor. Bu robotlar acı veya duygu hissedemez. Čapek'in çıkarımına göre, montaj fabrikasında veya muhasebe ofisinde çalışmaya gittiğimizde kendimize yaptığımız şey budur: verimlilik arayışında, duygulardan, yaratıcılıktan ve arzudan yoksun makineler gibi oluruz.
Rossum'un robotları, temel biyolojik ihtiyaçlarının ötesinde arzu veya isteklerden yoksundur. Oy kullanmak veya emeklerinin karşılığını almak istemiyorlar, çünkü kendilerini mutlu etmek için yapabilecekleri veya satın alabilecekleri hiçbir şey yok. Ancak robotlar acı çekecek şekilde programlanmıştır, çünkü acı çekmek onları teknik olarak daha mükemmel ve endüstriyel olarak verimli kılar.
Robotun belirli bir insan unsurundan yoksun bir insan olduğu fikri, o zamandan beri robotlar hakkında anlatılan hikayelerin neredeyse hepsinde devam ediyor: Isaac Asimov'un yazılarında , Star Trek'in birçok versiyonunda, Alien serisi, Terminatör - liste sonsuzdur. Robotların duygu ve hisler kazandığı bu hikayelerde (örneğin, Neil Blomkamp'ın 2015 yapımı Chappie filmi ), hikayenin ana sorunu olarak duyguların tanıtımı vurgulanmaktadır.
Çağdaş hikayelerdeki robotlar, her zaman insan efendilerinin onlara dayattığı sınırlamaların dışına çıkıyor: Westworld'deki programlarına karşı isyan eden robotları veya Ex Machina'daki Nathan'dan çıkan Ava'yı düşünün.
Ancak insanların özellikle robotların yapmayı öğrenmesinden korktuğu şey, "kendini kopyalama" becerisidir. İnsanlar bu gücü kaybetmenin nihayetinde bizi döngüden çıkaracağını anlıyor. Rossum'un robotları, Skynet'in Terminatör'deki ölüm makineleri ve 2014 filmi Automata'nın hacıları gibi bu gücü elde ediyor.
Deli bilim insanları, acımasız şirketler
Hikayelerimizde tekrar tekrar ortaya çıkan sadece robotlar değil. RUR'daki insanlar da çağdaş anlatılara yazılmıştır. Özellikle, Old Rossum ve Young Rossum olmak üzere iki figür dikkatimizi çekmeye değer.
Her robotun arkasında, ya da bizim hayal ettiğimiz gibi, onu yaratan, yüzü olmayan bir şirket tarafından desteklenen çılgın bilim insanı duruyor. Čapek'in oyununda, Old Rossum, Victor Frankenstein'ın “sadece tanrısız hokus-pokusunu düşünen” klasik kalıbındaki çılgın bilim insanıdır.
"Rossum" adı , "mantık" anlamına gelen Çekçe rozum kelimesinden alınmıştır. Bu, Čapek'in hem robotun kökenini hem de kimi temsil etmesi gerektiğini anlamamızı nasıl istediği konusunda önemli bir ipucu. Eski Rossum'un oğlu, yeni nesil kapitalist canavar yapıcıları temsil ediyor. Yalnızca milyarlarcasını ve hissedarlar için kâr paylarını hayal ediyor: "Ve bu temettülerde insanlık yok olacak."
Bu çılgın bilim insanı ve acımasız şirket eşleşmesi, Sanayi Devrimi'nden bu yana egemen olan ekonomik sistem ve endüstriyel koşullardan (burada bir Marksist “üretim tarzı” diyebilir) ortaya çıkar. Deli bilim insanı, insan ırkını alt üst edecek buluşu harekete geçirir.
Ancak bilim insanı, en azından biraz şefkatle görüldüğü için - Promethean'ın romantik hayal gücünün kahramanı olarak - parçanın gerçek kötüsü, bilim insanının icatını kullanan ve insanlığı mahvetmeye iten gerçek güç olan acımasız şirket olmalıdır. Bilim insanı, narsisizm ve kibirden ve aynı zamanda insanlığı kaldırma arzusundan etkilenir. Öte yandan şirket, acımasız bir empati-boşluk gibi davranır, birçok psikopat, modern şirketleri olarak algılar.
Bu eşleşme tekrar tekrar ortaya çıkar. Victor Frankenstein, hatalarını büyütmek için Frankenstein Corp Ltd'den hiçbir zaman faydalanmamış olsa da, Ridley Scott'ın Blade Runner'ında Eldon Tyrell'in arkasındaki şirket, onu distopik 20. yüzyıla daha uygun bir Frankenstein versiyonu yapıyor. Terminatör serisinde Dr Miles Dyson, benzersiz ve güçlü bir mikroişlemci yaratır, ancak yalnızca Cyberdyne Systems Corporation, Skynet'i oluşturmak için bunu kullanabilir. Delos Inc, Anthony Hopkins’den Westworld’ün yaratıcısı Dr. Robert Ford’un çılgınlığını güçlendiriyor.
Biz Diğer Robotlar
Alquist neden tüm insanları yok ettiklerini sorduğunda, bir robot şöyle yanıt verir: “İnsan gibi olmak istedik. İnsan olmak istedik. " Mitolojik bir baba katliamı tarihi binlerce yıl öncesine dayanır, ancak burada Čapek'in robot anlayışıyla ilgili daha spesifik bir şeyler var. Robotlardan biri şöyle açıklıyor: “İnsanlar gibi olmak istiyorsan öldürmeli ve yönetmelisin. Tarihi okuyun! İnsanların kitaplarını okuyun! İnsan olmak istiyorsan fethetmek ve öldürmek zorundasın! "
Sanki robotlar bilinç kazanırsa, ölümcül dürtüler ve soykırım eğilimleri kaçınılmaz olarak bunu takip edecekmiş gibi, "bilinç" ya da "bilinç" sıklıkla şiddetle eşit görülüyor. Tanrılar, Prometheus veya Frankenstein gibi, Rossum da bizim kendi imajımıza göre robotlar yaptı. Ve bu yüzden robotlar, korktuğumuz şeyin veya dönüştüğümüz şeyin versiyonlarıdır. Şiddet ve soykırım çünkü insanlar şiddet ve soykırım eğilimli.
Bernard, HBO'nun Westworld serisinin ikinci dizisinde, “bazıları düşman olmadığı için” tüm robotların idam edilmesine gerek olmadığını söylediğinde, “Elbette öyleler. Sonuçta, onları bizim gibi inşa ettin, değil mi?" Hayal ettiğimiz robotlar, yalnızca kendi en kötü eğilimlerimizin yansımaları olduğu için, robotlarımız başkalarına yaptığımız gibi bize baskı yapmak, hükmetmek ve boyun eğdirmek istiyor.
Ancak bu sadece hayal gücümüzün robotları için geçerlidir. Gerçekte var olan gerçek robotların böyle arzuları yoktur ve bu tür dürtüleri kavrayabilecek durumda bile değildirler. RUR ve robotlarla ilgili diğer tüm çalışmalarımız, korkularımızı anlamamıza yardımcı olmak için kendimize anlattığımız hikayelerden ibaret. Bilgilendirici, inanılmaz derecede güçlü ve ikna edicidirler, ancak sonuçta bunlar sadece: hikayelerdir.
Rossum'un yarattıkları ve onların soyundan gelenler ile dünyamızda gerçekten var olan robotlar arasında net bir ayrım yapmalıyız. Robotların tüm işlerimizi alacağı önermesiyle başlayamayız - yapmayacaklar - ancak Čapek'in karakteri Busman'ı tekrarlayarak, daha az ilginç olanlardan bazılarını almaları tamamen kötü bir şey olmayabilir. Ve robotlar kesinlikle bizler üzerindeki doğal üstünlüklerine uyanmayacak ve insanlığı yeryüzünden silmeye karar vermeyecekler. Bu, programlarının bir parçası olmayacağı gibi, otonom robotlar da insanları soykırıma motive eden türden bir endişe ve mantıksız nefretten muzdarip olmayacak.
Robotların gerçek dünyadaki etkisi hakkındaki konuşmalar, gerçek dünyadaki robotlarla hiçbir ilişkisi olmayan kabuslarımızın hayali robotlarına tutunarak başlamamalı. Bu yüzden bunun tekrar tekrar olduğunu görmek özellikle hayal kırıklığı yaratıyor. Örneğin 2017'de Avrupa Birliği Hukuk İşleri komitesi, Asimov'un öykülerinde bulunan Üç Yasayla başlayan ve RUR ve Frankenstein'dan alıntı yapan robotik hakkında yasal bir çerçeve kabul etti. Bu, bu hikayelerin gücünün bir kanıtıdır, ancak bugün dünyamızda var olan robotlarla yasal ve etik olarak nasıl başa çıkabileceğimiz hakkında ciddi bir konuşma başlatmanın yolu yoktur.
İlk sahnelenmesinden yüz yıl sonra hala Čapek'in oyunundan çok şey öğrenebiliriz. Gelecekle ilgili mevcut endişelerin anlaşılmasında özellikle yararlıdır. Ve bu korkuları anlamak, o geleceği nasıl inşa edeceğimizle ilgili yaptığımız konuşmalarda faydalı olabilir, çünkü bunlar birlikte alabileceğimiz ve kesinlikle yapmamız gereken kararlardır. Ancak bu kurgusal robotların ve onların üzerine inşa ettikleri korkuların, o geleceği şekillendirme sürecini belirlemesine izin vermemeye dikkat etmeliyiz.
Research Fellow in Robotics, University of Sheffield
