1956'da, matematikçi ve teorik biyolog Jack D. Cowan, Londra'ya yaptığı bir yıllık bir gezi sırasında ve 20'li yaşlarının başında, Wilfred Taylor'ı ve onun garip yeni " " ziyaret etti. Vardığında, karşısına çıkan "devasa aygıt bankası" karşısında şaşkına döndü. Cowan sadece durup "makinenin işini yapmasını" izleyebildi. Yapıyor gibi göründüğü şey, bir "ilişkisel bellek şeması" gerçekleştirmekti - bağlantıları bulmayı ve verileri almayı öğrenebiliyor gibiydi.
Bir yığın tel ve kutuya elle lehimlenmiş hantal devre blokları gibi görünebilirdi, ancak Cowan'ın tanık olduğu şey, bir sinir ağının erken bir analog biçimiydi - günümüzün en gelişmiş yapay zekasının öncüsü, ChatGPT'nin hemen hemen her komuta yanıt olarak yazılı içerik oluşturma yeteneği çok tartışıldı. ChatGPT'nin altında yatan teknoloji bir sinir ağıdır.
Cowan ve Taylor durup makinenin çalışmasını izlerken makinenin bu görevi nasıl yerine getirdiği konusunda gerçekten hiçbir fikirleri yoktu. Taylor'ın gizemli makine beyninin yanıtı, "analog nöronlar"ında, makine belleği tarafından yapılan çağrışımlarda ve en önemlisi, otomatik işleyişinin gerçekten tam olarak açıklanamaması gerçeğinde bulunabilir. Bu sistemlerin amaçlarını bulması ve bu gücün kilidinin açılması onlarca yıl alacaktı.
Sinir ağı terimi, geniş bir sistem yelpazesini kapsar, ancak IBM'e göre merkezi olarak, yapay sinir ağları (ANN'ler) veya simüle edilmiş sinir ağları (SNN'ler) olarak da bilinen bu sinir ağları, makine öğreniminin bir alt kümesidir ve derin öğrenme algoritmalarının kalbi”. En önemlisi, terimin kendisi, biçimi ve "yapısı, biyolojik nöronların birbirine sinyal verme şeklini taklit ederek insan beyninden esinlenmiştir".
İlk aşamalarında değerlerine dair bazı şüpheler kalmış olabilir, ancak yıllar geçtikçe yapay zeka modası kesin bir şekilde sinir ağlarına doğru kaydı. Artık genellikle yapay zekanın geleceği olarak anlaşılıyorlar. Bizim için ve insan olmanın ne anlama geldiği konusunda büyük etkileri var. Son zamanlarda bu endişelerin yankılarını, sonuçları konusunda güven sağlamak için yeni AI geliştirmelerini altı aylık bir süre boyunca duraklatma çağrılarıyla duyduk.
Sinir ağını yalnızca parlak, göz alıcı yeni araçlarla ilgili olarak göz ardı etmek kesinlikle bir hata olur. Onlar zaten hayatımıza iyice yerleşmiş durumdalar. Bazıları pratiklik açısından güçlüdür. 1989'da, AT&T Bell Laboratuvarlarında Yann LeCun liderliğindeki bir ekip, el yazısı posta kodlarını tanıyacak bir sistemi eğitmek için geri yayılım tekniklerini kullandı. Microsoft'un Bing aramalarının yapay zeka tarafından destekleneceğine ve onu "web için yardımcı pilotunuz" haline getireceğine dair yakın tarihli duyurusu, keşfettiğimiz şeylerin ve bunları nasıl anladığımızın giderek bu tür bir otomasyonun ürünü olacağını gösteriyor.
Kalıpları bulmak için geniş verilerden yararlanan yapay zeka, benzer şekilde, görüntü tanıma gibi şeyleri hızlı yapmak için eğitilebilir - örneğin, bunların yüz tanımaya dahil edilmesiyle sonuçlanır. Kalıpları belirleme yeteneği, hisse senedi piyasalarını tahmin etmek gibi birçok başka uygulamaya yol açmıştır .
Sinir ağları yorumlama ve iletişim kurma şeklimizi de değiştiriyor. İlginç bir isimle Google Brain Team tarafından geliştirilen Google Translate , bir diğer öne çıkan sinir ağı uygulamasıdır.
Biriyle de Satranç veya Shogi oynamak istemezsin. Kuralları kavramaları ve stratejileri ve kaydedilen tüm hareketleri hatırlamaları, oyunlarda son derece iyi oldukları anlamına gelir (ChatGPT, Wordle ile mücadele ediyor gibi görünse de ). İnsan Go oyuncularını (Go, hilekârlığıyla nam salmış bir strateji oyunudur) ve Satranç büyük ustalarını rahatsız eden sistemler, sinir ağlarından yapılmıştır .
Ancak erişimleri bu örneklerin çok ötesine geçiyor ve genişlemeye devam ediyor. Yalnızca tam olarak "sinir ağları" ifadesinin belirtilmesiyle sınırlı bir patent araştırması, 135.828 sonuç verir. Bu hızlı ve devam eden genişlemeyle, yapay zekanın etkisini tam olarak açıklayabilme şansımız giderek azalabilir. Araştırmamda ve algoritmik düşünme üzerine yeni kitabımda incelediğim sorular bunlar.
'Bilinemezliğin' gizemli katmanları
Nöral ağların geçmişine dönüp bakmak, bugünümüzü tanımlayan otomatik kararlar veya gelecekte muhtemelen daha derin bir etkiye sahip olacak kararlar hakkında bize önemli bir şey söyler. Varlıkları ayrıca bize yapay zekanın kararlarını ve etkilerini zamanla daha da az anlayacağımızı söylüyor. Bu sistemler sadece kara kutular değiller, bir sistemin görülemeyen ve anlaşılamayan gizli parçaları da değiller.
Farklı bir şeydir, kökleri bu sistemlerin amaçlarına ve tasarımına dayanmaktadır. Açıklanamayanın uzun süredir devam eden bir arayışı var. Ne kadar opak olursa, sistemin o kadar özgün ve gelişmiş olduğu düşünülür. Bu sadece sistemlerin daha karmaşık hale gelmesi veya fikri mülkiyetin kontrolünün erişimi sınırlandırması ile ilgili değil (her ne kadar bunlar onun bir parçası olsalar da). Bunun yerine, onları yönlendiren ahlakın "bilinemezliğe" özel ve yerleşik bir ilgisi olduğunu söylemektir. Gizem, sinir ağının biçimine ve söylemine bile kodlanmıştır. Derinlemesine yığılmış katmanlarla gelirler - bu nedenle derin öğrenme ifadesi - ve bu derinliklerin içinde kulağa daha da gizemli gelen "gizli katmanlar" vardır. Bu sistemlerin gizemleri yüzeyin çok altındadır.
Yapay zekanın hayatımızda yarattığı etki ne kadar büyük olursa, nasıl ve neden olduğunu o kadar az anlama şansımız var. Bugün yapay zeka için açıklanabilir güçlü bir baskı var. Nasıl çalıştığını ve kararlara ve sonuçlara nasıl ulaştığını bilmek istiyoruz. AB, potansiyel olarak "kabul edilemez riskler" ve hatta "tehlikeli" uygulamalar konusunda o kadar endişeli ki, şu anda "güvenli, güvenilir ve etik yapay zekanın geliştirilmesi" için "küresel bir standart" belirlemeyi amaçlayan yeni bir AI Yasası geliştiriyor.
Bu yeni yasalar, açıklanabilirlik ihtiyacına dayanacak ve "yüksek riskli AI sistemleri için, yüksek kaliteli veri, dokümantasyon ve izlenebilirlik, şeffaflık, insan gözetimi, doğruluk ve sağlamlık gerekliliklerinin riskleri azaltmak için kesinlikle gerekli olduğunu" talep edecek . yapay zekanın ortaya koyduğu temel haklar ve güvenlik”. Bu sadece sürücüsüz arabalar gibi şeylerle ilgili değil (güvenliği sağlayan sistemler AB'nin yüksek riskli AI kategorisine girse de), aynı zamanda gelecekte insan hakları üzerinde etkileri olacak sistemlerin ortaya çıkması da bir endişe.
Bu, faaliyetlerinin kontrol edilebilmesi, denetlenebilmesi ve değerlendirilebilmesi için AI'da şeffaflığa yönelik daha geniş çağrıların bir parçasıdır. Başka bir örnek, Royal Society'nin açıklanabilir yapay zeka hakkındaki politika brifingi olabilir ve burada "dünya çapındaki politika tartışmaları, yapay zekanın tasarımına ve konuşlandırılmasına etik ilkeleri dahil etme çabalarının bir parçası olarak, bir tür yapay zeka açıklanabilirliği çağrılarını giderek daha fazla görüyor" şeklinde belirtmişlerdir.
Ancak sinir ağlarının hikayesi bize gelecekte bu hedefe yaklaşmak yerine muhtemelen uzaklaşacağımızı söylüyor.
İnsan beyninden ilham alındı
Bu sinir ağları karmaşık sistemler olabilir, ancak bazı temel ilkeleri vardır. İnsan beyninden esinlenerek, biyolojik ve insani düşünme biçimlerini kopyalamaya veya simüle etmeye çalışırlar. Yapı ve tasarım açısından, IBM'in de açıkladığı gibi, "bir giriş katmanı, bir veya daha fazla gizli katman ve bir çıkış katmanı içeren düğüm katmanlarından" oluşurlar. Bunun içinde “her düğüm veya yapay nöron, diğerine bağlanır”. Çıktıları oluşturmak için girdilere ve bilgilere ihtiyaç duyduklarından, "öğrenmek ve zaman içinde doğruluklarını artırmak için eğitim verilerine güvenirler". Bu teknik detaylar önemlidir, ancak bu sistemleri insan beyninin karmaşıklığına göre modelleme isteği de önemlidir.
Bu sistemlerin ardındaki tutkuyu kavramak, bu teknik detayların pratikte ne anlama geldiğini anlamak için hayati önem taşıyor. 1993 yılında yapılan bir röportajda sinir ağı bilimcisi Teuvo Kohonen, "sinir sistemimizin içgüdüsel olarak yaptığı gibi bir şey" çalıştıran "kendi kendini organize eden" bir sistemin "benim hayalim olduğu" sonucuna vardı. Örnek olarak Kohonen, "kendi kendini organize eden" bir sistemin, kendi kendini izleyen ve yöneten bir sistemin "her uçakta, jet uçağında veya her nükleer güç istasyonunda veya her arabada". Bunun, gelecekte "sistemin ne durumda olduğunu hemen görebileceğiniz" anlamına geleceğini düşündü.
Genel amaç, çevresine uyum sağlayabilen bir sisteme sahip olmaktı. Anında ve otonom olacak, sinir sistemi tarzında çalışacaktı. Çok fazla insan müdahalesine ihtiyaç duymadan kendi kendini idare edebilen sistemlere sahip olmanın hayali buydu. Beynin, sinir sisteminin ve gerçek dünyanın karmaşıklıkları ve bilinmeyenleri yakında sinir ağlarının gelişimini ve tasarımını bilgilendirmeye başlayacaktı.
'Bunda şüpheli bir şey var'
Ancak 1956'ya ve o garip öğrenme makinesine geri dönersek, Cowan'ın hemen dikkatini çeken, Taylor'ın onu inşa ederken benimsediği uygulamalı yaklaşımdı. Parçaların montajı için açıkça ter dökmüştü. Taylor, Cowan bu sistemlerin hikayesinde kendi adına bir röportaj sırasında gözlemledi, “bunu teoriye göre yapmadı ve bilgisayarda yapmadı”. Bunun yerine, elindeki araçlarla "aslında donanımı inşa etti". Maddi bir şeydi, parçaların birleşimiydi, hatta belki de bir düzenekti. Ve Taylor, Cowan'a göre, "onu inşa etmek ve onunla oynamak birkaç yıl sürdü", "hepsi analog devrelerle yapıldı". Bir deneme yanılma durumu.
Anlaşılır bir şekilde Cowan gördüklerini kavramak istedi. Taylor'a bu öğrenme makinesini kendisine açıklamasını sağlamaya çalıştı. Açıklamalar gelmedi. Cowan, Taylor'a bu şeyin nasıl çalıştığını anlatmasını sağlayamadı. Analog nöronlar bir sır olarak kaldı. Cowan, daha şaşırtıcı sorunun, Taylor'ın "neler olup bittiğini kendisinin gerçekten anlamaması" olduğunu düşündü. Bu, farklı uzmanlıklara sahip iki bilim insanı arasındaki iletişimde anlık bir kopukluk değildi, bundan daha fazlasıydı.
1990'ların ortalarından bir röportajda , Taylor'ın makinesini düşünen Cowan, "bu güne kadar yayınlanan makalelerde onun nasıl çalıştığını tam olarak anlayamadığınızı" açıkladı. Bu sonuç, bilinmeyenin sinir ağlarına nasıl derinden gömüldüğünü düşündürür. Bu nöral sistemlerin açıklanamazlığı, neredeyse yetmiş yıl öncesine dayanan temel ve gelişimsel aşamalardan beri mevcuttur.
Bu gizem bugün de devam ediyor ve ilerleyen AI formlarında bulunacak. Taylor'ın makinesi tarafından yapılan çağrışımların işleyişinin anlaşılmazlığı, Cowan'ın "bunda şüpheli bir şey" olup olmadığını merak etmesine neden oldu.
Uzun ve karışık kökler
Cowan, birkaç yıl sonra kendi çalışmasının nasıl karşılanacağı sorulduğunda, Taylor'la yaptığı kısa ziyarete geri döndü. Cowan, 1960'larda insanların "bir analog sinir ağının amacını anlamakta biraz yavaş" olduğunu düşündü. Cowan, Taylor'ın 1950'lerdeki "analog nöronlar"a dayalı "çağrışımsal bellek" üzerine yaptığı çalışmasına rağmen, bunun böyle olduğunu hatırlıyor. Nobel Ödüllü sinir sistemleri uzmanı Leon N. Cooper, 1960'larda beyin modelinin uygulanmasıyla ilgili gelişmelerin "derin gizemler arasında" görüldüğü sonucuna vardı. Bu belirsizlik nedeniyle, bir sinir ağının neler başarabileceği konusunda bir şüphecilik kaldı. Ama işler yavaş yavaş değişmeye başladı.
Yaklaşık 30 yıl önce, sinir ağları için bulunan " dikkat çekici " uygulama yelpazesine şaşıran sinirbilimci Walter J. Freeman, onları "temelde yeni bir tür" olarak görmediği gerçeğini zaten yorumluyordu”. Önce teknoloji geliyor ve ardından bunun için sonraki uygulamalar bulunuyor. Bu zaman aldı. Gerçekten de, sinir ağı teknolojisinin köklerini bulmak için, Cowan'ın Taylor'ın gizemli makinesini ziyaretinden bile daha geriye gidebiliriz.
Sinir ağı bilimcisi James Anderson ve bilim muhabiri Edward Rosenfeld, sinir ağlarının arka planının 1940'lara kadar uzandığını ve kendi tanımladıkları gibi, "insan sinir sistemlerini anlamak ve bu şekilde hareket eden yapay sistemler kurmak için bazı erken girişimler olduğunu belirttiler . en azından biraz yapıyoruz ”. Ve böylece, 1940'larda, insan sinir sisteminin gizemleri aynı zamanda hesaplamalı düşünme ve yapay zekanın gizemleri haline geldi.
Bu uzun hikayeyi özetleyen bilgisayar bilimi yazarı Larry Hardesty, sinir ağları biçimindeki derin öğrenmenin "70 yılı aşkın bir süredir modası geçtiğine" dikkat çekti . Daha spesifik olarak, bu "nöral ağlar ilk olarak 1944'te, bazen ilk bilişsel bilim bölümü olarak adlandırılan bölümün kurucu üyeleri olarak 1952'de MIT'ye taşınan iki Chicago Üniversitesi araştırmacısı olan Warren McCulloch ve Walter Pitts tarafından önerildi" diye ekliyor.
Başka yerlerde, 1943 bazen teknolojinin ilk yılı olarak verilen tarihtir. Her iki durumda da, kabaca 70 yıl boyunca, hesaplar, sinir ağlarının modaya girip çıktığını, genellikle ihmal edildiğini, ancak bazen tutunduğunu ve daha ana akım uygulamalara ve tartışmalara geçtiğini gösteriyor. Belirsizlik devam etti. Bu erken geliştiriciler, araştırmalarının öneminin, genellikle yıllar ve bazen on yıllar sonra amacını bulana kadar gözden kaçtığını sık sık tanımlarlar.
1960'lardan 1970'lerin sonlarına doğru ilerlerken, bu sistemlerin bilinmeyen özelliklerine dair başka hikâyeler bulabiliriz. O zaman bile, otuz yıl sonra, sinir ağı hâlâ bir amaç duygusu buluyordu. Psikoloji geçmişi olan ve 1986'da yayınlanan ve daha sonra dikkatleri tekrar sinir ağlarına çekecek olan bir dizi kitabın ortak yazarı olan David Rumelhart, kendisini meslektaşı Jay McClelland ile sinir ağlarının geliştirilmesi konusunda işbirliği yaparken buldu.
Meslektaş olmanın yanı sıra yakın zamanda Minnesota'da Rumelhart'ın “hikayeyi anlamak” üzerine yaptığı konuşmanın delegeler arasında bazı tartışmalara yol açtığı bir konferansta karşılaşmışlardı.
Bu konferansın ardından McClelland, modelleri daha etkileşimli olacak şekilde birleştirebilecek bir sinir ağının nasıl geliştirileceği hakkında bir düşünceyle geri döndü. Burada önemli olan, Rumelhart'ın “bilgisayarda saatlerce, saatlerce ve saatlerce kurcalamayı” hatırlamasıdır.
Oturduk ve tüm bunları bilgisayarda yaptık ve bu bilgisayar modellerini yaptık ve onları anlamadık. Neden çalıştıklarını veya neden çalışmadıklarını veya onlar için neyin kritik olduğunu anlamadık.
Taylor gibi Rumelhart da kendini sistemle uğraşırken buldu. Onlar da işleyen bir sinir ağı yarattılar ve daha da önemlisi, bunun nasıl ve neden bu şekilde çalıştığından emin değillerdi, görünüşe göre verilerden öğreniyor ve çağrışımlar buluyorlardı.
Beyni taklit etmek - katman katman
Nöral ağların kökenlerini tartışırken beyin imgesinin ve bunun çağrıştırdığı karmaşıklığın asla çok uzakta olmadığını fark etmişsinizdir. İnsan beyni bu sistemler için bir çeşit şablon görevi gördü. Özellikle ilk aşamalarda, beyin - hala en büyük bilinmeyenlerden biri - sinir ağının nasıl çalışabileceği konusunda bir model haline geldi.
Dolayısıyla bu deneysel yeni sistemler, işleyişi büyük ölçüde bilinmeyen bir şey üzerinde modellendi. Nörobilgisayar mühendisi Carver Mead, özellikle çekici bulduğu bir "bilişsel buzdağı" kavramından açıklayıcı bir şekilde söz etti . Farkında olduğumuz ve görünen, bilinç buzdağının sadece görünen kısmıdır. Geri kalanının ölçeği ve biçimi, yüzeyin altında bilinmemektedir.
1998'de, bir süredir sinir ağları üzerinde çalışan James Anderson , sıra beyin üzerine araştırmaya geldiğinde, "en büyük keşfimizin, neler olup bittiğini gerçekten bilmediğimizin farkına varmak gibi göründüğünü" belirtti.
2018'de Financial Times'da yayınlanan ayrıntılı bir açıklamada , teknoloji muhabiri Richard Waters, sinir ağlarının "insan beyninin nasıl çalıştığına dair bir teori üzerinde modellendiğini ve verileri tanımlanabilir bir model ortaya çıkana kadar yapay nöron katmanlarından geçirdiğini" belirtti. Waters, "geleneksel bir yazılım programında kullanılan mantık devrelerinin aksine, bir bilgisayarın neden belirli bir yanıtla geldiğini tam olarak belirlemek için bu süreci izlemenin bir yolu olmadığı" için bu, zincirleme bir sorun yaratır, dedi. Waters'ın vardığı sonuç, bu sonuçların seçilemeyeceğidir. Verileri birçok katmandan alan bu tür beyin modelinin uygulanması, cevabın kolayca geri alınamayacağı anlamına gelir. Çoklu katmanlama, bunun nedeninin iyi bir parçasıdır.
Hardesty ayrıca bu sistemlerin "insan beyni üzerinde gevşek bir şekilde modellendiğini" gözlemledi. Bu, beyinle eşleşmeye çalışmak için her zamankinden daha fazla işlem karmaşıklığı oluşturma isteğini beraberinde getiriyor. Bu amacın sonucu, “yoğun bir şekilde birbirine bağlı binlerce hatta milyonlarca basit işlem düğümünden oluşan” bir sinir ağıdır. Veriler bu düğümlerden yalnızca bir yönde hareket eder. Hardesty, "tek bir düğümün, veri aldığı altındaki katmandaki birkaç düğüme ve veri gönderdiği üstündeki katmandaki birkaç düğüme bağlı olabileceğini" gözlemledi.
İnsan beyninin modelleri, bu sinir ağlarının en başından beri nasıl tasarlandığının ve tasarlandığının bir parçasıydı. Beynin kendisinin zamanın bir gizemi olduğunu (ve birçok yönden hala öyle olduğunu) düşündüğümüzde bu özellikle ilginçtir.
'Uyarlama bütün oyundur'
Mead ve Kohonen gibi bilim adamları, kendisini içinde bulduğu dünyaya gerçekten uyum sağlayabilecek bir sistem yaratmak istediler. Koşullarına cevap verecekti. Mead, sinir ağlarındaki değerin, bu tür bir uyarlamayı kolaylaştırabilmeleri olduğu konusunda netti. O sırada bu hırs üzerine düşünen Mead , uyarlama üretmenin "tüm oyun olduğunu" ekledi. Bu uyarlamanın gerekli olduğunu düşündü, "mutlak bir şey yapamayacak kadar değişken" olduğu sonucuna vardığı "gerçek dünyanın doğası nedeniyle".
Bu sorunun özellikle dikkate alınması gerekiyordu, çünkü bunun "sinir sisteminin uzun zaman önce çözdüğü" bir şey olduğunu düşündü. Bu yenilikçiler sadece beynin bir görüntüsü ve bilinmeyenleri üzerinde çalışmakla kalmıyor, bunu bir "gerçek dünya" vizyonu ve bunun getirdiği belirsizlikler, bilinmeyenler ve değişkenlikle birleştiriyorlardı. Mead, sistemlerin talimatlar olmadan koşullara yanıt verebilmesi ve uyum sağlayabilmesi gerektiğini düşündü .
1990'larda aynı sıralarda, matematik, psikoloji ve biyomedikal mühendisliği alanlarında çalışan bilişsel sistemler uzmanı Stephen Grossberg de adaptasyonun uzun vadede önemli bir adım olacağını savundu . Grossberg, sinir ağı modellemesi üzerinde çalışırken, kendi kendine, "biyolojik ölçüm ve kontrol sistemlerinin, hızla dalgalanan bir dünyaya gerçek zamanlı olarak hızlı ve istikrarlı bir şekilde uyum sağlamak için nasıl tasarlandığını" düşündü. Daha önce Kohonen'in "kendi kendini organize eden" bir sistem "rüyası"nda gördüğümüz gibi, "gerçek dünya" kavramı, tepki ve uyarlamanın bu sistemlere kodlandığı bağlam haline gelir. Bu gerçek dünyanın nasıl anlaşıldığı ve hayal edildiği şüphesiz bu sistemlerin nasıl uyum sağlayacak şekilde tasarlandığını şekillendirir.
Gizli katmanlar
Katmanlar çoğaldıkça, derin öğrenme yeni derinlikler kazandı. Sinir ağı, Hardesty'nin açıkladığı gibi, "alt katmana - giriş katmanına - beslenen eğitim verileri kullanılarak eğitilir ve sonraki katmanlardan geçer, karmaşık şekillerde çoğaltılır ve toplanır, ta ki nihai olarak radikal bir şekilde dönüştürülene kadar, çıkış katmanında”. Ne kadar çok katman olursa, dönüşüm o kadar büyük olur ve girdi ile çıktı arasındaki mesafe o kadar büyük olur. Örneğin oyunlarda Grafik İşleme Birimlerinin (GPU'lar) geliştirilmesi, Hardesty'ye ekledi, "1960'ların tek katmanlı ağlarının ve 1980'lerin iki ila üç katmanlı ağlarının on, 15 ve hatta 50'ye yayılmasını sağladı. günümüzün katmanlı ağları”.
Sinir ağları derinleşiyor. Gerçekten de, Hardesty'ye göre "'derin öğrenme'deki 'derin'in kastettiği şey" bu katmanların eklenmesidir. Bu önemli, çünkü "şu anda yapay zeka araştırmalarının hemen hemen her alanında en iyi performans gösteren sistemlerden derin öğrenme sorumludur" diyor.
Ancak gizem daha da derinleşiyor. Sinir ağlarının katmanları üst üste yığıldıkça, karmaşıklıkları da arttı. Ayrıca bu derinliklerde “gizli katmanlar” olarak adlandırılan oluşumların oluşmasına da yol açmıştır. Bir sinir ağındaki optimum gizli katman sayısı tartışması devam etmektedir. Medya teorisyeni Beatrice Fazi, "derin bir sinir ağının, nöronların ilk katmanı (giriş katmanı) ile son katman (çıkış katmanı) arasına sıkıştırılmış gizli sinir katmanlarına dayanarak nasıl çalıştığından dolayı, derin öğrenme teknikleri genellikle onları başlangıçta kuran programcılar için bile opak veya okunaksızdır”.
Katmanlar arttıkça (bu gizli katmanlar dahil), daha da az açıklanabilir hale geliyorlar - hatta, ortaya çıktığı üzere, onları yaratanlar için bile. Benzer bir noktaya değinen, önde gelen ve disiplinler arası yeni medya düşünürü Katherine Hayles da “sistem hakkında ne kadar bilgi sahibi olabileceğimizin, sinir ağı ve derin öğrenme algoritmalarındaki 'gizli katman' ile ilgili bir sonucun” sınırları olduğunu belirtti.
Açıklanamayanın peşinden gitmek
Birlikte ele alındığında, bu uzun gelişmeler, teknoloji sosyoloğu Taina Bucher'in "bilinmeyen sorunsalı" olarak adlandırdığı şeyin bir parçasıdır. Bilimsel bilgi konusundaki etkili araştırmasını yapay zeka alanına genişleten Harry Collins, sinir ağlarıyla ilgili amacın, bunların en azından başlangıçta bir insan tarafından üretilebilmesi olduğuna işaret etti , ancak "program bir kez yazıldığında, kendi hayatını yaşar. öyleydi; büyük bir çaba olmadan, programın tam olarak nasıl çalıştığı gizemli kalabilir”. Bu, kendi kendini organize eden bir sistemin uzun süredir devam eden hayallerinin yankılarına sahip.
Buna ek olarak, bilinmeyen ve hatta belki de bilinemez olan, bu sistemlerin en eski aşamalarından itibaren temel bir parçası olarak takip edildi. Yapay zekanın hayatımızda yarattığı etki ne kadar büyük olursa, nasıl ve neden olduğunu o kadar az anlama şansımız var.
Ancak bu, bugün birçok kişiye pek uymuyor. Yapay zekanın nasıl çalıştığını ve bizi etkileyen kararlara ve sonuçlara nasıl ulaştığını bilmek istiyoruz. Yapay zekadaki gelişmeler, dünyaya, ne keşfettiğimize, bize nasıl davranıldığına, nasıl öğrendiğimize, tükettiğimize ve etkileşime girdiğimize dair bilgimizi ve anlayışımızı şekillendirmeye devam ettikçe, bu anlama dürtüsü artacaktır. Açıklanabilir ve şeffaf yapay zeka söz konusu olduğunda, sinir ağlarının hikayesi bize gelecekte bu hedefe yaklaşmak yerine muhtemelen uzaklaşacağımızı söylüyor.
Professor of Sociology, University of York
