“Sizden daha zeki bir şeyi kontrol edemezsiniz.”
“İnsanların bunun çok ciddi bir problem olduğunu bilmesini istiyorum.”
“Yapmak istediklerini bize yaptırmak için insanları nasıl manipüle edeceğini çözecek, çünkü bizden öğreniyor.”
Bu sözler 2024 Nobel Fizik ödülünü alan iki isimden biri olan Geoffrey Hinton’a ait. Ödülü paylaştığı John Hopfield ile birlikte bugün yapay zeka olarak adlandırdığımız nöral ağların kaşifleri, büyükbabaları “godfather”ları olarak kabul ediliyorlar. Bu yüzden de Nobel Fizik ödülüne layık görüldüler. Evet “fizik” ödülü… Pek de fizikle alakası yok gibi, daha çok bilgisayar bilimleri. Tabii bu durum fizikçileri ikiye ayırdı. Kimisi fizik bu değil derken, kimisi de birçok fizikçinin yapay zekayı kullanmasını ve geliştirmesini örnek göstererek “fizik, fizikçilerin yaptığıdır” diyerek destek gösterdi.
Fakat bana kalırsa, bu tartışma, esas tartışmamız gereken konunun üstünü örttü. Nobel komitesinin seçtiği isim, sadece yapay zekanın kaşiflerinden değil. Hinton uzun zamandır çalıştığı Google’daki üst düzey pozisyonunu bırakmış ve yapay zeka konusunda dünyayı uyarmaya başlamış bir isim. Yapay zekayı geliştirmeye adanmış 50 yıldan sonra, geleceğindeki tehlikeyi görüp, insanları uyarmayı kendine misyon edinmiş bir öncü de aynı zamanda. Bu tehlikeyi nasıl gördüğünü anlamak için, ödülü alan keşiflerine yakından bakmamız gerekiyor.
1940’larda araştırmacılar insan beyninin nasıl çalıştığına, nasıl öğrendiğine dair fikirlerini makineler üzerinde nasıl kullanabileceklerini düşünmeye başladılar. Bildiğiniz gibi beynimiz nöron adı verilen yapılardan oluşuyor ve bu nöronlar birbirlerine sinapslar aracılığıyla bağlanıyor. Yani beynimiz kocaman bir ağdan oluşuyordu, yani bir netten.. Net değil dur, net net net… Hah, “network”ten oluşuyordu. İşte böyle kelimeleri hatırlayamadığımız durumlar, aslında nöronların birbirine zayıf bağlı olduğu kısımları temsil ediyor. Eğer “ağ” kelimesiyle “network” kelimesini yeterince bir arada öğrenseydim, bu ikisi arasındaki bağlantı daha güçlü olacaktı ve ben de daha kolay hatırlayacaktım.
Araştırmacılar işte bundan ilham aldılar. Bunu matematiksel modellere dönüştürmeye ve makinelere nasıl uygulayabileceğimizi düşünmeye başladılar. Nöronlar yerine “node”lar tanımladılar. Bunların her biriyle olan bağlantısını da, onları eğitirken ne kadar ilişkili olduklarına göre belirlediler. Bu “node”ların her birine bir değer atandı ve onlara bir şey öğrettiğimizde, komşu ikili eğer aynı anda aktive oluyorsa bu değeri artırdık. Böylece birbirleriyle ne kadar ilişkili olmaları gerektiğinin bir yolunu bulmuş olduk.
Kendisine Nobel ödülü verilen isimlerden Hopefield 1982’de bir yapı geliştirdi ve bu yapıya bugünbilin bakalım ne diyoruz? Hopefield network’ü diyoruz. Bazıları da “çağrışım belleği” (associative memory) adını veriyor. Peki ne yapıyor bu yapı? Örneğin ona böyle bir şey gösterdiğinizde, o çağrışım yapabildiği en yakın şeye bunu geri döndürmeyi başarabiliyor. Hopefield’ın bu çağrışım belleği aslında tepelerden oluşan coğrafi bir yapı olarak düşünülebilir. Eğitilen her modelin kendi bir coğrafi yapısı var. Ve siz buna tepeden bir top bıraktığınızda, örneğin şekli bozulmuş bu “Barış” yazısını bıraktığınızda, o tepelerden yuvarlanarak sabit durabileceği bir noktaya kadar ilerliyor. Hani “ su akar, yolunu bulur” lafı var ya, işte onun gibi… Bu noktaya geldiğinde “Barış” yazısı artık düzeltilmiş oluyor. Yapay zeka ile görüntü oluştururken de başta bize tamamen “gürültülü” görünen görsel, adım adım sonuca işte böyle ulaşıyor. Her tepeyi geçip düzlüğe yaklaştıkça, düzeltilmiş haline biraz daha yanaşıyor. Bu sonuca ulaşabilmesini sağlayan da, o coğrafyanın nasıl bir şekle sahip olduğu; yani nasıl ve neyle eğitildiği. “Coğrafya kaderdir” sözüne yeni bir perspektif!
Hopefield’ın Nobel ödülünü paylaştığı Hinton da yine 80’li yıllarda psikoloji ve yapay zeka üzerine çalışmalar yapıyordu. Bir çocuğun tıpkı hayvanları öğrenmesi gibi örüntüler yakalayarak sınıflandırmalar yapılabileceğini fark etti. Mesela çocuklara kedilerin köpeklerin detaylı grafiklerini göstermesek de onların dört bacağı olan canlılar olduğunu öğreniyorlar. Görerek öğreniyorlar. Kuzu görünce bunu kediyle ilişkilendiriyor ama farklılıklarını da görüyor, çünkü kuzu keçiye daha çok benziyor! İşte zihnimizin bu yapısını modelleyebilmek için Hinton, istatistiksel mekanikten yardım alıyor. Yani fizikten.
Fizikte istatistiksel mekanik, birçok ufak şeyden oluşan karmaşık bir yapının davranışlarını inceler. Örneğin bir gazın bir oda içerisindeki hareketi… Her bir gaz taneciğinin bağımsız olarak hareketini bilemesek de, bunların kolektif olarak hareketlerini modelleyebiliriz. İşte ısıttığımızda oda içerisinde nasıl dağılacak; basıncı artırır ya da başka bir gaz eklersek ne olur… Fizikte bu konularda en çok bilinen isim ise Boltzmann. Hinton onun denklemlerini kullanarak yeni bir metot ortaya atıyor ve adına da “Boltzmann makinesi” diyor. Hopfield’ın networkündeki node’lara ek olarak bu sistemde bir de altta yatan görünmez bir katman daha var. Bilgi burada yine görünen node’lara verilip okunuyor, fakat onların nasıl davranacağı üzerinde görünmez olan katman da etkili. Boltzmann makinesi nasıl çalışıyor biliyor musunuz? Hani bir arkadaşınızın kardeşini gördüğünüzde onların kardeş olduğunu bir şekilde anlarsınız ya, diğer insanlardan farklıdır ve bir şekilde kardeşini andırır. İşte Boltzmann makinesi de daha önceden bildiği bir şeyin özelliklerini, yeni gördüğü ama bilmediği bir şeyde ayırt edebiliyor.
Bu öncü araştırmalarından dolayı da Hopfield ve Hinton’a Nobel Fizik Ödülü layık görüldü. Tabii birçok fizikçi haliyle bunun pek fizikle alakalı olmadığını, diğer önemli araştırmaların gözardı edildiğini söyledi. Hatta Nobel’in sitesine girdiğinizde bile karşınıza “They used physics to find patterns in information” yani “Bilgide örüntüleri bulmak için fizik kullandılar” başlığı çıkıyor. “Fizik kullandılar”, yani bunun tam anlamıyla fizik olmadığının Nobel komitesi de farkında. Öte yandan yapay zeka, şu anda bütün bilim alanlarında büyük devrimler yaratıyor. Fizikçilerin önemli bir çoğunluğu mezun olduktan sonra yapay zeka araştırmalarına başlıyor. Ya da fizikle alakalaı yayınlanan araştırmaların önemli bir kısmı yapay zeka içeriyor.
Konunun önemi kuşkusuz. Kesinlikle ödülü hak ediyor. Fakat bence bu “Yok fizikti yok değildi” tartışması esas tartışmanın üstünü örtüyor. Bence ödülün verildiği konu kadar, kime verildiği de önemli. Hinton, Google’daki üst düzey pozisyonundan ayrılıp yapay zekaya karşı bizi uyarmaya kendini adamış bir isim. Bakın ne diyorum: Yapay zekanın büyükbabası, bizi yapay zekaya karşı uyarmak için işini bıraktı. Nobel komitesinin maksadını bilemem ama bana biraz da “Bakın. Yapay zeka güzel. Bilimin her alanını hızlandırdı. Ama hype’a kapılıp tehlikelerini görmezden gelmemeliyiz” mesajı vermeye çalışıyorlar gibi de geldi. Kendisi OpenAI gibi giderek popülerleşen ve bu arada kuruluş amacını kaybetmeye başlayan şirketlere karşı bir duruş da sergiliyor. Örneğin kendi öğrencisinin OpenAI patronu Sam Altman’ı kovmasından gurur duyuyor. Kim bu öğrenci? Ilya Sutskever. Yaşana bu dramayla ilgili ayrıntılı bir video hazırlamıştım. Daha sonra bu fotoğraftaki herkes tek tek ayrıldı ve sadece Sam Altman kaldı. Yani yapay zeka konusunda kaygılı isimlerle, yok ya bize bir şey olmaz diyenler arasındaki saflar giderek keskinleşiyor. Bu son Nobel ödülü kaygılı kişilerin en önemli ve saygın temsilcisine gitmiş oldu.
Her yıl Nobel ödülleri dağıtıldığında bir takım tartışmaları da beraberinde getiriyor. Bu yıl da öyle oldu. Pek çok tartışma arasında bu da fizik mi? Sorusu tartışılmaya devam ediyor ama ben ısrarla yapay zekaya karşı duruş sergileyen birine ödül vermenin bu konuda daha önemli bir mesaj olduğunu söylüyorum.
Bakın Hinton Yapay zekanın büyükbabası olarak kanbul ediliyıor dedik değil mi? Ve kendi sebep olduğu şeye karşı uyarıyor. Yani gerçek Dr. Frankenstein ve onun yaratığı gibi bir durum var ortada. Tabii Hinton yaratığı yok etmeye çalışmıyor. Onun bu uyarıları yapay zekayı durduralım demek değil. Hatta böyle bir kampanya başlatıldı ve birçok ünlü isim destek verdi. İçlerinde Hinton’ın olmasını beklersiniz değil mi? Destek vermeyenlerden biri Hinton’dı. Bakın bu konu hakkında ne diyor:
“Durdurmaya çalışmak bana hiç gerçekçi gelmedi. Siz durdursanız bile Çin durdurmayacak”.
MIT’den Daron Acemoğlu da Power and Progress kitabında bu konuya değiniyor. Simon Johnson’la yazdığı kitapta teknolojinin kendisinin iyi ya da kötü olmadığını söylüyorlar. Asıl sorun kimin kontrolünde olduğu… Nasıl bir toplumsal düzene hizmet ettiği… Yani Hinton’ın da söylediği gibi, yapay zekayı ya da herhangi bir teknolojiyi durdurmak veya gelişimini yasaklamak yerine, önemli olan bu teknolojinin nasıl ve kimler tarafından kullanılacağını tartışmak. Bu kitapta “dijital otoriterlik” deniyor. Eğer mevcut eğilimler değişmezse, yeni dijital otokratlar ya da diktatörlerin çevresinde dijital oligarklar türeyecek, yapay zekayı kullanan bu gruplar da zenginleri daha da zenginleştirecek ve işçi sınıfının ya da orta sınıfın elinden daha fazla gücü alacak.
Tarihsel olarak geçmişte ne zaman önemli teknolojik gelişmeler olsa, insanlığı bir adım öteye götüreceği için heyecanlandık. Götürdü de. Fakat aynı zamanda geriye de götürdü. Üretim kapasitesini artırdı, ama zengini daha zengin, fakiri daha fakir yaptı. Bazen demokrasiye karşı tehlike oluşturdu. Enerji problemini çözmek için nükleer enerjiyi geliştirdik. Nükleer santrallerle enerji sorunumuza çözüm getirdik. Ama aynı bilgiyle atom bombasını da icat ettik. İnsanlığa büyük bir yıkım getirdi. Ancak atom bombaları kullanıldıktan sonra, bu silahların bir daha kullanılmaması için hukuki mücadelelere giriştik.
Keşfediyoruz, heyecanlanıyoruz ve pervasızca kullanıyoruz. Ardından hatayı anlayıp, düzeltmeye çalışıyoruz. Fakat her zaman bu şansımız olmayabilir. Hukuk, teknolojinin hızına yetişemediğinde, başımız belaya giriyor. Ve günümüzün atom bombası… Yapay zeka. Sadece kansere çözüm aramak, karanlık maddeyi bulmak, sanatsal fotoğraflar oluşturmak için kullanılmıyor. Ülkelerdeki seçimleri etkilemek, insanları manipüle etmek, sahte görsellerle şantaj yapmak için de kullanılıyor. Artık savaşlar sadece topla tüfekle yapılmıyor. Her gün gardımızı indirip, yüzümüze doğrulttuğumuz ekranlar üzerinden bize saldırılarak yapılıyor. Üstelik en değerli şeyinize saldırıyorlar. Beyninizdeki nöronlara…
Avrupa ülkeleri bunun önüne geçmek için yasal düzenlemelerin peşinden koşuyor. Yeni haklar oluşturuyorlar. Çünkü hukuk, aynı zamanda “önleyicidir”. İşleyen bir hukukla, insanlarımızı koruyabiliriz. Kabahat teknolojide değil. Gelişen teknolojiyle birlikte gelişmiş bir ahlak anlayışına da sahip olmak zorundayız. Teknolojiye yaptığımız yatırım kadar, hukuka da yatırım yapmak zorundayız. Sadece yapay zekacı fizikçilere değil, yapay zekacı hukukçulara, liderlere de ihtiyacımız var.
Hinton, çözüm için şu sözleri söylüyor:
“Durdurmaya çalışmak yerine, yapay zekayı geliştirmeye harcadığımız kaynaklar kadar, onun olası yan etkilerini inceleyen ve önleyen kaynaklara yatırım yapmalıyız.”
Teknolojiye, uzaya çıkmaya, elektrikli araçlar geliştirmeye, karanlık maddeyi araştırmaya ayırdığımız kaynaklar kadar, insan olmaya da kaynak ayırmalıyız. Zira insan olamadığımız bir yerde, diğer hiçbir şeyin önemi yok.