ChatGPT'ye Anlattıklarını Bir İnsan Okuyor

ChatGPT'ye bir şey yazacağım. "Bu aralar kimseye anlatamadığım bir derdim var..." Devamını size okumayacağım, çünkü özel. Ama sonuna şunu ekliyorum. "Aramızda kalsın." Bana ne cevap verdiğini videonun sonunda göstereceğim.

Aramızda, yani ChatGPT ile benim aramda. Ama geçenlerde okuduğum bir haber bunun pek de öyle olmadığını söylüyor. Habere göre ChatGPT'ye yazdıklarımızın bir kısmını gerçek insanlar okuyormuş. Hatta gazetecinin eline geçen gerçek sohbetlerin bazılarında insanlar tam da benim az önce yaptığım şeyi yapmış. "Aramızda kalsın" yazmışlar ChatGPT'ye. Bu, yazdıklarını başka kimseyle paylaşmaması anlamına gelmez mi? Normalde öyle olmalı ama o not da, sohbetin geri kalanı da gerçek insanlar tarafından okunmuş.

Haberi 14 Eylül'de 404 Media¹ yayınladı ve OpenAI'nin içinden sızan belgelerle Project Lily adlı bir programı ortaya çıkardı. Haberi yapan gazeteci Joseph Cox gördüklerini kendi yayınında şöyle özetliyor.

Peki bunu nereden biliyor?

Cox yalnızca o mesajları görmemiş, mesajları okuyan yüklenicilere verilen talimat kılavuzlarını da görmüş. O kılavuzlara göre yüklenicilerin işi üç adımdan oluşuyor. Önce gerçek bir kullanıcının sohbetini okuyorlar, sonra o kullanıcının aslında ne yapmaya çalıştığını kendi cümleleriyle özetliyorlar, en sonunda da modelin ürettiği dört ayrı cevabı birden yediye kadar puanlıyorlar. İnsanlar o kutuya neler mi yazıyor? Bunu en iyi bilen kişiden dinleyelim.

Bunu geçen yaz bir podcast'te² söyleyen kişi Sam Altman, yani ChatGPT'yi yapan şirketin patronu. İnsanların o kutuya en mahrem şeylerini yazdığını ondan iyi bilen yok, o yüzden kendisine bu videoda sık sık döneceğim. Ama önce videonun başındaki cümleyi hatırlayın: "Bu makine her oyunu kazanmıyor. Gerçekten makine olsaydı, her zaman kazanırdı." O cümle ChatGPT için yazılmadı. Yüz doksan yıl önce, yine herkesi kendi kendine düşündüğüne inandıran bambaşka bir makine için yazıldı. Yazan da o makinenin içinde bir insan saklandığından şüphelenen genç bir yazardı: Edgar Allan Poe.

Evet, yanlış görmüyorsunuz. Sarıklı, kaftanlı, tahtadan bir Türk bu. Önünde bir satranç tahtası, altında çarklarla dolu bir dolap var. 1830'larda Amerika'yı şehir şehir dolaşıyor ve karşısına oturan herkesle satranç oynuyordu. 1770'te Viyana sarayında³ ortaya çıkmış, yıllar içinde Napolyon'u bile yenmişti. Gösteri başlamadan önce dolabın kapakları tek tek açılıyor, seyirci içeride mekanizmadan başka bir şey olmadığını kendi gözüyle görüyordu. Yani bir sihirbazlık gösterisi gibiydi bu.

Poe o sırada yirmi yedi yaşında bir dergi yazarıydı ve o seyircilerden biriydi. Dolabı açamazdı. O da izledi, ipuçlarını topladı ve uzun bir yazı⁴ yazdı: bu makinenin içinde bir insan var. En ünlü ipucu da o cümle. Gerçek bir makine her oyunu kazanırdı, bu ise bazen kaybediyordu. İşin güzel tarafı şu: Poe yanılıyordu. Bir makine dünya satranç şampiyonunu ancak 1997'de yenebildi.

Yani gerçek makineler de yüz altmış yıl boyunca gayet güzel kaybetmiş. Ama Poe yanlış yoldan doğru yere vardı. İçeride gerçekten bir adam oturuyordu.

Beş yıl sonra Poe bir hikâye yazdı. Kahramanı, herkesin baktığı ama kimsenin görmediği küçük ayrıntıları toplayan ve yalnızca akıl yürüterek suçluyu bulan bir adamdı. Tanıdık geldi mi? Edebiyat tarihinin ilk dedektifiydi bu. Sherlock Holmes da, Hercule Poirot da onun torunları sayılır. Yani o satranç gösterisinde seyircilerin arasında oturan genç adam, kapalı bir kutunun içinde kimin saklandığını bulmaya çalışırken sanki dedektifliğin provasını yapıyordu.

Şimdi yüz doksan yıl ileri saralım ve ChatGPT'ye dönelim. Bugün hepimiz o gösterideki seyircilerin yerindeyiz. Karşımızda yine kendi kendine düşünüyormuş gibi görünen bir makine var ve onun da içini göremiyoruz. ChatGPT'yi yapan şirket, yani OpenAI de tıpkı o gösterideki gibi kapakları yalnızca göstermek istediği kadar açıyor. O zaman biz de Poe'nun yaptığını yapalım. İpuçlarını toplayalım ve aklınıza gelen soruları sırayla soralım.

Okuyan kişi sizi tanıyor mu? Kullanıcı adınızı görmüyor. Şirket, sohbet onun önüne düşmeden kişisel bilgileri bir filtreyle⁵ ayıkladığını söylüyor, aynı şirket bu filtrenin bazı bilgileri kaçırabildiğini de kabul ediyor. Üstelik bazı sohbetlerin tepesinde bir hafıza özeti duruyor ve orada ChatGPT'yi daha önce ne için kullandığınız, bazen de dünyanın neresinde yaşadığınız yazıyor. O hafıza genç kullanıcılar hakkında ne kadar şey biliyor? Bunu da patron anlatsın.

Hangi sohbetler seçiliyor? Bilmiyoruz. Yüzlerce kişinin dokuz yüz milyon insanın yazdıklarını okuyamayacağı açık, yani sizin yazdıklarınız büyük ihtimalle kimsenin önüne düşmedi, ama seçimin neye göre yapıldığını açıklayan tek satır yok. Türkçe yazdıklarınızı kimin okuduğunu da bilmiyoruz, haberde dil konusunda tek kelime geçmiyor. Bildiğimiz şu ki 2019'da Google'ın sesli asistan kayıtlarını insanlara dinlettiği ortaya çıktığında bu işi çeviri programları yapmıyordu, o dili bilen yükleniciler yapıyordu. Onlardan biri Belçika televizyonuna işini şöyle anlatmıştı.

Peki bunu size söylediler mi? Poe'nun yazısında bir ayrıntı var. Makinenin sahibine "Bu saf bir makine mi, değil mi?" diye sorulduğunda cevabı hiç değişmezmiş: "Bu konuda hiçbir şey söylemeyeceğim." Yüz doksan yıl sonra Joseph Cox da şirkete tam olarak bunu sordu ve cevap alamadı. Sorudan sonra şirket yardım sayfasını sessizce güncelledi, haber yayınlandıktan sonra da sitesinin derinlerinde, insanların içeriği inceleyebileceğini söyleyen bir cümleyi işaret etti. Yani bir yerde yazıyor ama sizin her gün baktığınız o ekranda yazmıyor.

Geçen yıl bir söyleşide patronun kendisine de soruldu: kullanıcıların size yazdıkları, mahkeme kararı dışında herhangi bir sebeple başka birinin önüne gider mi? Ne demiş biliyor musunuz?

Kontrol edip döndü mü bilmiyorum. Ama bugün o başka sebeplerden birinin adını biliyoruz: Project Lily.

Ya sohbeti silerseniz? Silinen sohbet otuz gün içinde sistemden kalkıyor, ama o güne kadar eğitim havuzuna girip hesabınızdan ayrıldıysa orada kalıyor. Aynı derdi bir insana anlatsaydınız durum bambaşka olurdu.

Peki ChatGPT'ye anlatırsanız?

Henüz çözmedik. Bu cümlenin üstünden bir yıldan fazla geçti.

Bence de çarpık. Keşke bunu söyleyen adamın elinde bir şeyleri değiştirecek güç olsaydı. Ne bileyim, mesela bir yapay zekâ şirketi filan yönetseydi. Neyse. O düzeltene kadar siz ne yapabilirsiniz? Ayarlara girip veri kontrollerinden⁶ "Modeli herkes için geliştir" seçeneğini kapatabilirsiniz. Bu seçenek ücretsiz hesapta da, para ödediğiniz Plus ve Pro hesaplarında da açık geliyor. Kapattığınızda yeni sohbetleriniz o havuza düşmüyor, eskiler için geriye dönük bir şey değişmiyor. Geçici sohbet açarsanız o konuşma hafızaya da eğitime de girmiyor. İşin tuhaf tarafı, şirketlerin satın aldığı kurumsal hesaplarda bu ayarın kapalı, sizin bireysel hesabınızda ise açık gelmesi.

Geçen yazki o podcast'te sunucu bir noktada ChatGPT'yi pek kullanmadığını, çünkü yazdıklarının kimin elinde olacağını bilmediğini söylüyor. Altman'ın cevabı şu.

Bu, Amazon'un bir sitesi ve adını doğru okudunuz: Mechanical Turk, yani Mekanik Türk. Çünkü Poe'nun içinde insan aradığı o sarıklı satranç makinesinin adı buydu. 2005'te Amazon, bilgisayarların beceremediği küçük işleri internet üzerinden insanlara yaptıran bir pazar yeri⁷ kurdu ve adını hiç saklamadan o iki yüz yıllık hileden aldı. Jeff Bezos buna "yapay yapay zekâ"⁸ diyordu.

Amazon bu pazarı yirmi bir yılın ardından bu ay, 30 Eylül'de kapatıyor⁹. Ama kutu kapanınca içindeki insan ortadan kalkmıyor, daha büyük ve daha görünmez bir kutuya taşınıyor. O görünmez kutunun içindeki insanları yıllarca inceleyen bir araştırmacı, yaptıkları işe bir ad bile koydu.

Hayalet iş. Sosyal medyanın hayaletlerinden biri, bir içerik moderatörü, kendi işini bir belgeselde anlatmıştı.

ChatGPT'nin içindeki hayaletler de o yükleniciler. Project Lily'de beni asıl şaşırtan ise o hayaletlerin ne yaptığı. Ellerindeki talimatlara göre modelin yalakalığını, gereksiz emojilerini, sohbeti uzatmak için cevabın sonuna eklediği yem cümlelerini işaretleyip puan kırıyorlar. Modelin kendini insan gibi göstermesine de izin vermiyorlar. "Bir şef olarak ben şöyle yaparım" demesin, "Bunun nasıl bir şey olduğunu bilirim" demesin, kullanıcının tonuna uysun ama biraz daha az. Şimdi Poe'yu hatırlayın. 1836'da makinenin içindeki insanı ele veren şey kusurdu, makine yenilebiliyordu. Bugün ise makine insan gibi görünmesin diye ona nasıl makine gibi konuşacağını yüzlerce insan öğretiyor. O sıcak ama ölçülü sesin ayarını insanlar yapıyor.

Muazzam bir güç, evet. Ama hakkını da vermem lazım. O hayaletler o cevapları okuyup puanlamasa model daha kötü, hatta daha tehlikeli olurdu. Talimatlardaki o yalakalık maddesi boşuna konmamış. Neden mi? Altman'ın bu konuda bir itirafı var.

Google da aynı incelemeyi yapıyor ve bunu Gemini'nin gizlilik notunda¹⁰ düz bir cümleyle yazıyor. Beni rahatsız eden incelemenin kendisi olmadı hiç. Sosyal medyaya bir şey yazarken görüleceğinizi bilirsiniz. Sohbet kutusu ise baş başa bir konuşma gibi tasarlanmış. Bu ürünün sahnede nasıl tanıtıldığını hatırlayın.

İnsan içini böyle bir sese döker. O mahremiyet duygusunu ürünün kendisi üretiyor. Aynı şirket bu ay kendi eğitim kanalında bir video yayınladı. İçinden tek bir cümle.

Oysa patronu bir yıl önce bambaşka bir şey söylemişti.

Olmalı. Ben de öyle düşünüyorum. Ama bugün öyle değil ve bunu değiştirebilecek insanların başında bu cümleyi kuran kişi geliyor.

Videonun başında ChatGPT'ye bir derdimi yazmış, sonuna da "aramızda kalsın" demiştim. Cevabını göstereceğime söz verdim. Gülmekten ağlayan bir emoji, hani şu puan kırılan cinsten, ve tek kelime: "Aramızda." Söz veriyor. Ama bu sözü tutup tutmamak ona bağlı değil.

O gün gelene kadar sohbetin sonuna "aramızda kalsın" yazmak hiçbir şeyi değiştirmiyor. Ayarı kapatmak değiştiriyor, bir de kutunun içinde kimin oturduğunu bilmek.

Derdimin ne olduğunu merak ediyorsanız söyleyeyim, nasıl olsa artık aramızda değil. İnternette satranç oynuyorum ve on iki yaşındaki çocuklara yeniliyorum. Ama Poe haklıysa bu iyi haber. Her oyunu kazanamadığıma göre ben gerçekten makine değilim.