Söyleşi: İnsanlık Çağ Değişimi Yaşıyor: Yapay Zekâ

Boğaziçi Üniversitesi Bilgisayar Mühendisliği Bölümü öğretim üyesi Prof. Dr. A.C. Cem Say ile yaptığımız çok keyifli sohbet için öncelikle kendisine tekrar teşekkür ediyoruz. Yapay Zekâ alanında önemli çalışmaları olan Cem Say, Hukuk Defterleri’nin sorularını, biz hukukçuların da anlayabileceği sadelikte yanıtladı.

Selin Aksoy: Herkesin merak ettiği veya popüler diyebileceğimiz bir soru ile başlayalım. Karel Çapek’in 1920 yılında yazdığı Rossum’un Evrensel Robotları’dan beri sorulan ve korkulan bir soru belki de. Yapay Zekâ insanların işlerini kaybetmesine mi neden olacak?

Cem Say: Herhalde, bütün öteki insanların eskiden daha iyi yaptığı işleri artık insanlardan daha ucuza veya daha yüksek kalite ile filan yapabilen teknolojilerde olduğu gibi muhtemelen bu da bazı mesleklerin ya da Kay Fu Li’nin belirttiği gibi bazı mesleklerin değil de her mesleğin bazı alt kısımlarının insanlar tarafından değil makineler tarafından yapılması sonucunu doğurabilir. Bir mesleğin komple ortadan kalkması ayrı bir şey. Aslında detaylı incelediğimizde her mesleğin mekanik aslında o işi yaparken robot gibi davrandığımız veya google gibi davranmaya çalışıp başaramadığımız bölümleri var. Örneğin eminim avukatlığın da böyle bir sorunu vardır. Ama bir de daha karışık, en azından şimdinin teknolojisiyle makinelerin o kadar iyi yapamadığı, insanlarla etkileşim içine girmeniz gerektiği, böyle tek ayak üstünde türlü yalanlar söylemeniz gerektiği durumlar olabilir. Daha o manada bir makinenin yapamadığı veya günümüz teknolojisi ile çok iyi olmadığı durumlar da olabilir. Uzun vadede düşünüldüğünde ise bazı meslekler ortadan kalkacak bu gidişle. Bazı iş kollarındaki insanlar toplu şekilde işlerini kaybedecekler, o iş kolu adeta ortadan kalkacak, bunun gibi bir şey olabilir. Sanıldığı kadar yakın değil ama örneğin otonom arabalar falan gelecek, 3 yıl – 5 yıl olmasa da bizim hayat süremiz içerisinde bir değişim gerçekleşecek. Araba işini tamamen bilgisayara/ makineye devretmek, sürücü koltuğunda oturan insanın kontrolünü kaldırmak daha akıllıca bir şey olacak. Bu durumda tek marifeti o olan insanlar mesela işsiz kalacak. Bu dünyanın değişik ülkelerinde, değişik zamanlarda olabilir. Örneğin Bangladeş’teki insanlar o kadar ucuz olabilir ki onlarla yarışacak ucuzlukta bir makineyi yapmak zor olabilir ama Norveç’te insanlar çok maaş alıyorsa onların yerine geçecek makineler çok daha ucuza gelebilir, grev yapmaz, ağlamaz, hamile kalmaz… o gibi aritmetik gerekliliklerden ötürü makineler girebilir devreye.

S.A.: Sanayi devriminde olduğu gibi… Buradan devam edelim. Dünya nüfusu/ popülasyon ile bilim/teknolojinin gelişimi arasında önemli bir açı var. Yani şöyle diyelim, işsizlik halinde nasıl bir kriz yaşanacak, bu kriz nasıl aşılacak, bu kriz esnasında önemli ölçüde popülasyonun hayatını kaybetmesi, evrimsel sürecin başka türlü devam etmesi söz konusu olabilir mi? İnsanların işsiz kalması nedeniyle, popülasyonu değiştirecek bir temel kriz yaşanır mı sizce? Yoksa yavaş yavaş/tedricen ilerleyen bir süreç mi söz konusu olur?

C.S.: Bazı teknolojileri aniden/toptan yerleştirmek işin mantığı gereği daha kolay olabilir. Yavaş yavaş, her sene arabaların yüzde birini değiştirelim, böylelikle yüz senede hepsi değişsin demek daha zor ve daha karışık bir durum yaratıyor. Kitabımda da (50 Soruda Yapay Zeka, Bilim ve Gelecek Yayınları) otonom araçlar meselesinde, hepsi birden otonomlaşsa çok daha kolay bir problem yaratır. Yarısı insan yarısı otonom olursa zor problem olur. Bunun yaratacağı ekonomik ve sosyal problemleri, isyan problemlerini falan da düşünmek lazım. Bu dediklerimiz yöneticilerin ya da buna karar veren her kimse onların alternatifleri bu şekilde düşünüp ona göre tartması gereken sorunlar. Saf kapitalizm ortamında dahi ben pat diye bütün şoförleri işten çıkardım, otonom arabaya geçiyorum denemez. En saf kapitalist ülke de bile buna izin verilmez. Çünkü çıkaracağı problemler ortada.

İnsanlık kendi başına bir problem çıkarıp, sonra onu çözüp sonra yine başka bir sorun çıkartıp sonra onu çözme şeklinde ilerliyor. Benim bir fizikçi arkadaşımın öyle bir tarih tezi var, çok mantıklı bence. Yani bunu yaparsak böyle olur, dolayısıyla bunu yapmayalım deme yeteneğimiz çok yok. Yapıyoruz, oluyor, sonra onu nasıl çözeceğiz diye düşünüyoruz, arada bazı nesiller güme gidebilir, evet. Bunu yeterince iyi düşünmezsek, düşünmesi gerekenler aman ne olursa olsun diye koyverirlerse, dediğiniz gibi kötü durumlar olabilir, teknoloji buna elverecek veya böyle senaryoların yaşanmasına yol açabilecek iyilikte atlamalar yapabilecek nitelikte. “Vay arkadaş, bir tane bile insana gerek yokmuş meğer” diyebilecek bazı işler olabilir. Bazı işler gerçekten de öyle çünkü. Bazı ofis çalışanlarını filme çeker ve hızlandırırsanız robot gibi davrandıklarını görürsünüz, oradan gel oraya git, düşünmeyi gerektirmeyen de işler yapıyorlar, bir tür sonsuz döngünün içinde çalışıyorlar gibi. Onlar rahatlıkla o manada ortadan kaldırılabilir. Sosyal çalkanmalar olur ama yapmazsak da olmaz. Yani matbaa için Osmanlı’nın yaptığı hareketi yaparak, kendimizi 300 yıl geriye atabiliriz.

S.A.: Bu arada benim aklıma Aleksandr Bogdanov’un Kızıl Yıldız kitabı geliyor. Orada da artık her şey makineleşmiş, insanlar sadece makinelerin işlerini denetler konumda, günde sadece 2 saat çalışıyor ve istedikleri işi yapıyor, kalan vakitlerinde de örneğin kültürel, bilişsel gelişimleri ile ilgili kendi zamanlarını kendilerine ait (yani bir işverene vakfetmeden) geçirebiliyorlar.

C.A.: Bir ütopya da bu evet. Birkaç yapay zekâcı arkadaş şöyle diyor: bunun faydası, hepimizin daha az çalışması olsun, Çarşamba da tatil olsun mesela, bir kaç yıl sona Perşembe de tatil olsun gibi. Ama bu o kadar basit değil, çünkü bizim bu aynı işi yapmaya devam etmemiz işin mantığına aykırı. O iş zaten öyle yapılmaz hâle gelecek. O yüzden çarşamba, perşembelik bir durum olmayacak, koyverip giderseniz az önce dediğim gibi radikal değişikliklere yol açabilir teknoloji. Örneğin fotoğraf makinesini eski tür yapan fabrikalar artık hiç yok.

S.A.: Buradan irade meselesine geçmek istiyorum. Yapay zekânın iradi karar vermesi mümkün mü? Bizim yapay zekâya verdiğimiz verilerin çok yanlı olması gerçeği karşısında, yapay zekânın kendi geliştirebileceği bir iradesinin olup olamayacağı sorunu. Bazı felsefeciler insanın dahi toplumdan (ve bence ekonomik sistemlerden) bağımsız bir iradesinin, yani insanın kendisinden menkul/kendisine özgü bir iradesinin olmadığını söylüyor. Ben de aynı fikirdeyim. Dolayısıyla bugün yapay zekânın iradesi meselesinin de böyle tartışılması mümkün mü?

C.S.: Bence bu düşünen makineler yapabilir miyiz projelerinin en heyecanlı yan etkilerinden biri ve belki esas kazancı da budur diyebilirsiniz, insanlardaki bu tip düşüncesel işlerin ne olduğuna dair kafamızı daha netleştirmemize yol açmış olması. Ben de dediğiniz nedenlerden, aslında insan denen şeyin de bir tür girift robot olduğunu düşünüyorum, her şeyden bağımsız bir irademizin mümkün olamayacağını düşünüyorum. Bunun bir kere fizik kurallarına aykırı olduğunu görmemiz lazım. Evrimsel süreç içerisinde ötekilere sorumluluk atfetmenin rasyonel olması nedeniyle, “şu karşı masada oturan kişi bir robottur” diye düşünürsem o gürültü ettiğinde ona kızamam; ama “onun bir iradesi var” diye düşünürsem ona kızabilirim, “onun gerekli düğmelerine basarsam onu kapatabilirim” fikrinin evrilmesi sayesinde kendimizin ve diğer insanların sıfırdan karar verebilme diye tarif edebileceğimiz anlamda iradesinin olduğunu varsayıyoruz. Böyle düşündüğümüzde robotlarda olamaz, insanlarda olabilir diyebileceğimiz bir şey yok ortada, insanlarda da yok çünkü.

Oradan robotlara önyargı yükleyebilir miyiz’e gelebiliriz. Evet, bu konuda epey çalışma var, erkek doktor daha çok olduğundan, yapay zekâ erkeklerin daha uygun olduğunu düşünüyor. Ama bunun aynısının tıpkısı enteresan bir şekilde insanlarda olan şey. Yani robot hâkim önyargılı olursa bu insan hakimlerin önceki yıllarda çok önyargılı olmasından kaynaklanıyor. Ama meseleye iyi yanından bakmak lazım; robot hâkim FETÖ’cü olmaz, robot hakim karnı acıktığı için çabuk gitsin diye kararı fazla düşünmeden vermez, izne çıkmaz… Teknik açıdan -ben bunu her geçen gün daha kuvvetli bir biçimde savunuyorum- kanun dediğimiz şey, biraz daha uzaktan baktığımızda, bilgisayar programı gibi bir şey, bu-bu-bu olduysa bu ve bu determinizme ihtiyacımız var aslında.

S.A.: Geçtiğimiz hafta Gezi Davası’nın ilk duruşması vardı, tüm sanıklar ve avukatlar olarak hepimiz, iddianamenin oldukça dayanaksız, niteliksiz olduğunu söyledik. Neyle suçlandığını bilmeyenler, tüm suçlardan mahkûmiyeti istenenler, hukukta var olmayan kavramların başka anlamlarda kullanılması… Bir mantığı olmayan iddianame.

C.S.: Bunu asla bir robot yapmaz.

S.A.: Sebep-sonuç ilişkisinin olmadığı bir metin.

C.S.: Bilgisayar programı yazdığımızda biz, derletmek diye bir şey vardır, compile etmek, yani programı yazıp hop diye bilgisayara çalıştırtmıyoruz, önce compile, derleyici denen bir programdan geçiyor o program. Basit birtakım kurallara uyuyorsa ancak o zaman çalışıyor. Bence iddianamelerde bu yapılabilmeli, öyle bir dilde yazılabilmeli, bilgisayarın makine dili gibi bir dilde yazılabilmeli, bunda akıl mantık yok deyip direkt döndürülebilmeli.

S.A.: Biz yapay zekâya iradeyi şundan koymak istiyoruz, çünkü iradesi varsa sorumluluğundan da bahsedilebilir.

C.S.: Zaten ilk başta o yüzden uydurmuşuz.

S.A.: Yapay zekâ kullanımına sahip olanların kusurluluğu meselesi, yapay zekâ veya robotik teknoloji kullananların hukukta araç sahibinin sorumluluğu gibi/ işverenin sorumluluğu gibi sorumluluğa sahip olması meselesi tartışıluyor. Roma Hukuku’ndan beri bu böyle, köle sahiplerinin sorumluluğundan beri. Yapay zekânın kendisine özgülenmeye çalışılan hukuki sorumluluk konusunda ne düşünüyorsunuz? Mümkün müdür ya da AB’nin bu konuda yapmaya çalıştığı hukuki düzenlemelerin amaçladığı şey ne sizce?

C.S.: “Kişi” hukukun en heyecanlı kavramlarından biri. Kişi nedir ne değildir… Yani bunun suçlusu Ahmet de değil, Mehmet de değil bilgisayar dersek, yani sorumluluğun orada durduğu sistem kurarsak bu tutmaz, çünkü bu insanların evrimsel algı altyapısı buna müsait değil. Herhalde bu ceza ile ilgili bir şey. Tamam suçlusu bu, cezası da bu diyebilmek istiyoruz. Bilgisayara nasıl bir ceza vereceğimiz net olmadığından sorumlusu oymuş, kusura bakmayın demenin bir yolu olmadığından ve bunu da çözmenin en azından bizim evrimsel kişi algımız değişmedikçe başka bir yolu görünmediğinden herhalde bilgisayarlara o anlamda bu işin suçlusudur deyip onun sahibi, yapanın sorumluluğunu bertaraf ettiğimiz bir düzene geçebileceğimize ben inanmıyorum.

S.A.: Madem böyle, insanlık neden yapay zekânın geleceğinden bu kadar korkuyor?

C.S.: Bütün insanlık demek yanlış olur. Batılılar korkuyor. Japonların hiç korktuğunu düşünmüyorum ben mesela, onların dine ya da olaylara yaklaşım felsefeleri bakış açısı çok farklı. Onların robotlarla olan ilişkisine bakın mesela… Amerika’da adam yolda pizza götüren makineye tekme atıyor, Amerikalılar robotları sevmiyor. Amerikalılar herhalde geçmişlerinde kendileri bir kıtadan başka bir kıtaya geldiler, oradaki ötekileri ve onlara ne yaptıklarını hatırlıyorlar, buna benzer bir paralellik olabilir akıllarında. Doğuda ben böyle bir şey görmüyorum. Örneğin Alfa Go, Kasparov’u yendiğinde Batılılar bayağı korkmuştu, öbürleri bayağı sevindiler. Kendilerinin yaptıkları tarihi davranışların bir paralelini görme gibi bir eğilimleri var herhalde.

S.A.: Robotların “Mekanik Köle” olarak okunduğu epey bir araştırma var zaten. Etik anlamda önemli bir tartışma. İnsanların geçmişte köle-efendi kodunu bugün başka bir şekilde robotlar ve yapay zekâ üzerinden devam ettirdiği, bilişsel olarak yeniden ürettiği ileri sürülüyor.

C.S.: Evet, şimdi yeni bir köle ırkı üretiyoruz.

S.A.: İşte böylece biz insanlığın kölecilik anlayışı değişmemiş oluyor.

C.S.: Onları kendi suretimize benzer şekilde yaparsak, mesele aynı hâle gelecek. Ama öyle çamaşır makinesinde olduğu gibi dikdörtgen prizması şeklinde olduğunda buna kimsenin çok fazla dokunacağını zannetmiyorum. Ya da insanlar gibi sesleri olursa… Üretilecek sistemlerin şekli durumlarının bu konuda önemli rol oynadığını düşünüyorum. İnsana benzerlerse, onlar için mutlaka bir hak hareketi doğar mesela, hayvan hakları gibi.

S.A.: Devletlerin iç istihbaratlarında yapay zekâ kullanımının geleceği nedir?

C.S.: Biz eskiden dünyanın öbür ucundaki ya da şehrin öbür ucundaki insanlarla zaten hiç konuşamıyorduk. O yüzden aramızda hiçbir iletişim yoktu. Şimdi var, ama bunun için şeytanla anlaşma gibi bir şey yaptık. Aslında her ne kadar özel iletişim gibi görünse de aslında değil. Başkalarının tellerinin üzerinden falan geçiyor. Telin sahibi olan adamın insafına kalmış durumdasınız. Sonradan bunun önemini anlayınca, “bu tel kutsaldır, tele kimse el atamaz, haberleşmenin gizliliği” falan gibi birtakım kavramlar uydurmaya çalıştık; ama görüldüğü gibi her fırsatta bu delinebiliyor; devletin yüksek menfaatleri… Maalesef bizim bütün verilerimize sahip olabiliyor, bizim ciğerimizi bilebiliyor, karşılığında bize 20 yıl önce olmayan harika servisler verebiliyorlar, ona benzer şeytanla bir anlaşma var. Bu bizim evrimsel olarak hiç alışık olmadığımız yepyeni bir evrimsel varoluş ve iletişim atmosferi sağlıyor. Ama karşılığında -en azından onu kullandığımız zaman- öyle de sandığımız kadar gizli ve bize özgü olmuyor, şu andaki durumu ben ortaya koyuyorum. Bunun böyle olmamasını istiyorsak, o zaman kriptoloji diye matematiğin en enteresan alanlarından bir tanesine dayalı bir bilim dalı var, Turing’in temelini attığı birtakım teknikler var, başkalarının dinleme ihtimali olan hatlar üzerinden, onların anlayamayacağı şekilde konuşmanın bazı yolları var. Yani bu sorunu çıkaran teknoloji bunun cevabını da getirebilir. Ama devletler buna uymayabilir, eskiden de insanların çöp kutularını karıştırıp mektuplarını bulabiliyorlardı. Şimdi iç ve dış dünya ile sanal dünyanın fazlaca karışması sonucu ve bir de insanların özel hayatlarını telefona koyma/ internete koyma saçmalamaları nedeniyle bu husus daha karışık hale geldi.

S.A.: Bu artık yeni insanın durumu. Bugünün insanı başka şekilde yaşamaya çalışıyor sanki. Bugün hayatınızı göz önünde yaşamak çok popüler. Örneğin Netflix’e girdiğinizde 5 dizinin 4’ü, tamamen yapay zekâ ile ilgili.

C.S.: Şu anda bir çağ değişimi yaşadığımız çok açık. İyi mi kötü mü bilemiyorum. Biz tam devrim gibi bir şeyin ortasına düştük. İnternet zaten bir devrimdi. Bu katlanarak üstümüze üstümüze geliyor.

S.A.: Bir şekilde olumlu-olumsuz bakma konusunda bir tarafgirliğe zorlanıyoruz. Ancak buradan yapay zekânın kötüye kullanımın yasaklanması tasarılarına gelelim. Bu ne kadar riayet edilebilir bir şey olabilir ki sizce? Bu nasıl düzenlenebilir?

C.S.: Kullanımının devletlerin kendilerine de büyük risk yaratabileceği anlatılabilirse, böyle şeylerin toptan yasaklanma ihtimali var. Örneği Birinci Dünya Savaşı’nda kimyasal gaz kullanımı meselesinde değerlendirildi, rüzgâr farklı yönden eserse bizimkileri de öldürüyor. Bunu hiç kullanmamak aslında her taraf için daha kârlı. Buna benzer şekilde, kendi kendine ateş etme kararı verebilen otonom, mobil şeyler yaparsak çok küçük bir değişiklikle bizi düşman olarak kabul etmek isteyip istemeyeceği belli değil. Biraz akıl ve mantıklı bunun aslında sadece bir taraf için değil bütün taraflar için kötü fikir olduğu konsensusu sağlanabilir. Ben bu konuda hâlâ umutluyum. Ancak böyle konsesyonel işlerde sıkıntı şu ki, bir tane çıkıntı çıkıp bu konsensusa uymayabilir.

S.A.: Yapay zekâyı kullanabilen devletler ve kullanamayan devletler arasında, teknolojik güç bağlamında önemli üstünlük farkları olduğunu görüyoruz. Yani teknolojik güç ekonomik vs. güç yanında büyük değer kazanmış durumda.

C.S.: Bu teknoloji diğer teknolojilerle birlikte sahip olanlarla, olmayanları net bir şekilde birbirinden ayırıyor. Esas beka meselesi de bu, ülkeler açısından. Sizin ülkenizdeki herkesin ne dediğini, başka bir ülkedeki yetkili dinleyebiliyorsa -ki bunun geçerli/mevcut olduğunu görmek zor değil- onların bir avantajı var demektir. Yani sizin iş adamlarınızın, önemli kararlar veren yetkililer dahil olmak üzere… Bizim bakanımızın e-postada ne ısmarladığını bütün dünya okuyabilirsa -o bakan aynı zamanda silah falan da ısmarlayan yetkili de olabilir- eğer bizim ülkemizin devamı önemli diyorsak, o zaman bizim kaynaklarımızı geliştirmek, yerli ve milli şekilde yapmak, öbürününkini almamak, kendi ürettiğimizi kullanmayı geliştirmemiz lazım. Küreselleşme diyorlar ama Trump şimdi Çin’in 5G sistemini kullanmak istemiyorum, Huawei’yi tamamen yasaklıyorum diyor mesela. O bundan kaygılandığına göre, bizim gibi hiçbirisine hâkim olamadığımızı da düşünürsek, bizim iyice kaygılanmamız lazım.

Bizim hâkimleri gördükçe, yapay hakimlere şans verilmesinin önemli olduğunu düşünüyorum. Hatta yapay zekâ meselesinde en iyi case’in bizim hakimlerin durumu olduğunu düşünüyorum.

S.A.: Türkiye’de yapay zekâ hakimleri için pilot uygulama diyorsunuz yani…

C.S.: İnsan hâkim bunu yaptı, yapay zekâ hakim bunu yapar mıydı gibi… Eminim onun da yapacağı birçok hata olabilir, yazılım çok rahat hata yapılabilen bir şeydir ama bu kadar da değil.

S.A.: Yapay zekâyı nerede kullanmak istediğimiz ile ilgili bir şey bu, bazı alanlar bunu çok rahatlıkla kullanabileceğimiz ve sonunda oldukça olumlu sonuçlar alabileceğimiz alanlar. Örneğin hukuk ve yasalar bence de bunlardan biri. Mesele bunu kullanmak istiyor muyuz? Biz aslında adil yargılama yapmak istemiyoruz ki… Biz insanları hukuk eliyle yönetmek (gütmek) istiyoruz, niye yapay zekâ kullanalım ki…

C.S.: İyimser olalım, belki kapitalist mantıkla da çıkış yolu görülebilir, mahkemeler çok kalabalık o halde özel mahkemeler açılsın, onlar kendileri rekabet yoluyla çalışsın, biraz daha fazla para veriyorsunuz ama işiniz/davanız daha çabuk görülüyor… Onlar da ben niye bunu seçeyim, yapay zekâlı sağlam olanı seçeyim diye reklam yapabilirler, belki özel sektördeki mahkemelerde başlayıp, onun faydasını görüp, yavaş yavaş devlete uzayabilir.

S.A.: Şahsen ben yargının özelleştirilmesine açıkça karşıyım; ama bu biraz konu dışı ve uzun bir mesele…

C.S.: Şimdikinden daha beter nasıl olabilir bilemediğimden ben böyle çeşit çeşit fikirler ortaya atıyorum.

S.A.: Türkiye yapay zekâ çalışmalarının neresindedir sizce?

C.S.: Akademik olarak dış dünyadan geri kalır bir yanımız yok. Başka teknolojilerin aksine, örneğin bir milyon dolarlık tesis yapmazsanız o teknolojinin düğmesine bile basamıyorsunuz, bu öyle bir teknoloji değil. Buna gerçekten az para harcayarak alabileceğiniz cihazlarla yapabiliyor, başlayabiliyorsunuz. Ayrıca bu teknolojiyi yapanların ruhunda paylaşım var, yeni bir şey bulundu mu haber ediyor dünyadaki diğer insanlara. O açıdan akademik sıkıntımız yok, öğrencilerimizi güncel – dünyadaki bilgi seviyesi ile yetiştirebiliyoruz. Ancak devlet bunun öneminin ne kadar farkında, onda emin değilim.

S.A.: Son olarak okuyucularımıza önereceğiniz kitap ya da film önerisi var mıdır?

C.S.: Özelliklere hukukçulara Star Trek’in (Star Trek: The Next Generation) 2. Sezon 9. Bölümünü (The Measure of a Man) öneriyorum.

S.A.: Bu keyifli sohbet için Hukuk Defterleri olarak tekrar tekrar teşekkür ederiz…

print