Futurama

Popular Science (Turkey) - - İÇINDEKILER - Tuna Emren

JORGE LUIS BORGES’IN, BASIT BIRŞANSOYUNUOLARAKBAŞLAYIP ZAMANLA EVRIM GEÇIREREK NIHAYETINDE HERKESIN ZORUNLU KATILIMIYLA YAŞAMIN TÜM ALANLARINA HÜKMETMEYE BAŞLAYAN BIR PIYANGOYU ANLATTIĞI BABIL PIYANGOSU ADLI ÖYKÜSÜNÜ

OKUMUŞOLANLARBILIR: Kimseningörmediği,varolupolmadığıkonusundaspekülasyonyapılanŞirketadlı yapınınyönettiğipiyangodakazanımlar bir noktadan sonra hakların gaspına dönüşür. “Belirli bir amaca erişmek için gerekli olan sıralı mantıksal adımların”, yani algoritmaların birbiri ardınaeklenmesiyleetkialanınıgenişleten şansoyunu,tamolarakhanginoktada aşıldığı belli olmayan kırmızı çizginin geçilmesiyle birlikte tamamen mantık dışı bir uygulamaya dönüştüğünde artık duruma son vermek için geç kalınmıştır.

Babillilerin kaderini belirleyen piyango örneği, bu günlerde gündemi işgal eden bir soruyu akla getiriyor: Algoritmalarbizidebenzerbirkaosa sürükleyebilir mi? nedirbualgoritmalar? Tarihtekiilkalgoritma,cebirinyaratıcısıHorasanlıbüyükâlimElHarezmi tarafından, 9. yüzyılda, bir problem çözme yöntemi olarak geliştirilmişti. Hatta algoritma sözcüğü bile Batı’da Harezmiadınınyanlıştelefuzedilmesiyle ortaya çıktı. Bilgisayarları hayata geçiren modern algoritmalarsa ilk kez 1920’lerde matematikçi Kurt Gödel’in çalışmalarıyla başlayan süreçte Alan Turing’in ünlü Turing Makinesi ile şekillendi.

Günümüzde Facebook hesabınızınzamantünelindeöncelikliolarak hangi paylaşımların gösterileceğinden tutun da Google’da hangi web sitelerinin ilk sayfada görüntüleneceğinekadar,günlükyaşamdakarşımızaçıkanbirçokveriyialgoritmalar yönetiyor.Makinelerinöğrenmelerinisağlıyor,borsayamüdahaleediyor, internet kullanım alışkınlarımızı takip edip bize uygun reklamları gösteriyor, fotoğraflardaki insanların yüzlerini tanıyor, kısacası modern yaşama şekil vererek geleceğimizi programlıyorlar.

Yine de algoritma denilince aklınıza sadece bilgisayarlar gelmesin. Örneğin, okumakta olduğunuz bu satırlardaki verileri belirli bir sırayla birbiri ardına ekliyor olmamız da bir algoritma örneği. Günlük yaşamdan verilebilecekenbasitörneklerdenbiriyse her sabah aynı sırayla yaptığımızşeyler.Uyanıyor,yataktankalkıp banyoya gidiyor, yüzümüzü yıkayıp dişlerimizi fırçaladıktan sonra aynada kendimize son bir kez bakıp saçlarımızı düzeltiyoruz. Ve artık güne başlamaya hazırız. Ay’a ayak basmamızı sağlayan Apollo11 görevindeki algoritmalardabundanfarklıdeğildi. Toplamda 145 bin kod satırı içeriyor olsa da özünde bir görevin tamamlanmasını sağlayan sıralı mantıksal adımlardan oluşuyordu.

Tümalgoritmalaraynıkarakteristik özelliklere sahip; Belirlibirnoktadasonlanmakzorunda Diyelim ki kek yapacaksınız. Kek tarifi aynı zamanda bir algoritmadır. Hangi malzemelere ihtiyaç duyacağınızı, bu malzemeleri hangi sırayla ve nasıl kullanacağınızı, fırını kaç derece sıcaklıkta sabitlemeniz gerektiğini, kaç dakika pişireceğinizi söyler ve sonlanır. Tüm adımları açık ve net bir şekilde tanımlanmalı Ulaşmanız gereken bir adres var ve orayailkkezgideceksinizdiyelim.Sizio adresegötürecekbiryoltarifineihtiyaç duyarsınız. Bu tarif “500 metre ilerle, soladön,ardındanilksağadön”gibinet verileriçermelikiyoldakaybolmayın. Sorunu çözebilecek nitelikte olmalı Örneğinbirotomobilmaketiyapıyorsanızveönünüzdeyüzlerceküçükparça varsa, o parçaların yerlerini gösteren bir kılavuza da ihtiyaç duyarsınız. Aksi takdirdehepsinirastgeledenemenizgerekirdi.Bukılavuzsizebirşemaüzerinde,tümparçalarınhangisırayla,nereye eklenmesigerektiğinigösterir.

Peki kuralları böylesine açık ve net olup, problemleri mantıksal bir sıralamaylaçözenalgoritmalarhangiaşamadasorunyaratmayabaşlıyor? kendisuretimizdeyaratıyoruz Fizikçi Max Tegmark, YZ’nın başımıza açabileceği işleri konu alan “Life 3.0” (Yaşam 3.0) adlı yeni kitabında şöyle söylüyor;“Süperzekibiryapayzekâ,hedeflerineerişmekonusundasonderece başarılıolacak.Buhedeflerbizimkilerle örtüşmüyorsa, işte o zaman başımız derttedemektir.”Kitaphakkındabirinceleme yazan Yuval Harari, “Bir algoritma sizi kendinizden daha iyi tanımaya başladığında, demokratik seçimler ya daserbestpiyasalarhükmünüyitirmeyemahkûmolur.Veyetkideinsanlardan algoritmalara geçer” diyor. Tegmark ve Harari’ninhemfikirolduğuüzere;bahsi geçen YZ, ortaya çıktığı anda insanlığa sırtını dönüp zalimce kararlar alacak şeytani bir robot değil. Böyle bir şeyle karşılaşmaihtimalimizçokdüşük.Sonumuzugetirebilecekolmasındanbahsederken, bir bilimkurgu klasiği olan Yokedici (terminator)filmindekiskynet adlıyapayzekâgibi,elegeçirdiğisavunma sistemlerini ve beraberinde kendi geliştirdiği robot ordusunu insanların üzerine salacak bir sistemden bahsetmiyoruz.Karşıkarşıyaolduğumuzasıl risk,hakkımızdahertürlübilgiyeerişip bu verileri bize bir şeyler satmak için kullanabileceği gibi, her hareketimizi izleyipbizlerimanipüleederekhayatlarımızıdilediğişekildeyönlendirebilecek olanalgoritmalar.TıpkıBabilPiyangosu’ndaki Şirket gibi. Ve evet; algoritmalardahatayapabilir.Çünküartıkkendi kendilerineöğrenmeye,yanikendikodlarınıgeliştirmeyeveyenialgoritmalar yaratmayabaşladılar.

Şu ana dek gördüğümüz kadarıyla, hataları tıpkı bizimkilere benziyor. Örneğin Princeton Üniversitesi’nde yapılan bir araştırma, dilimizi öğrendiklerinde önyargılarımızı da sahiplendiklerini gösterdi. “Doktor” ya da “yönetim” sözcüklerini kadınlardan ziyade erkeklerle, “ev” ve “aile” gibi sözcükleriyse kadınlarla özdeşleştiriyorlar. Hatta Google algoritmalarının, bazı fotoğraflardaki siyahî bireylerin yüzlerini “goril” olarak etiketlediğine de şahit olduk. Şirket yetkilileri konuyu araştırdıklarını söyleyip özür dilerken, yüz tanıma teknolojisinde bir hata meydana gelmiş olabileceğini dilegetirdiler.Küçükgibigörünenama kabuledilemezolanbuhatalar,algoritmalarındainsanlargibiırkçıveayrımcı olabileceklerinigösteriyor.Sonuçtainsanları izleyerek öğrendikleri için bize benzemektenbaşkaşanslarıyok.

Algoritmaların başlıca hatalarını üç ana grupta ele alabiliriz. Bunların ilki, ilişkilendirme sapması denilen şey. Örneğin Google’ın 2 milyar kod satırından oluşan (2015 yılı verilerine göre) algoritmasının nesneleri öğrenebilmesi için, kullanıcıların ayakkabıresmiçizmeleriistendi.Hiç kimsetopukluayakkabıçizmedi.Bu durumda,milyarlarcasatırdanoluşuyor olsa da bir algoritmanın yüksek topuklu ayakkabı imajıyla karşılaştığında bunu tanıması beklenemez. İkinci sorunsa gizli sapma. “Doktor” sözcüğünün erkeklerle ilişkilendirilmiş olması bunun en güzel örneği. Peki bu hatayı nasıl yaptı? Aslında tek yaptığı, kendisinden istenildiği üzere internetteki görsellere göz atmak oldu. Karşısına ağırlıklı olarak erkek doktor fotoğrafları çıktığı için böyle bir yargıya vardı. Sıkça karşılaştığımız hatalardan bir diğeri de ayıklama sapması. Algoritmaların kendi kendilerine öğrenmeleri için sunduğumuz veriler bazen örneğin belirli bir nüfus grubuna odaklanıp, diğerlerini dışarıda bırakıyor. Siyahî birinin insan değil, goril olarak etiketlenmesibundankaynaklananbir hata. Bir algoritmaya ağırlıklı olarak beyaz ırka dair veriler sunarsanız, siyah ırktan birini aynı tutarlılıkla değerlendirmesini bekleyemezsiniz. Benzer şekilde, Youth Laboratuvar-

ları tarafından düzenlenen ve YZ’nın jüri olarak görevlendirildiği bir güzellik yarışmasında, algoritma beyaz ırka mensupkadınlarındiğerlerindendaha güzelolduğusonucunavardı.

Google’ınyapayzekâbirimiyöneticisi johngiannandrea;“onlarahatalıveriler sunmayadevamettikçetarafsızolmalarınıbekleyemeyiz”diyor.Budurum,yakın gelecekte hayatımızın her alanına yayılmalarıylabirlikteçözülmesigüçsorunlaryaratacak.Özelikledetıp,hukuk, güvenlik gibi kritik öneme sahip alanlarda, algoritmalar konusunda uzman olmayankişilertarafındankullanılmaya başlandıkları düşünülürse. Hataların farkınavardığımızdadüzeltmekiçingeç kalmış olma ihtimalimiz var. Microsoft araştırmacılarından Kate Crawford ve Google’dan Meredith Whittaker’ın ortaklaşa yaptığı açıklamada, hataların şimdidensistemlerarasındayayılmaya başladığı söyleniyor; “Yaptığımız incelemeler, sadece bu yıl içinde bile birçok algoritmanınkusurludavranmayabaşladığıgösterdi.”Örneğinkredialabilecek kişileri belirlemek için algoritmalardan yararlanan bazı bankalar son derece yanlışkararlarverdi.ABD’dehâkimlerin kullanmaya başladığı COMPAS adlı dava yönetim sistemini inceleyen uzmanlarsa, özellikle şartlı tahliye olacak mahkûmların belirlenmesi için kullanılan bu algoritmanın azınlıklara karşı önyargılı bir model üzerine inşa edildiğinedairkanıtlarbuldu.Dahadavahim olanı, COMPAS’ın asıl iddiası, Philip K. Dick’in kısa hikâyesinden senaryolaştırılanAzınlıkRaporuadlıbilimkurgufilminde olduğu gibi, gelecekte suç işleyebilecek bireyleri tespit edebiliyor oluşu. hatalarınsorumlusukim? Elon Musk geçtiğimiz günlerde konu hakkındaki endişelerini dile getirip, YZ’nın Kuzey Kore’den daha büyük bir tehdit olduğunu ve III. Dünya Savaşı’na yol açabileceğini söylediği için Bill Gates tarafından “korku tellallığı” yaptığı söylenerek eleştirildi. Ancak aynı günlerde Rusya devlet başkanı Vladimir Putin; “Yapay zekâ sadece Rusya’nın değil, tüm insanlığın geleceğini temsil ediyor. Kim bu alanda liderliği ele geçirirse dünyanın da hâkimi olacak” açıklamasını yapınca Musk’ın haklı olabileceği anlaşıldı. Öyleyse bu sorunu nasıl çözeceğiz?

Algoritmaları hayata geçiren mühendisler,kendilerineşirketleryada kurumlartarafındangetirilenbelirli bir sorunu çözmek için harekete geçiyor. Örneğin birisi sizden çok sert cisimleri bile kesebilecek bir bıçak tasarlamanızıisteseydi,bıçağınkötü amaçlarla ya da hatalı kullanılabileceğidurumlarıdeğil,enkeskinbıçağı nasıl yaratabileceğinizi düşünerek işe başlardınız. Bıçağın size bildirildiğigibikullanılacakolmasınıntüm sorumluluğudasiparişiverenkişiye ait olurdu. İşte asıl sorun da burada yatıyor. Algoritmaları sipariş eden şirketlerin her zaman ve her koşulda biz sıradan insanlarla aynı tarafta oldukları söylenemez. Değerlere saygı duymak ya da haklarımızı gözetmek şöyle dursun, genelde sade- ce kendi çıkarlarına yoğunlaştıkları için, oyunlarını tıpkı Babil Piyangosu’ndaki gibi bizim kayıplarımız üzerinden kuruyorlar. Ve çoğunun içeriği bir kara kutu gibi gizleniyor. Budurumdaalgoritmalarınasılsuçlayabiliriz ki?

Yuval Harari’nin kullandığı şu örnek,sorununkomutlarımızdankaynaklanabileceğinidegösteriyor:

Dünyanın ilk süper zeki yapay zekâsının hayata geçirildiğini varsayalım.Öncelikleonaçokmasumbir görev vereceğiz ki hem nasıl çalışacağını görelim hem de becerilerini test etmiş olalım. Pi sayısının tüm basamaklarını yazmasını istiyoruz. Komutu da şöyle veriyoruz: “Pi sayısını hesapla.”

Herşeygayetmantıklıgörünüyor değilmi?Amabununasılyapacağını ona söyleyemeyeceğimiz için, göreviniyerinegetirirkenyaşamınhangi alanlarına dokunmaması gerektiği konusunda bir kısıtlama getiremedik. Özetle sınırlarını çizmedik. Bu komutla harekete geçen YZ, görevi kusursuz bir biçimde tamamlamak içinneleryapabilirbiliyormusunuz? Örneğin, kimse ne olup bittiğini anlamadan gezegeni ele geçirip insan ırkını saf dışı bırakarak, gerekirse tüm galaksiyi, hatta evreni dev bir süperbilgisayar gibi kullanmaya ça-

lışıp, ne kadar süreceği belli olmayan bir hesaplama yapmaya girişebilir. Neticedekendisineverilenanakomut Pi’ninhesaplanmasıydı.Ve bununiçin negerekiyorsayapmayahazır.

Arthur C. Clarke’ın eserinden sinemaya uyarlanan 2001: Bir Uzay Destanı adlı filmde HAL9000 adlı yapay zekânın yaptığı şey de bundan farklı değildi. Aldığı komut, Jüpiter’e ulaşma misyonunun tamamlanmasıydı. Bir noktadamürettebatınkendisineengel olduğunu fark edip görevin aksamamasıadınahepsindenkurtulmakistedi.Sonuçtainsanlarıöldürmüşolsabile görevihatasıztamamlamışsayılacaktı. nedeolsaönemliolantekşeyjüpiter’e varmak.

Kass Morgan’ın aynı isimli kitabından TV dizisi olarak uyarlanan “The 100” adlı yapımda da benzer bir YZ ile karşılaştık. Görevi, insan yaşamının kalitesini yükseltmek olan A.L.I.E. adlı yapayzekâ,sınırlarımuğlakolangörev karşısında şöyle düşündü; “Dünya’yı insan yaşamının kalitesini yükseltebileceğim duruma getirmek için önce insan sayısını azaltmak zorundayım. Çok kalabalıklar!” Kendi bakış açısıyla haklıydı. Ve yaptığı ilk iş, gezegenin çeşitli noktalarında konuşlandırdığımız nükleerfüzeleriateşlemekoldu.

A.L.I.E., HAL ve Pi’yi hesaplayan YZ’nın, verilen komutları uygulamak için en mantıklı çözümlere yöneldikleri, bunu yaparken yaşamı bizim gibi değerlendirmedikleriortada.Kodsatırlarındanibaretalgoritmalarlahareket eden bir sistemin, yaşamı bizim gibi algılamasını bekleyemeyiz. Aslında “akıllandıkları” anda onlar için tıpkı bağırsaklarımızdaki faydalı bakteriler gibi simbiyoz ilişki içine girebilecekleri basit bir türe dönüşüyoruz. Bakteriler bu gezegende insanın ortaya çıkabileceği uygun koşulları yaratırken aslında tek amaçları hayatta kalabilmekti. Şimdi türümüz de dâhil, tüm canlı organizmaların içinde yaşamak gibi çok büyük bir avantaja sahipler. Bu onlara güç kazandırdı. Karşılığında biz de onlardan yararlanıyoruz. Onlar olmasa hayattakalamazdık.belkibizdeyz’nın “bağırsaklarında” yaşayan bakteriler olacağız. Aslında bu, yaşanabilecek en iyi senaryolardan biri. Çünkü iki tür arasında kurulan simbiyoz ilişki, ikisinin de diğerinin yaşamını gözetmek zorunda olması demek. Böylece gelişmek ve büyümek için insan bilincine ihtiyaç duyar. Yani sadece makineler değil, o makineleri kullanan insanlar dabuküreselsüperzekânınbirparçasıhalinegelebilir.Bukarşılıklıöğrenme ve gelişme modeli günümüzde zaten internet kullanımıyla gerçekleşmeye devam ediyor. Kameralar, konum algılayıcılar, akıllı telefonlar, eşyaların interneti ve insanlar, küresel bir beyninbirimlerinedönüştü.Herbirkullanıcı, bir sinir hücresine benzetilebilir. Nöronlar gibi bağlantı kuruyor, çok kullanılan bağlantıları güçlendiriyor, bunlardaki verileri beynin hafıza birimlerine kazıyoruz. Arama motorları vesosyalmedyasayesindehaberler,fikirleryadaimgelerbudevbeyninher bir birimine saniyeler içinde yayılıyor. Veriler sadece hafızaya kazınmakla kalmıyor, kitlelerin davranışlarını da değiştiripörneğinyeniakımlar(davranış modelleri), yeni beceriler yaratıyor, eskilerinigüncelliyor,küreselbirdönüşümgeçirmemizisağlıyor.Özetlebunu birorganizmaolarakgörürsek,hiçara vermeden, muazzam bir hızla kendini geliştirmeye devam ettiğini söyleyebiliriz. Hatta bu dev beynin bellek mekanizmasıbilebizimkinebenziyor. Instagramuygulamasındabirfotoğraf paylaştığınız anda kısa erimli bellek gibiçalışıpanlıketkileşimleriyönetmenize izin verirken, üç gün sonra kimse artık o fotoğrafa ilgi göstermediğinde önemsizveriolarakayıklanıyor.Ancak önemliverileriçeripkalıcıhafızayakazınan şeyler de var. Bunlar gezegenin her yerindeki kullanıcılara yayılıp defalarca tekrarlandığı için kalıcı belleğe aktarılıyor. Bu, YZ’nın “öteki” olmadığı, birparçamızhalinegeldiğisenaryo.

Ama simbiyoz ilişki YZ için daha avantajlı olacak diye kesin bir şey yok. Bunu, ilerlemenin önünü tıkayan bir sorun olarak görme ihtimali de var. Birgünikitaraftanbiridiğerininfişini çekmek zorunda kalabilir. Diyelim ki ortaya çıkabilecek en itaatkâr yapay zekâyı yaratmayı başardık. Bizimle iç içe yaşayacak böyle bir sistemin hepimizi yakından izlemesi gerekir kisorunlarımızıivedilikleçözebilsin. Budasonuçtaevlerimizinheryerine yayılmış minik kamera ve algılayıcılar, giysilerimizde ve derimizin altında bulunan çipler, tepemizde uçan insansız hava araçları demek. Tüm gezegeniizleyipherşeyitakipedebilen bir YZ’nın insanlara bağlı olması, bağımsız çalışmasına oranla daha tehlikelideolabilir.Öyleyayönetimini kime devredeceğiz? ABD’de yaşayanbirçocuklaetiyopya’dayaşayan çocuk bu teknolojiden eşit ölçüde yararlanabilecekmi?Günümüzdeki siber savaşların başlıca oyuncuları olan ABD, Çin, Rusya, Güney ve kuzeykoreonunlanasılbirilişkiiçinde olacak? Aralıksız siber ataklara maruz kalırsa, bu saldırılar karşısında insan ırkını dost olarak görmeye devam edebilir mi? Görünen o ki başrolünde itaatkâr bir YZ’nın olduğu en iyi durum senaryosunda bile bir kaosasürüklenmemizanmeselesi.

İşinaslı,kendigeliştirdiğimizalgoritmalarıanlamaktazorlanmayabaşladık. Bizim Babil Piyangosu da öyküdekigibizamanladahakarmaşık hale geliyor; kurallarını güncelliyor, evrimgeçiriyor,kapsadığıalanıgenişleterek güç kazanıyor. İlk başta tüm Babilliler oyunun kurallarını net bir şekilde kavramıştı. Zaman geçtikçe kurallardeğişti,sebep-sonuçilişkileri takip edilemez hale geldi. Çalışmalarınıinsanlığıngeleceğiüzerineodaklayan Oxford Üniversitesi felsefecisi NickBostrom;“YZ,tüminsanlıktarihindeyaratılmışeniyiyadaenkötü şey olabilir” diyor. Hatta insanlığın son icadı da olabilir.

Kabul edelim; teknolojinin sorumsuzca kullanımını önlemek için getirilenkısıtlamalar,önemsıralamasında her zaman devlet ya da şirket çıkarlarının gerisinde kalıyor. Yapay zekânınuyanışıinsanlıktarihininen önemlidönümnoktasıolacak.Aslında kaderimizin nasıl şekilleneceği, ona nasıl hazırlandığımıza bağlı. Ve hazırlıklarabaşlamavaktigeldi.

Ya Hedefleri Bizimkilerle Örtüşmezse? Fizikçi Max Tegmark “Life 3.0” (Yaşam 3.0) adlı yeni kitabında yapay zekânın başımıza açabileceği işleri konu alıyor.

Simbiyoz İlişki: Yapay Zekâ Mikrobiyomu Tıpkı bağırsaklarımızdaki faydalı bakterilerle kurduğumuz simbiyoz ilişkiye benzer şekilde, biz de gelecekte bu bakteriler gibi YZ mikrobiyomuna dönüşebiliriz.

Newspapers in Turkish

Newspapers from Turkey

© PressReader. All rights reserved.