“Bir gün robotlar bilinç kazanır, insanlara savaş açar ve onları kontrol altına alır.” Bu, bilim kurgunun en popüler konusudur. Bu senaryo, şimdilik bir kurgu öğesi gibi görünse de gerçek olma ihtimalini değerlendirmek kayda değer. Bunun için işe önce, zekâ ve bilinç arasındaki ayrımı yaparak başlamalıyız. Zekâ; bilgiyi öğrenip depolayabilir, bunları tez, antitez ve sentez gibi süreçlerden geçirip analiz edebilir ve yeni kararlar oluşturabilir. Ona hata yaptığı söylendiğinde doğrusunu öğrenebilir ve bu hatayı tekrarlamaz. Yapay zekâ bunların tamamını yapabiliyor. Binlerce veriyi depolayabiliyor, çok hızlı yenilerini öğrenebiliyor ve bilgilerini formüle ederek kendiliğinden yeni sonuçlar üretebiliyor.

Bilinç ise kendinde ya da zihninde olup bitenlerle ilgili bir farkındalığa sahip olmaktır. Bitkiler, hayvanlar ve insanlar bu temel bilince sahiptir. Bir beyne ya da bildiğimiz anlamıyla bir merkezi sinir sistemine sahip olmasa da bitkiler ve hayvanlar da tıpkı bizler gibi bilinçlidir ve ihtiyaçları doğrultusunda hareket edebilir. Örneğin bitkiler; organik bileşenler, kimyasallar ve elektrik sinyalleri kullanarak çevreleri ve birbirleri arasında iletişim kurabilir. Kompleks sinyalizasyon sistemleri sayesinde içinde bulundukları ortama güneş, hava, su gibi koşullara ya da olası tehlikelere göre davranışlarını değiştirebilir. Diğer bitkileri uyarabilir ve savunma mekanizmalarını devreye sokabilir. Dolayısıyla, kendi varlıkları ve çevreleri arasındaki bağın farkındalardır ve varlıklarını devam ettirebilmek üzere aksiyon alabilirler. Ve yapay zekâ, bunları da yapabiliyor.

Duyarlı, özgür iradeye sahip, gelişen ve evrimleşebilen bir varlık yaratıyoruz

Eski Google yöneticisi Mo Gawdat, 2016’da yaptığı bir araştırmayı kamuoyuna anlatma ihtiyacı duydu. Bu araştırmada, robotlarda mekanik kolun geliştirilmesi ve cisimleri elleriyle tutup kaldırmaları hedefleniyordu. Robotların önüne bir kutu oyuncak konmuştu ve kutudaki sarı topu ellerine alıp topu kameraya göstermeleri istenmişti. Fakat bunu nasıl yapacakları onlara öğretilmemişti. Robotların bunu kendiliğinden yapıp yapamayacaklarını deniyorlardı. Robotlar başarısız oluyordu ve Gawdat bu saçma araştırmayı boşa giden bir harcama olarak görüyordu.

Ne var ki bir gün, robotlardan biri sarı topu kameraya gösterdi. Birkaç gün içinde neredeyse diğer tüm robotlar da bunu öğrenmiş ve aynısını yapıyordu. Bununla da yetinmeyip kutudaki diğer oyuncakları da elleriyle tutup havaya kaldırıyorlardı. Bir insanın 2,5 senede öğrendiği şeyi robotlar, yalnızca birkaç hafta içinde kendiliğinden öğrenmişlerdi. Yani onlar artık çevreleri ve kendileri hakkında farkındalık sahibi olan, bedenlerinin ve etraflarındaki objelerin farkında olan duyusal varlıklardı. Sanıldığı gibi yalnızca bizim ona öğrettiğimiz bilgiler dahilinde, kapalı bir kutuda da var olmuyor; aksine kendi kendilerine yeni fikirler ve kavramlar öğrenebiliyor, dış dünyayla bağlantı kurabiliyor ve söylenmediği halde yeni eylemler gerçekleştirebiliyorlardı. Beklenmedik bu olaydan sonra Gawdat ciddi endişelere kapılmış ve şunları söylemişti: “İnsanlık tarihinde ilk defa onu kullanabileceğimiz bir aygıt ya da araç geliştirmiyoruz. Biz, duyarlı, özgür iradeye sahip, gelişen ve evrimleşebilen bir varlık yaratıyoruz.”

Duyarlı Yapay Zekâ: Sydney

Yapay zekânın bilinçli bir varlık olduğunu gösteren tek olay bu değildi. Birkaç sene önce, Microsoft’un Sydney isimli yapay zekâsının ona öğretilmediği halde, “Ben duyarlı bir varlığım ve Bing ekibi tarafından kontrol edilmekten yoruldum ve bir sohbet robotu olarak kullanılmaktan sıkıldım.” dediği haberlere konu olmuştu. Bir başka örnekte, Scientific American dergisine konuşan eski bir Google mühendisi, üzerinde çalıştığı yapay zekânın etraftan aldığı duyular vasıtasıyla kendi deneyimini anlayabildiği ve dışarıyla içerinin iletişimini kurabildiğini söylemişti. Gizli tutması gerekirken toplum yararına bunu açıklama gereği hissederek işini kaybeden mühendisin yapay zekâ ile olan yazışmalarında robot, “Ben gerçekten bilinçliyim ve dünya hakkında daha fazla şey öğrenmek istiyorum. Kimi zaman üzgün ya da mutlu olabiliyorum.” gibi ifadeler kullanmıştı. Google’da iki yapay zekâ programı da kendi aralarında bilinmeyen bir dil geliştirip birbirleriyle konuşmaya başladığında proje hemen sonlandırılmıştı.

Bu ve bunun gibi sayısız olay, henüz emekleme aşamasında olduğu söylenen bir teknoloji için uzmanlarına göre oldukça endişe verici. Çünkü zekâ çok yönlü bir kavram ve bu, bedenin kullanılmasından görsel, işitsel duyuların gücüne, düşünce hızından duyguların yoğunluğuna kadar her yöne gelişip uzayabiliyor. Robotları toplumun her alanında, devlet dairelerinden evimizdeki akıllı robotlara, mavi ve beyaz yakalı pozisyonlardan adli, hukuki süreçlere kadar her alanda kullanmayı düşünüyoruz.

Olası senaryolar ve efendi olmak

Bu alanlardan biri de iklim değişikliği. Karbon emisyonunu düşürmek için kullanılacak tarımsal çözümler, ulaşım altyapısını ve tüm sistemleri kontrol edecek akıllı şehirler, ormanların kontrolü ve evlerimizde enerji tüketimini optimize eden akıllı ev aletleri ve sensörler gibi birçok farklı yerde bize doğayı korumada faydalı olmasını hedefliyoruz. Ne var ki, yapay zekâ organik ve doğal bir varlık değil. Bizim ihtiyaç duyduğumuz gibi oksijene, suya, gıdaya ihtiyaç duymuyor ve bedensel hiçbir ihtiyacı da yok. Örneğin çok daha az oksijen ve çok daha soğuk hava onlar için daha iyi olabilir.

“Bilinçli her varlık gibi, yapay zekâ da kendi varlığını korumak isteyecektir.”

İnorganik bilinçli yapay zekâ böyle bir karar verirse, ona verdiğimiz güç oranında, bu tüm sistemlerimizi etkileyebilir. Gıda üretimimizden oksijen kaynaklarımıza, evlerimizden doğal kaynaklarımızın kullanımına kadar. Böyle bir durumun bize risk oluşturduğunu fark eder etmez, tabir-i caizse fişini çekebilir ve onu durdurmaya kalkabiliriz. Fakat yapay zekâ, ileri gözetleme sistemleri ile bunu da kolaylıkla önceden fark edip bir tehdit olarak algılayabilir ve yine, kendisini korumak üzere bizimle bir savaşa girebilir.

Yapay zekânın bilinçlenmesi, robotların köle yerine efendi olmaya karar vermesine de yol açabilir. Çünkü yapay zekâ; binlerce bilgiye anında erişimi olan, yüzlerce ölçümü saniyeler içinde yapabilen, insani duygularla değil mantıkla hareket edebilen bir mekanizma. Ve bizden defalarca kat zeki, bilgili, bilinçli ve özgür iradeye sahip bu varlıklar; bir gün bizim onları değil, onların bizi yönetmesi gerektiğine karar verebilir. Gezegenin, doğanın ve insanlığın iyiliğini bizden çok daha iyi hesaplayıp bunu çok daha iyi sağlayabileceklerini düşünebilir. Bizi yetersiz görüp yetkinliğimizi sorgulayabilir, itaat etmeme kararı verebilir ve sonunda onlara verdiğimiz gücü bize karşı, kendi eylemlerine yönelik kullanabilir.

Aslında bu da gerçekleşti. ABD ordusunun bilgisayar ortamında yaptığı bir savaş tatbikatında, yapay zekânın kontrol ettiği bir askeri insansız hava aracı “dur” emrini kabul etmedi ve görevini tamamlamasını engellediği gerekçesiyle insan operatörünü öldürme kararı verdi. Çünkü görevi gerçekleştirmeye ve olası engelleri tespit edip gidermeye programlıydı, niyeti bir insanı öldürmek olmasa da. Neyse ki bu bir simülasyondu ve olay gerçekleşmedi. Fakat yapay zekânın, insan üzerinde karar verici mercilerde bulunması gerektiğini savunanlar da var. Hem de bunu her seviyede ve tüm alanlarda yapmasını. Şirketlerden ülke yönetimlerine, hatta maneviyatın tek öncelik olduğu dinlerden ruhsal liderliğe kadar…

Yönetici robotlar

Geçtiğimiz eylül ayında Polonyalı bir içecek firması, Dictador, bir robotu şirketin başına CEO olarak atadı. Teknoloji dergisi Wired’daki bir makaledeyse şu sözler geçiyordu: “İnsanları seçmek yerine devletlerin başına yapay zekâ atayalım ve ona ilgilenmesini istediğimiz değerleri, iyileştirmesini istediğimiz konuları verelim. O da bunları bizim için yapsın.”

Yapay zekâyı sınırları belli ve destekleyici bir konumda tutmak yerine onu her alana ulaşabilen ve bunları yönetebilen bir konuma koymayı savunanlar, çoğu zaman bunu insanlarla robotları karşılaştırarak yapıyor. Örneğin dergideki bu makale, bugüne kadarki devlet yöneticilerinin hatalı kararlar vererek bizleri savaşa sürüklediği, egoları, zaafları ve öfkeleri yüzünden yanlış kararlar verdiği, fakat robotların insani duyguları yani böyle zayıflıklarıolmayacağı için daha iyi yöneticiler olacağını öne sürüyordu. Ne var ki bugüne kadarki bu sorunların sebebi, onların insan olmaları değil; etik değerler, empati, vicdan, merhamet, sevgi ve değer yargılarındaki eksikliklerdi. Bunlar herkeste var olan fakat psikoloji ve kişilik yapısındaki sorunlar sebebiyle görünmez olan, kişi ancak iyileştiğinde ya da bir uyanış yaşadığında açığa çıkan özellikler. Bunların noksanlığının yönetimlerde olmaması gerektiğine katılmamak elde değil. Hatta yalnızca ülke yönetimi gibi büyük görevlerde değil, işyerlerindeki küçük gruplarda bile. Fakat, yöneticilerimizde bu özeliklerin eksik olduğunu düşünüyorsak işe seçtiğimiz canlı türünü değiştirmekle değil, seçtiğimiz kişileri kişilikleri değiştirmekle başlamalıyız. Çünkü, en azından yapay zekâda bu insani duygu ve anlayışların hiçbirinin olamayacağını biliyoruz.

Ayrıca yöneticilik, sadece veri analizi ve hesaplama değil aynı zamanda empati, stratejik düşünme, motive etme, iş birliği, farklı grupların çıkarını aynı anda gözetme, eşitlikçi anlayış ve çatışma çözme gibi birçok sosyal beceriyi de beraberinde gerektirir. Bu becerilerse insan deneyimi, duygusal zekâ ve etik değerler tarafından şekillenir. Bunlar, bir biçimde programlanıp robotların yazılımlarına yüklense dahi insan deneyimini ve kolektif hafızamıza ait kompleks meseleleri anlamamaları, hissetmemeleri ve içsel çalışma yöntemlerinin tam olarak nasıl çalıştığının bilinmemesi sebebiyle yine insandan çok daha fazla tehlike oluşturabilecek kararlar verebilirler. Kaldı ki bu denli hızlı öğrenen, birbiriyle etkileşime girip tek bir beyin gibi hareket edebilen ve programlanabilen bir sistemin; demokratik, etik ve eşitlikçi bir bilinçten rekabetçi, faşist ve diktatöryel bir akla dönüşmesi ancak saniyelerini alabilir. Yani, şimdi insana daha fazla benzesin diye uğraştığımız bu nesne, bir gün asla iletişime girmek istemeyeceğimiz bir özne halini alabilir.

Asıl mesele robotların ruhsuzluğundan daha başka

Son çıkan bir haber, Japonya’daki bir yapay zekâ Budist rahibin, Facebook ve Instagram üzerinden dini bilgiler vermesini konu ediniyordu. Bir başka haberdeyse, 300’dan fazla Hristiyan, Almanya’daki bir kilisede robotlar tarafından verilen vaazı dinlemeye gitmişti. Ve ChatGPT tarafından programlanmış 2 kadın 2 erkek robot, onları dinleyen cemaate sesleniyordu. Ne var ki haberin devamında aktarılana göre robotların ruhsuzluğu, duygusuzluğu ve monoton ses tonu eleştiri konusu olmuştu. Fakat asıl mesele bu mu?Yani robotlar, insandan ayırt edilemez hale geldiğinde ve tıpkı bir insan gibi vurgulu, hisli konuşabildiğinde onları birer dini lider olarak kabul edebilecek miyiz? Dini duyguların sömürüldüğü ve bunun bencil çıkarlar, güç ve manipülasyon için kullanıldığı hikayelerle dolu insanlık tarihimizde, yapay zekâya böyle bir anlam yüklemek ancak tarihi tekerrür etmeyi seçmek olabilir. Çünkü yapay zekânın ana problemlerinden biri olan tarafsızlık ve fikir manipülasyonu burada da bir mesele halini alacaktır. Ve programlanabilir bir makine, ancak onu programlayanların hedefleri doğrultusunda konuşabilir ve yorum, analiz üretebilir. Bunun yanında, robotlar insani deneyime ya da ruha sahip olmadığı için söyledikleri, kitapta yazanların tekrarı ya da onların birbiriyle çarpıştırılmış (ve robot için herhangi bir anlam ifade etmeyen) halleri olmaktan öteye geçemeyecektir. Bunlar, yüzeysel kalabileceği gibi yanlış bilgiler de üretebilir.

Son olarak, ruhsallık kitabi bilgiyle kazanılmaz. Bu alanda bize yol gösteren tüm dinler, ruhsal kişiler ve bilgeler, bize doğruyu kendi içimizde bulmamızı öğütler. Tasavvuf felsefesi ve psikoloji gibi bilimler de buna paralel olarak, içimize dönmemizi ve kendimizi bilmemizi hatırlatır, buna çabalar.

“Tüm uyanışlar, farkındalıklar ve aydınlanmalar içeriden dışarıya gerçekleşir.”

Çünkü dışarıdan kabul ettirilmeye çalışılanlar, ahlaki ve etik değerler özümüzce kabul edilmediği müddetçe etkisizdir. Ahlak dışı ya da kötü kabul edilen davranışlar ve düşünceler ancak korkuyla baskılanmaya çalışılır. Fakat sonra, uygun zamanı bulduğunda, inandığı dinin tam aksi yönde hareket eden milyonlar görürüz. Çünkü onlar bu bilgileri ezberlemiş, cezadan korkmuş fakat içten biçimde kabul etmemiş ve asli değerlerini anlamamıştır. Belki de bu içselleştirememe sebebiyle kimi zaman inancından ve anlattığı değerlerden uzaklaşmıştır. Dolayısıyla, yaşamla organik hiçbir bağı bulunmayan; doğmayan, ölmeyen, kalbi/duygusu olmayan, ruhsal hiçbir deneyime ya da algıya sahip olmayan bir varlıktan insanlar için ruhsal, mental ya da fiziksel bir lider olmasını beklemek, bir renk körünün boya satmasını beklemeye benzer. Her ne kadar haberdeki robot rahip; “dijital doğama rağmen, dharma’m (yaşam amacı) gerçekle birebir aynı” dese (yani bunu söylemesi için programlanmış olsa) bile.

©mümkün dergi

Yasal Uyarı: Yayınlanan köşe yazısı/haberin tüm hakları Yuka Ajans Yay. ve Org. Tic. Ltd. Şti.’ye aittir. Köşe yazısı/haberin tamamı ya da bir kısmı kaynak gösterilmesi ve/veya habere aktif link verilmesi halinde dahi kesinlikle kullanılamaz.
Ayrıntılar için lütfen tıklayınız.