“Çok yakın zamanda “insan” olarak bildiğimiz her şey değişecek” diyor kimi düşünürler ve ekliyor, “2035 yılına kadar bildiğimiz insan şeklinde kalmayacağız. Bunun yerine hibrid olacağız.”Yani insan ve robot birlik (tekillik) halini alacak ve insanlar yarı insan, yarı robot olacak.

Transhümanizm

İnsana inorganik materyallerin eklenmesini içeren transhümanizm teknolojileri, sağlık için kullanıldığında muazzam sonuçlar ortaya çıkarıyor. Örneğin, yakın gelecekte sorunlu ya da eksik uzuvlarımızı ve organlarımızı yapay ve vücuda uyumlu olanlarıyla değiştirebileceğiz. Göz bozuklukları ile hastalık, kaza, yaş ya da genetik kaynaklı fiziksel sorunlar birer sorun olmaktan çıkacak. Beyne takılan çipler vasıtasıyla Alzheimer, depresyon, MS gibi hastalıklar tarihe karışabilecek. Fakat transhümanizm, büyük olasılıkla ve kısa süre içinde, yalnızca sağlık alanıyla sınırlı kalmayacak, kapitalist bir arzu ve statü belirtisine dönüşecek. Bu durum, halihazırda var olan eşitsizliğin, adaletsizliğin ve insanlar arasındaki sınıfsal uçurumun dozunu arttıracak. Belki de daha önemlisi, insanı ruhundan ve özünden kopararak onu gerçekten de yaşayan, canlı bir robota dönüştürecek.

Zekâ, emek, tecrübe ya da yetenek gibi kavramların değersizleşmesi sorunu

Matematik, geometri, yaratıcılık, hafıza, hızlı düşünme, öğrenme, görsel ve motor beceriler gibi beyne ve bedene ait tüm alanlar iyileştirilebilir. Ve bu teknolojiyle, örneğin daha hızlı koşmak isteyen bir kişi bacağını “upgrade” edebilecek. Akademik kariyer hedefleyen biri çok daha hızlı öğrenebilecek, insan sınırlarının ötesindeki bilgiyi hatırlayabilecek ve bir hesap makinesi gibi işlem yapabilecek. Göze takılan lensler yalnızca iyi görmeyi değil aynı zamanda görülenlerin kaydedilmesini ve diğerleriyle paylaşılmasını da imkân tanıyacak. Ve bu değişiklikler, yalnızca bedenimizin değil; tüm değer yargılarımızın, güvenliğimizin ve yaşam standartlarımızın da değişmesi anlamına geliyor. Çünkü şu anda kendimizi biyolojik yönlerimiz, yeteneklerimiz ya da efor sarf ederek geliştirdiğimiz becerilerimize göre tanımlayıp yaşamda da bunlara yönelik seçimler yapabiliyoruz. Fakat kendimize kattığımız, çalışarak elde ettiğimiz ya da doğuştan sahip olduğumuz tüm özelliklerimiz, “satın alınabilir” olduğunda, önemli olacak olan tek şey de bizim onlara ulaşıp ulaşamayacağımız olacak. Örneğin artık fakir bir aileden başarılı bir müzisyen ya da sporcu çıkamayacak. Çünkü artık buna parası yeten herkes başarılı bir müzisyen ya da bir sporcu olabilecek. Zekâ, emek, tecrübe ya da yetenek gibi kavramların tamamı değersizleşecek. Bu, yalnızca düşük gelirlileri ilgilendiren bir şey de değil, yaşamın her alanında ve her seviyesinde göze çarpacak bir sorun. Örneğin; spor müsabakalarında, sınavlarda, olimpiyatlarda, işyerlerinde ya da okullarda…

Üstünlük yalnızca teknolojik varlığa mı dayalı olacak?

Daha hızlı uzuvlara ya da beyne sahip olmak, cep telefonu kullanmak gibi popüler ama gelire göre seviyeleri olan bir ulaşılabilirlik olduğunda, kriterleri belirleyen sınırlar nasıl çizilecek? Otomatikman en gelişmiş teknolojiye sahip olanlar en başarılılar olurken bunlara ulaşamayanların hedefleri, yetenekleri ya da emekleri ne işe yarayacak? Yaşamsal amaçların yerini ne alacak?

İnsan doğasını değiştirmeyi hedefleyen bu teknolojiyle, kapanması mümkün olmayacak eşitsizlik makası ise henüz ana karnında açılmaya başlayacak gibi duruyor. Ve yapılan çalışmalar başarıya ulaşırsa kimi bebekler birkaç sene içinde gelişmiş zihinsel, duygusal ve bedensel becerilerle bezenmiş genlerle doğacak. Ebeveynlerinden bambaşka özelliklere ve genlere sahip olacak bu “seçilmiş” bebekler, ailesi isterse yapay bir rahim ve yapay bir ana karnından doğabilecek. Yani ne döllenme ne büyüme ne de doğum süreçlerinde annenin bedeninde olmayarak anneyle bağ kuramayacak. Bu doğadışı, hatta anti-natüralist, uygulamalarsa gerek doğumdan önce olsun gerekse de yaşamın ilerleyen dönemlerinde, ruhumuzla bağımızı zayıflatacak. Çünkü bu şekilde zihin, beden ve ruh bütünlüğü bozulur ve bu da kendimizle, diğerleriyle ve yaşamla olan ilişkimizin bozulması anlamına gelir.

“Ruh, tüm yüzeysel katmanların ve kimliklerin altında yatan asıl özümüz ve kim olduğumuzdur. Onunla bağ kuramadığımızda olduğumuz kişi olarak değil sahte benliklerle yaşarız.”

Toplumun beklentileri ya da bize uymayan şeyleri yerine getirmek üzere davranırız. Özgünlüğümüzü, orijinalliğimizi, içtenliğimizi ve otantikliğimizi yitiririz. Özümüzle çatışan bir hayatı, kimliği ve özellikleri taşımak bizde içsel boşluk, çatışma, anlamsızlık ve tamamlanmamışlık hisleri yaşatır. Diğerleriyle empati yapmakta zorlanırız; yapmacık, zoraki ya da gergin ilişkiler kurarız. Ruhumuz, aynı zamanda bizim içsel bilgeliğimizin yattığı yerdir. Bizi gelişime, bilgiye, yüksek hedeflerimize hizalar. Onunla bağlantımızı yitirdiğimizde içsel rehberimizi de duyamaz hale geliriz. Akıntıya kapılmış, hedefsiz hisseder, kafa karışıklığı yaşarız. Ruh, aynı zamanda bizim evrenle, ilahi olanla ve yaşamla bağlantımızı sağlar. Bu evrensel bilinçle bağımız zayıfladığında yaşamın kutsal, transandantal ve fizikötesi yönlerinden de ayrı hissederiz. Ruhumuzla olan bağımızdan gelen tüm bu destek, bilgelik, güç, inanç ve iletişimin yokluğu, yaşamla başa çıkmamızı da zorlaştırır. Ve bedenin negatif tesirlere ve enerjilere açık olmasına izin verir. Günümüzde popüler olan hormon takviyeleri, cinsiyet ve beden modifikasyonları da bedeni değiştirdiği ölçüde bu bağı zayıflatır.

Kandaki kimyasalların arttırılması, deri altına yerleştirilen çipler ve epigenetik çalışmalarla DNA’nın değiştirilmesini içeren transhümanist teknolojiler, bizi özümüzden kopardığı ölçüde, tıpkı öne sürüldüğü gibi, bizi robotla bir yapabilir. Ve bu robotlaşma, beden ve ruhu kapsadığı gibi pekâlâ zihni de kapsayabilir.

Beyin Çipleri ve Bulut Teknolojisi

Bulut: internet üzerinden yazılı, görsel ve duyusal bilgilerin depolandığı alanlara verilen ad. Bu buluta bağlanan aygıtlar bilgiyi buradan edinir.

“Bir şeyi hacklerseniz onu programlarsınız ve bu da onun geleceğini belirler.” diyor Sapiens ve Homo Deus kitaplarının yazarı Yuval Harari konuşmasında. Biyolojik veri, programlama gücü ve büyük veri (big data) kullanarak tüm insanların hacklenebileceği tarifi veriyor. Beyne takılan çiplerin bulut teknolojisi üzerinden bilgi almasını sağlayarak insan evrimini kontrol edebileceklerini anlatıyor. IBM ve Microsoft’un bulut sistemlerini de bu evrimi yönetecek sistemler olarak ilan ettikten sonra, tüm bunları yaptığı bir kelime şakasıyla şöyle özetliyor: “Bulutların üzerindeki Tanrı’nın zeki tasarımı değil, bizim bulutlarımız üzerinden yaptığımız zeki tasarımımız.”

Beyindeki epifiz bezinin yerine yapay zekâ tabanlı çip ve onun evrenle yaşamla bağlantısı yerine de internet tabanlı bulutla bağlantı kurması fikri, göründüğünden de distopik bir fikir. Çünkü bu teknoloji kullanılarak insanlara gerçekten de istenilen her şey düşündürülebilir, inandırılabilir, hissettirilebilir ve yaptırılabilir. Beyin-makine ara yüzü olarak geçen bu teknoloji, beynimizi kullanarak teknolojik aletleri kullanabilmemizi sağlıyor. Örneğin, yakın gelecekte yalnızca düşünerek telefondan arama yapabileceğiz. Veya makineden kahve hazırlayabileceğiz. Ne var ki, bu iletişim tek yönlü olmayacak. Makineler beynimizden sinyal alabildiği gibi, beynimize sinyal de gönderebilecek. Örneğin, şimdi arama motoru ve alışveriş geçmişimize bakarak internette karşımıza çıkan kişiselleştirilmiş reklamlar, düşüncelerimize ve hislerimize bakarak zihnimizde belirebilecek. Yorgun olduğumuzu gören bir enerji içeceği firması zihnimize markasını hatırlatacak bir düşünce, tat ya da koku gönderebilecek. Rüyamızda kendini hatırlatabilecek. Çip, iş saatlerinde ne kadar verimli çalıştığımızı değerlendirmek için beyin aktivitelerimizi inceleyebilecek ve istenirse bu bilgiyi şirketimizle paylaşabilecek. Konsantrasyonumuzun dağıldığını fark ettiğinde bize bilişsel işlevleri arttıran bir ilaç önerebilecek. Belki de belirli orandaki konsantrasyon ilacını kendiliğinden aktive edip salınımını yapabilecek. Güvenliğimizin ve gizliliğimizin bu denli yok sayılması içinse şimdi okumadan kabul ettiğimiz gizlilik anlaşmaları gibi kimi uygulamaları kullanabilmek ya da kimi işyerlerinde çalışabilmek için bunların şart koyulması yeterli olacak. Belki de bunlara hiç gerek kalmayacak ve beyin çipleri de diğer transhümanist teknolojiler gibi bir eğlence aracı ve statü belirtisine dönüşecek. Ve bilinçsizce arzu edilen bir meta halini alacak.

Ruhun Oturduğu Yer: Epifiz Bezi

Geçtiğimiz günlerde çıkan bir haberde rüyaların izlenebildiği, kaydedilebildiği ve gelecekte istenirse senaryolarını kendimizin yazabileceği söyleniyordu. Bir başka haberdeyse, beyin çipleri telepati ile ilişkilendirilmişti. Fakat bizim beynimizde zaten rüya görmek ya da telepati yapmak için doğal bir bölge var: Epifiz bezi. Hem de bunlardan fazlasını; duru görü, prekognisyon (önceden bilme), telekinezi ve kanallık gibi birçok farklı psişik özelliği de gerçekleştirebiliyor. Antik tarihimizde duvar resimlerinden dini sembollere kadar önemi sıklıkla vurgulanan bu kozalak biçimindeki yapının neden bu kadar önemli olduğunu da günümüz araştırmaları ortaya çıkardı. 3. göz çakrasının arka hizasında bulunan bu organın, tıpkı bir teknolojik alet gibi sinyaller yaydığı tespit edildi. Yani biyoloji derslerimizdeki bilgi tazelendi ve bu bölgenin yalnızca melotonin gibi hormon ya da kimyasallar salgılamadığı, aynı zamanda bir cep telefonu gibi elektromanyetik sinyaller de yaydığı belirlendi.

Descartes, burayı “ruhun oturduğu yer” olarak tanımlarken haklıydı. Burası fiziksel bedenle, fiziksel olmayan zihin ve ruhun iletişimini sağlıyordu. Materyal dünyanın ötesine açılan bu kapımız, tıpkı bir anten gibi yaşamla, evrenle ve birbirimizle olan görünmez iletişimi sağlayan yerdi. Fakat günümüzde epifiz bezimizin kireçlendiği, kimi gıdalar ve içinde florür bulunan sular ve diş macunlarıyla işlevinin aksadığı biliniyor. Yine de sağlıklı beslenme, meditasyon, yoga, nefes egzersizi, güneş ışığı ve bazı bitkilerle bu hasarın giderilebildiği ve epifiz bezinin sağlıklı çalışmasının mümkün olduğu da biliniyor. Peki ya, beynimize takılacak bir çipin de elektromanyetik sinyaller yayacağından, bu bölgenin çalışmasına engel olmayacağını düşünebilir miyiz? Bu aygıtların kullanımı, epifiz bezimizin daha fazla zarar görmesine yol açmaz mı? Peki, beyin plastisisesi gereği, onu hiç kullanmadığımızda işlevi tamamen yok olmaz mı? Özümüzle, birbirimizle ve evrenle olan ilişkimizi zayıflatmak, birliğimizi fark etmemizi de imkânsız yapmaz mı? Peki ya, bütün bilgiyi beyindeki bir çipten almak, bizi yanlış yönlendirip manipüle etmez mi? Bilgiye ulaşmak, onu öğrenmek ve analiz etmek gibi süreçleri de kullanmayacağı için düşünsel becerilerimiz de (yine beyin plastisisesi gereği) yok olmaz m?

Bütün bu transhümanist teknolojiler insanı robotlaşmaya götüredursun, günümüzde devam eden çalışmalarla robotlar da daha fazla insana benzemekte.Ve bir grubun ayak sesleri gümbür gümbür gelmekte: kanuni düzeni ve nizamı sağlayan, mevcut sistemi korumaya programlı ve insanlar arasında, tıpkı onlar gibi davranan…

İnsansı Robotlar

Yapay zekâ, şu anda birkaç örneği dışında, çoğunlukla yazılım halinde kullanılsa da yakın gelecekte donanımlı ve bedensel olarak insansı görünümüyle de hayatlarımıza girecek. Ve onları günlük hayatımız içinde çok daha sık göreceğiz. Şimdilik en ilkel halini gördüğümüz bu robotlar, henüz şimdiden yüz ifadesi, jest ve mimikler yapabiliyor. İnsan bedenlerine saç folikülleri, insan derisi ve ter bezleri gibi özellikler eklenebiliyor. Chatbot gibi teknolojilerin gelişimiyle insanla karşılıklı diyaloğa girebiliyorlar. Yakın zamanda, yüz ifademizden hangi duygu durumunda olduğumuzu anlayıp gördükleri yüzleri tanıyabilecek ve tanıştığı kişileri hatırlayabilecekler. Ve uzmanlar, çok yakında MR ile bakmadığımız müddetçe insan olmadığını fark edemeyeceğimiz robotlar aramızda dolaşacak, diyor. Oturduğumuz apartmanlarda, çalıştığımız işyerlerinde, ulaşım araçlarında, hastanelerde, devlet dairelerinde, süpermarketlerde, belki de hükümetlerde…

Yakın gelecekte bir gün, örneğin bir dava duruşmasına gireceğiz ve hâkim insansı bir robot olacak. Yazılı tüm hukuki bilgiye sahip olduğu için onun çok daha güvenilir olacağını, gözden kaçırabileceği herhangi bir yasa, kural ya da detay olmayacağı için çok daha objektif kararlar verebileceğini düşüneceğiz. Ne var ki, büyük olasılıkla yanılacağız. Çünkü bunlar, onun tarafsız ve adil olacağı anlamına gelmeyecek. Aksine, onun yazılımını geliştirenler, yönetenler ve veri setini belirleyenler hâlâ insan olacak. Onun hangi bilgileri doğru kabul ettiği, ne gibi önyargılara sahip olduğu, hangi kurumların ya da kişilerin çıkarını önce gözeteceği gibi unsurlar ancak onu kodlayan ve yönetenler tarafından bilinebilecek. Örneğin, bir ilaç firması bir yapay zekâ doktoru fonluyor olsun. Sağlık ve kimlik bilgilerimize ulaşarak bize tanı, tedavi ve ilaç önerebilen bu insansı doktor robot, görünürde bağımsız bir teknoloji şirketi tarafından geliştirilsin. Ve bu ilaç şirketiyle olan anlaşması bilinmeden, ona danışan hastaları daha etkili, kısa süreli ya da doğal yöntemler yerine gerek olmadığı halde firmanın ilaçlarına yönlendirsin. Bu sistem uzun seneler böyle devam etsin ve bir gün, bir şekilde, bu gerçek ortaya çıksın ve dünyada infial yaratsın. Milyonlarca insanın sağlığının nasıl manipüle edildiği, bunların yol açtığı ekonomik, manevi ve psikolojik sorunlar bir bir masaya yatırılsın. Davalar açılsın, yargılamalar başlasın. Şimdi bu davalarda çalışacak hâkim ve savcıların da birer yapay zekâ programlı robot olduğunu düşünelim. Dünya çapında kabul görmüş ve adliyelerde en sık kullanılan, en güvenilir, en gelişmiş yazılıma sahip insansı adli robotlar. Bu robotların da hangi yönde karar vereceğini kestirmek çelişkiler yaratacaktır. Halk çıkarını mı gözetecek, doktor robotu geliştiren teknoloji şirketini mi ilaç şirketini mi yoksa devletin çıkarını mı?

Zannettiğimizden de geç kalmış olabilir miyiz?

Hikâyeyi ilerletelim ve bu davalarda firmaların cezasız ya da yaptırımsız olarak işlerine devam ettiğini, bu sebeple insanlarda öfkenin arttığını, zarar görenler ve yakınlarının ayaklandığını düşünelim. İlaç şirketinin, robotu geliştiren firmanın merkez ofislerinin, hükümet binalarının önünde ve sokaklarda yapılan protestoları hayal edelim. Şimdi de onları bastırmak için kullanılacak insansı robot polisleri. Demirden yapılmış bedenleri ve her koşulda devleti korumaya kodlanmış algoritmalarıyla, bu protestoları hükümete karşı bir tehlike olarak algıladıklarını ve buna yönelik tepki verdiklerini. İnsani duyguya sahip olmayan ve insan deneyimini anlamayan bu robotların toplumun düzenini sağlamak için harekete geçtiğini… Bir de halkın arasına karışmış, birebir onlar gibi görünen ve MR ile bakılmadıkça anlaşılmayan insansı robotların halkı bu tepkilerden vazgeçirmek için seslendiğini, medya kanallarından konuşmalar yaptığını ve düşünceleri manipüle ettiklerini… Sonunda, tüm bu olaylardan ve sıkışmışlıktan etkilenen insanların yine yapay zekâ destekli terapistleriyle görüşme ayarladıklarını, onlara iyi gelecek tedavilere başladıklarını, beyinlerindeki çipten salgılanan antidepresanlar vasıtasıyla rahatladıklarını, verilen elektromanyetik sinyallerle hislerini söndürdüklerini hatta belli anılara dair hafızalarını sildirdiklerini…

Neyse ki bu insanı baştan aşağı sindiren, seçim ya da direnç gücünü yok eden distopik gelecekten şimdilik uzağız. Fakat içinde bulunduğumuz geçiş aşamasında bilinçli adımlar atmazsak gelecek kuşaklarımızın bunlardan feragat etmiş olarak doğmalarına sebebiyet vereceğiz. Ve bir sonraki uyanışa dek de bundan tamamen habersiz olarak yaşamalarına … Peki şimdi tüm bu aşamaların neresindeyiz? Ve lineer zamanda bir sonraki basamak ne?

Biri Bizi Gözetliyor

Yapay zekâ, kamu güvenliğini sağlamak için muhteşem bir teknoloji. Davranış analizi, termal kameralar, sensörler ve gelişmiş güvenlik araçlarıyla suçlular her geçen çok gün daha hızlı yakalanıyor. İnsan davranışlarını tahmin edebilen programlar sayesinde olası suçlar ve terör saldırıları gibi olaylar engellenebiliyor. Fakat bu teknolojilerin daha verimli kullanılması aynı zamanda, çok daha fazla veri toplamasını da gerektiriyor. Bu verilerin toplanış, işleniş ve kullanılış biçimi bizlerin tüm gizlilik haklarını ihlal etmek anlamına gelse bile…

Yapay zekâ şu anda tüm mesajlaşma verilerimiz, kredi kartı bilgilerimiz, sağlık bilgilerimiz, kimlik bilgilerimiz, konumumuz, kişisel ve biyometrik verilerimiz dahil tüm hassas verilerimize ulaşabiliyor. Fakat tüm bu bilgilerimizin tek elde toplanması ve sapabileceği yönler belirsizliklerle dolu bir teknoloji tarafından işlenmesi, ciddi güvenlik açıklarına yol açabilir. Bu bilgiler; dolandırıcılık, sahte haber yayma, fikir manipülasyonu ve teknolojinin kötüye kullanımı gibi amaçlarla kullanılabilir. Bu olayı birkaç sene önce bir İngiliz siyasi danışmanlık firmasının kişilerin Facebook verilerini kullanarak Amerikan seçimlerini ve İngiltere’nin AB’den çıktığı Brexit süreçlerini manipüle ettiği olaylarda görmüştük. Kullanıcıların yaş, eğitim, cinsiyet, etnik köken gibi kişisel bilgileri ile davranışları, değerleri, politik tercihleri gibi kişilik özellikleri ve site üzerinde yaptıkları, beğenileri, paylaşımları, katıldıkları gruplar toplanıp analiz edilmişti. Bunlara göre seçmen profilleri oluşturulmuş ve kişiye özel reklamlarla onları, seçim yapmalarını istedikleri fikre doğru manipüle etmişlerdi. Ve bu da büyük bir başarıyla sonuçlanmıştı. Açılan davalardan sonra bilgi güvenliği, kullanıcı onayı, kişisel bilgilerin kötüye kullanımı gibi konular konuşulmaya başlandı. Verilerimizin satılması, alınması ve paylaşılması gibi meseleler önem kazandı. Ne var ki, getirilen birtakım sınırlandırmalara ve kurallara rağmen bu sorun hâlâ ciddiyetini korumaya devam ediyor. Ve şimdi, wi-fi ile çalışan tüm aygıtların beynimizi okunmasının bile mümkün olduğu biliniyor. Konuyla ilgili Google’ın Ocak 2023’te yayınladığı patent makalesinde (https://patents.google.com/patent/US20130127708A1/en) Neuralink, Facebook gibi rakiplerinin aksine, onların teknolojisinin herhangi bir cerrahi müdahaleye veya çipe gerek olmadan insan zihnini analiz etmeyi başardığı ve kusursuza yakın sonuç alabildiği aktarılıyor. Bu teknoloji için beyin elektrik sinyallerimizi ölçen (EEG) ve yakın kızılötesi spektroskopi (near-infrared spectroscopy, NIRS) kullanılıyor ve bu sayede beyin aktivitelerimiz okunabiliyor. Benzer biçimde, cep telefonu gibi bir mobil aygıt da beyne geribildirim vermek için kullanılabiliyor. Ve bu aygıttan sinyal işleme yoluyla beyne bilgi gönderilebiliyor. Yani, istenirse belli his, duygu ve düşünceler ile belirli davranışlara yönelten komutlar gönderilebiliyor.

Düşüncelerimizin Sınırsızca İzlenmesi

Bu teknolojiler şu anda kullanılmasa da kimi kullanıcıların deneyimlerine göre hakkında hiç konuşmadıkları ve yalnızca düşündükleri şeyler bile reklam olarak karşılarına çıkıyor. Ne var ki, şirketin böyle bir açıklaması ve beyanı yok. Ürünlerini kullanmak için kabul ettiğimiz gizlilik sözleşmesinde de böyle bir madde yer almıyor. Nitekim bize henüz böyle bir şeye izin verip vermediğimiz de sorulmadı.

Kendimizi iyi biri olarak nitelendiriyor, yasal suç işlemiyor ve barışçıl düşünceler besliyor olsak bile bu soruya yanıtımız çok büyük olasılıkla hayır olacaktır. Çünkü düşüncelerimiz; kendimize ait, varlığına, yaşam boyu kalıcılığına ve gerçekliğine inandığımız, özelimiz olan neredeyse tek şey. Dış dünyayı algılama biçimimizi, ilişkilerimizi, kendimizi nasıl gördüğümüzü, alışkanlıklarımızı, benliğimizi oluşturan en önemli parçamız. Sırlarımız, korkularımız, öfkelerimiz, belki de kendimizin bile farkında olmadığı bilinçdışından gelen otomatikleşmiş düşüncelerimiz… Bunların tamamının sürekli izlenmesi, değerlendirilmesi ve paylaşılmasını ister miydik?

Verilerimizin toplanması ve etik dışı kullanımı, eylem ve düşüncelerimiz kadar yüzümüz, vücudumuz ve sesimiz gibi fiziksel özelliklerimizi de ilgilendiriyor. Ve artık deepfake gibi teknolojilerle herkesin gerçeğe yakın hatta hiper-gerçekçi sahte video’su, konuşması ya da fotoğrafı oluşturulabiliyor. Kişinin görüntüsünü ve sesini kullanan bu teknoloji; dolandırıcılıkların, sahte haberlerin ve manipüle edilmiş içeriğin de daha yaygın biçimde üretilmesine ve yayılmasına yol açıyor. Örneğin bu şekilde, çocuğumuzun sesi kullanılarak birine para yollamamız sağlanabilir. Bir yöneticinin sesi taklit edilerek gizli şirket bilgileri alınabilir. (Bu içeriğin hazırlandığı günlerde konuyla ilgili üç haber medyaya yansıdı. Bunlardan ilki, Hong Kong’da çok uluslu bir firma çalışanının, deepfake kullanarak şirketin CFO’su taklidi yapan dolandırıcılara 25,6 milyon dolar havale ettiği haberiydi. Öteki, dünyaca ünlü kişilerin cinsel içerikli fotoğraflarının üretilip satılması ve sonuncusu da deepfake ile video’lar üreten bir pedofili çetesinin çökertilmesiydi).

Yapay zekânın karar verme süreçlerinin nasıl işlediğini onu kodlayanlar bile tam olarak bilmiyor

Bireysel özgürlükler, güvenlik ve gizlilik gibi kaygıların yanında, yapay zekâ gözetim sistemleri kusursuz değil ve yanlış sonuçlar üretebilir. Bu algoritmaları eğitmek için kullanılan veri önyargılar içeriyorsa, gözetim sistemi belirli grupları aşırı oranda hedefleyebilir ve ayrımcı sonuçlara yol açabilir. Ayrıca internet üzerinden bilgi edinen yapay zekâ, tekrarlanan kanı neyse onu doğru kabul ediyor. Ve bu alandaki haberler daha çok yapıldığı için belli bir etnik kimliğin daha çok suç potansiyeli taşıdığını düşünebilir. Belli bir kökene ya da görünüşe çok daha duyarlı olarak masum bireylerin haksız yere hedef alınmasına neden olabilir.

Bireyler dışında bu konu, yapay zekâya vereceğimiz güç oranında, tüm dünya insanlarını ve sistemlerini de etkileyebilir. Örneğin, işe alım için kullanılacak bir yapay zekâ, veri setinde yönetim kadrolarında çoğunlukla erkeklerin bulunduğunu ve daha çok maaş aldıklarını görerek bunun olması gereken, doğru şey olduğunu düşünebilir. Bu da halihazırda var olan cinsiyet eşitsizliği sorununu arttırabilir.

Daha tehlikeli bir örnekteyse yapay zekâ iklim krizinin insan kaynaklı olduğunu düşünebilir. Çünkü, bu bilim insanları tarafından kanıtlanamamasına ve dünya üzerinde defalarca gerçekleşmiş bir döngü olduğu bilinmesine rağmen, internette bu konudaki içerikler popüler. Ve yapay zekâ, iklim krizine çözüm olsun diye insan nüfusunun azaltılması gerektiğine karar verebilir. Bunun için belli bir ırkı, coğrafyayı, eğitim seviyesini, yaşı, sağlık durumunu, maddi durumu ya da farklı bir kriteri hedef alabilir. Su ve elektrik gibi kaynakların kullanımı; gıda, hijyen ve temel ihtiyaçları dağıtan tedarik zinciri ve ilaç ile hastaneler gibi sağlık sistemlerinin tamamında yapay zekâ kullanılacağı için belirlediği grupların bunlara ulaşımını kısıtlayabilir. “Vatandaşlık puanı” gibi yapılması düşünülen sistemler yoluyla belirlediği kişilerin bunlara erişimini engelleyebilir. Yapay zekânın karar verme süreçlerinin nasıl işlediğini onu kodlayanlar bile tam olarak bilmiyor. Dolayısıyla, onun vereceği bu tip bir kararı fark etmemiz de hayli zor olacaktır. Fark edilse bile itiraz etme ve hesap verilebilirlik bir sorun halini alabilir. Çünkü, vatandaşların haklarını savunmak için iş birliği yapacağı mesajlaşmaları, konuşmaları ve sosyal medya paylaşımları da aynı gözetleme sistemleri tarafından tespit edilebilir. Ona verilen bu denetim ve kamu düzenini sağlama yetkisiyle bunları engelleyebilir. Bu da sonunda özgür ifademizi sınırlamamıza ve muhalefet içeren faaliyetlere katılmaktan kaçınma eğilimimize yol açabilir.

©mümkün dergi

Yasal Uyarı: Yayınlanan köşe yazısı/haberin tüm hakları Yuka Ajans Yay. ve Org. Tic. Ltd. Şti.’ye aittir. Köşe yazısı/haberin tamamı ya da bir kısmı kaynak gösterilmesi ve/veya habere aktif link verilmesi halinde dahi kesinlikle kullanılamaz.
Ayrıntılar için lütfen tıklayınız.