Ferhat BÜYÜKKALKAN

İnsanlık tarihi boyunca güç denildiğinde akla önce silahlar geldi. Daha büyük ordular, daha uzun menzilli füzeler, nükleer başlıklar ve nihayetinde milyonlarca insanı aynı anda yok edebilecek kitle imha silahları…

Fakat yapay zekânın hızla geliştiği yeni dünyada gücün niteliği değişiyor.

Artık bir toplumu etkisiz hâle getirmek için onu fiziksel olarak yok etmek gerekmeyebilir. İnsanların ne gördüğünü, neye inandığını, neden korktuğunu, kimi desteklediğini, ne satın aldığını ve hangi kararı verdiğini etkileyebiliyorsanız çok farklı bir güç elde etmiş olursunuz.

Bu nedenle önümüzdeki dönemin en önemli kavramlarından birinin “kitle ikna silahları” olacağını düşünüyorum.

Buradaki “silah” kelimesini elbette klasik anlamıyla kullanmıyorum. Sözünü ettiğim şey; yapay zekâ, algoritmalar, büyük veri, sosyal medya ve davranışsal profillemenin birleşmesiyle ortaya çıkan endüstriyel ölçekte etkileme kapasitesidir.

Propaganda yeni değil, değişen şey ölçek

İnsanları ikna etme çabası insanlık kadar eski.

Devletler propaganda yaptı. Şirketler reklam yaptı. Siyasi hareketler kitle iletişim araçlarını kullandı. Gazeteler, radyo ve televizyon kamuoyunun oluşmasında önemli rol oynadı.

Dolayısıyla yapay zekâ propaganda veya manipülasyonu icat etmedi.

Değişen şey başka:

Hız, ölçek, kişiselleştirme ve otomasyon.

Geleneksel propagandada milyonlarca kişiye aynı mesajı gönderirsiniz.

Yapay zekâ çağında ise teorik olarak milyonlarca kişiye milyonlarca farklı mesaj üretmek mümkündür.

Bir insan ekonomik kaygıları nedeniyle etkilenebilir.

Bir başkası güvenlik konusunda hassastır.

Bir diğeri ailesinin geleceği konusunda endişelidir.

Başka biri statü, aidiyet veya toplumsal kabul arayışı içerisindedir.

Yapay zekâ destekli sistemler yeterli veriye sahip olduklarında aynı düşünceyi bu insanların her birine farklı kelimelerle, farklı görsellerle, farklı kişiler üzerinden ve farklı zamanlarda sunabilir.

İşte kritik değişim burada başlıyor.

Kitle iletişimi, kişiselleştirilmiş kitle iletişimine dönüşüyor.

Algoritma sizi sizden önce tanıyabilir mi?

Bugün internette bıraktığımız dijital izlerin büyüklüğünü çoğu zaman fark etmiyoruz.

Aramalarımız…

İzlediğimiz videolar…

Bir videoda kaç saniye kaldığımız…

Beğenilerimiz…

Yorumlarımız…

Alışverişlerimiz…

Takip ettiğimiz hesaplar…

Hatta hangi içeriği görüp hiçbir tepki vermeden geçtiğimiz bile dijital davranışımızın bir parçası hâline gelebiliyor.

Bu veriler tek başlarına anlamsız görünebilir.

Fakat milyonlarca veri noktası yapay zekâ sistemleri tarafından analiz edildiğinde ortaya son derece ayrıntılı davranış modelleri çıkabilir.

Asıl mesele yapay zekânın sizin hakkınızda ne bildiği değildir.

Daha önemli soru şudur:

Bir sonraki davranışınızı ne ölçüde tahmin edebilir?

Çünkü tahmin edilebilen davranış, belirli koşullarda etkilenmeye de açık hâle gelir.

Deepfake çağında “gördüğüme inanırım” dönemi kapanıyor

İnsanlık uzun yıllar boyunca görüntüyü ve sesi güçlü birer kanıt olarak kabul etti.

“Gözümle gördüm.”

“Kendi kulağımla duydum.”

Bu iki cümle günlük hayatta gerçeğin en güçlü göstergelerinden sayılıyordu.

Üretken yapay zekâ bu varsayımı ciddi biçimde sarsıyor.

Artık gerçekte hiç söylenmemiş bir söz söylenmiş gibi gösterilebilir.

Hiç gerçekleşmemiş bir olayın görüntüsü üretilebilir.

Bir kişinin sesi taklit edilebilir.

Sahte görüntüler, gerçek görüntülerle aynı sosyal medya akışında yan yana bulunabilir.

Bunun sonucunda yalnızca sahte içeriğin gerçek sanılması problemi ortaya çıkmıyor.

Daha tehlikeli ikinci bir problem doğuyor:

Gerçek içerik de “yapay zekâ ile yapılmıştır” denilerek reddedilebilir.

Dolayısıyla toplum yalnızca dezenformasyon problemiyle değil, giderek büyüyen bir gerçeklik kriziyle karşı karşıya kalabilir.

Asıl tehlike yapay zekânın yalan söylemesi değil

Burada sık yapılan bir hata var.

Tehlikeyi yalnızca “yapay zekâ yanlış bilgi üretebilir” şeklinde tanımlıyoruz.

Bence mesele bundan daha büyük.

Asıl risk, yapay zekânın insan davranışını etkilemek amacıyla sistematik biçimde kullanılabilmesidir.

Bir sistem düşünün.

Sizi tanıyor.

Hangi mesajlara tepki verdiğinizi biliyor.

Hangi konuların sizi öfkelendirdiğini tahmin ediyor.

Hangi saatlerde çevrimiçi olduğunuzu biliyor.

Hangi görsellerin dikkatinizi çektiğini öğreniyor.

Üstelik size sunacağı metni, videoyu, sesi ve görseli birkaç saniye içerisinde üretebiliyor.

Böyle bir sistem artık yalnızca bir “içerik üretme aracı” değildir.

Potansiyel olarak bir davranış etkileme makinesidir.

Her insan için farklı bir gerçeklik

Belki de meselenin en rahatsız edici tarafı burada.

Televizyon çağında toplum büyük ölçüde ortak bir bilgi alanına sahipti. Aynı akşam haberlerini milyonlarca insan birlikte izliyordu.

Sosyal medya bu ortak alanı parçaladı.

Yapay zekâ ise bunu daha da ileri götürebilir.

Gelecekte iki komşu aynı ülkede, aynı şehirde ve hatta aynı apartmanda yaşarken dijital dünyada tamamen farklı gerçekliklerin içerisinde bulunabilir.

Çünkü algoritma her birine farklı haberler, farklı yorumlar, farklı videolar ve farklı “gerçekler” gösterebilir.

Bu durumda toplumsal tartışmanın zemini değişir.

İnsanlar artık yalnızca aynı gerçekler hakkında farklı düşüncelere sahip olmaz.

İnsanlar farklı gerçekliklere inanarak tartışmaya başlayabilir.

Bu, demokratik toplumlar açısından üzerinde ciddi biçimde düşünülmesi gereken bir meseledir.

Yeni güç: Dikkati kontrol etmek

Geçmiş yüzyılın büyük ekonomik mücadelelerinden biri enerji kaynaklarını kontrol etmekti.

Petrolü kontrol eden önemli bir stratejik avantaja sahipti.

Dijital çağda ise başka bir kıt kaynak ortaya çıktı:

İnsan dikkati.

Çünkü insanın zamanı sınırlıdır.

Bir insanın günde kullanabileceği 24 saati vardır ve bunun yalnızca belirli bir bölümünü ekran karşısında geçirir.

Bu nedenle teknoloji şirketleri yalnızca içerik üretmiyor.

Dikkat için rekabet ediyor.

Yapay zekâ bu rekabeti daha ileri bir seviyeye taşıyor. Çünkü artık içerik yalnızca insanlar tarafından üretilmiyor; neredeyse sınırsız miktarda ve kişiye özel olarak üretilebiliyor.

Böylece yeni ekonominin kritik sorularından biri ortaya çıkıyor:

Dikkatimizi kim yönetiyor?

Bir sonraki aşama: Yapay zekâ ajanları

Bugün çoğumuz yapay zekâyı soru sorduğumuz bir araç olarak görüyoruz.

Fakat gelişimin yönü “cevap veren yapay zekâdan”, bizim adımıza hareket eden yapay zekâ ajanlarına doğru ilerliyor.

Alışveriş yapan…

Haberleri özetleyen…

Toplantıları planlayan…

Ürünleri karşılaştıran…

İçerikleri filtreleyen…

Karar seçeneklerini önümüze getiren sistemlerden söz ediyoruz.

Bu son derece büyük bir kolaylık sağlayabilir.

Ancak beraberinde kritik bir soru getiriyor:

Kararlarımızı kolaylaştıran algoritmalar, bir noktadan sonra kararlarımızı şekillendirmeye başlarsa ne olacak?

İşte yapay zekâ çağının temel tartışmalarından biri burada yatıyor.

Kitle imha değil, kitle ikna çağı

1. yüzyılın korkusu büyük ölçüde kitle imha silahlarıydı.
2. yüzyılın önemli mücadele alanlarından biri ise kitlelerin algısını, dikkatini ve davranışını yönetme kapasitesi olabilir.

Bu nedenle geleceğin güvenlik anlayışının yalnızca sınırları, enerji hatlarını, askerî tesisleri veya bilgisayar ağlarını koruması yeterli olmayacaktır.

İnsan zihninin bilgi ekosistemini de korumamız gerekecek.

Bunun yolu teknolojiyi yasaklamak değildir.

Yapay zekâ insanlık tarihinin en güçlü üretkenlik araçlarından biri olma potansiyeline sahip. Bilimde, sağlıkta, eğitimde, mühendislikte ve ekonomide olağanüstü fırsatlar sunuyor.

Fakat her güçlü teknolojide olduğu gibi mesele teknolojinin kendisinden çok onu kimin, hangi amaçla ve hangi kurallarla kullandığıdır.

Bu nedenle önümüzdeki yıllarda yapay zekâ okuryazarlığı yalnızca bilgisayar mühendislerinin bilmesi gereken teknik bir konu olmayacak.

Bir vatandaşlık becerisine dönüşecek.

İnsanların şu soruları sormayı öğrenmesi gerekecek:

Bu içeriği kim üretti?

Neden karşıma çıktı?

Bana neden tam bu mesaj gösteriliyor?

Bu görüntü gerçek mi?

Bu bilgiyi başka hangi kaynak doğruluyor?

Ve belki de en önemlisi:

Bu benim düşüncem mi, yoksa bana düşünmem için ustaca sunulmuş bir düşünce mi?

Çünkü geleceğin en güçlü silahı bir şehri yok eden değil, belki de milyonlarca insanın neyin doğru olduğuna karar verme biçimini görünmez şekilde etkileyen sistem olacaktır.

Kitle imha silahlarının tehdidi ortadan kalkmış değil.

Fakat yanına yeni bir güç ekleniyor:

Kitle ikna silahları.

Ve bu kez savaş alanı bir ülkenin sınırları değil.

İnsan zihninin kendisi.