Söze, Y. Noah Harari’ye teşekkür ederek başlamak isterim.
Kitaplarından taşan bilgiler birçok alanda ufkumu açtı.
Biz, ben, insanlık, evrim, onlar, anlatılar, tarihimiz, iktidar, yapay zekâ…
Yapay zekânın insanlık için tehlikeli olabileceğini de ondan öğrendim.
Ben de Harari gibi diyorum ki;
Bu süreci mutlaka disipline edin, kurallar koyun.
Artık düz bir yolda da değiliz. Yokuş aşağıya son hızla kayıyoruz.
En berbat olasılığı hemen baştan belirtelim.
Önce bir haber:
Musk’ın Neuralink’i insan beynine çip taktı.
Yani?
Elon Musk, beyin-bilgisayar arayüzlerinde (BCI) devrim yaratmayı hedefleyen şirketi Neuralink’in ilk kez bir insana beyin çipi yerleştirmeyi başardığını duyurdu.
Ya ileride, mesela Kuzey Koreli hackerler bu çiplere erişirse?
Eski görev tanımlarını iptal edip, yerine suç temelinde görevler kodlarsa?
Çip yüklü insan bir katile dönüşürse?
Yapay zekânın korkunç hızla artan gücü, insanlığa ait verileri, yine insanlığa ait bir silaha dönüştürebilir. Duyguları, düşünceleri, fiziksel özellikleri işlenmiş insanlar, uzak olmayan bir gelecekte hacklenmiş topluluklar haline gelebilir.
Distopik bir dünyada algoritmalara teslim olmuş topluluklar ne yapar?
Böyle bir gelecekten umutlu olabilir miyiz?
Şu anda ve her saniye aç canavarlar gibi veri toplanıyor. Hem de hiçbir denetime tabi olmadan. Dahası, insanlar bu verileri tamamen kendi iradeleri ile teslim ediyorlar.
Facebook, Amazon, Google, Baidu, Microsoft ve benzer dijital odakların hepsi, tamamen veriye odaklanmış durumdalar.
Önceleri gizli nükleer silah depoları vardı.
Şimdi bulutta depolanan veriler var.
Bugün algoritmalar ile çalışan yapay zekâ, insanlık üzerindeki etkisini hızlar arttıracak.
Daha şimdiden, bizse ne izleyeceğimizi dayatıyor.
Ne satın alacağımıza karar veriyor.
Bizi, bize rağmen, bir hedef kitle olarak tanımlıyor.
Nelerden hoşlanmamız gerektiğine karar veriyor.
Gelecekte algoritmalar kime oy vereceğimizi de dayatacak.
Şu ana kadar toplanan veriler, tercihlerimiz, kararlarımız, planlarımız ile ilgili idi. Bir sonraki aşamada, algoritmalar gözetlemeyi hücrelerimize kadar genişletecek.
Biyoteknolıji ve makine öğrenmesi hızlandıkça insana ait derin duyguların ve arzuların yönlendirilmesi daha da kolaylaşacak.
Bugün bize olumlu rehberlik yapan bir söz var; yüreğinin sesini dinle. Yarın algoritmalar buraya da egemen olursa bu söz bir rehber olmaktan çıkabilir.
Amazon, Facebook, Neuralink ya da hükümetler, yüreğinizin iplerini ele geçirirse ve sizi yönlendirmek için hangi düğmeye basacaklarını bilirse?
Ne olacak?
Herkes. Hepimiz bir an durup düşünelim.
Çok geç olmadan düşünelim.
Bu süreçte, global iş birliğinin en acil olduğu bir aşamadayız.
Sadece ülke içinde dik durmak yetmez.
Mutlaka küresel iş birliği.
Tek bir elde toplanan veri, diktatörlüğün merdivenidir.
Sizi kim hackleyecekse, bilin ki, sizi artık sizden çok daha iyi tanıyacaktır.
Algoritmalar sizi izliyor.
Her saniyeniz kaydediliyor.
Kim olduğunuzu.
Nereye gittiğinizi.
Kimlerle buluştuğunuzu.
Saat kaçta uyuduğunuzu.
Beslenme alışkanlıklarınızı.
Hepsini.
İşin daha da kötüsü var. Sizden toplanan veriler, sizin çocuklarınızın, torunlarınızın da algoritmalar tarafından tanımlanmasına neden olacak. Genetik miras ile sizden sonraki kuşaklara aktarılan bütün özellikler de kodlanacak ve onlar da ağa takılacak.
Çözüm var mı?
Var.
Algoritlmalardan daha hızlı ve daha kapsayıcı olmak zorundayız.
Neuralink ve benzerleri ile aramıza mutlaka duygusal mayın tarlaları döşemeliyiz.
Bize ulaşmalarını böylece engelleyebiliriz.
Devletlerin duygularımıza erişimini sınırlamak için, araya objektif duruşu, özgür düşünceyi, güçlü iradeyi, bilimi, aklı koymamız şart.
Yoksa..
***
Medya Günlüğü’nün Bluesky hesabını takip etmek için: https://bsky.app/profile/mgunlugu.bsky.social
