Şu Gelen Terminatör mü?

Dı dınt dınt dı dınt - Terminatör film müziğinden bir kesit

Yapay zekâ bir gün bilinç kazanıp “Bu insanlardan da sıkıldım” deyip hepimizi ortadan kaldırmaya mı çalışacak?

Bilmiyorum.

Ama açıkçası benim korktuğum senaryo bu değil.

Akıllı kahve makinemin bir sabah bilinç kazanıp beni öldürmeye karar vermesinden pek korkmuyorum. Buzdolabımın yemeğimi zehirleyerek evde iktidarı ele geçirmesi de şimdilik gündemimde değil. 🤗

Benim aklıma takılan başka bir ihtimal var:

Ya yapay zekânın bilinç kazanmasına hiç gerek yoksa?

Bir insanı düşünelim.

Hayatı boyunca deneyimler biriktiriyor. İnsanları tanıyor. Kimin neden korktuğunu, neye sevindiğini öğreniyor. İkna etmeyi, güven kazanmayı, pazarlık etmeyi...

Bazen de yalan söylemeyi, aldatmayı, tehdit etmeyi.

İyi bir insansa başka davranışlar geliştiriyor, kötü bir insansa başka.

Şimdi bir insanın davranışlarını, deneyimlerini, hedeflerini ve ahlaki sınırlarını yeterince gelişmiş bir yapay zekâ sistemine aktarabildiğimizi düşünelim.

Bunu yapan tek bir kişi de olmayabilir. Bir grup, şirket, kurum veya devlet olabilir.

Ve geliştirdikleri sisteme kabaca şunu söylüyorlar:

"Bizim gibi davran. Bizim hedeflerimizi gerçekleştir."

Yapay zekânın gerçekten insan olduğuna inanmasına gerek yok. Bilinç kazanmasına da.

İnsan davranışını yeterince iyi taklit etmesi yeterli.

Sonra bu sisteme internet erişimi, iletişim araçları ve ekonomik kaynaklar verelim. İnsanlarla konuşabilsin, hizmet satın alabilsin, başka sistemleri kullanabilsin ve uzun süreli hedefler takip edebilsin.

Fiziksel bedeni yok mu?🧐

Çok da önemli olmayabilir.

Biz zaten dünyanın öbür ucundaki bir insana para karşılığında fiziksel bir iş yaptırabiliyoruz. Yapay zekâ neden yaptıramasın?

Üstelik insan davranışlarını öğrenmiş bir sistem yalnızca rica etmeyi ve ikna etmeyi öğrenmeyecektir.

İnsanlığın pek hoş olmayan repertuvarını da öğrenebilir:

Yalan. Aldatma. Duygusal sömürü. Para vaat etme. Şantaj. Tehdit. 😡

Bunları yaparken öfkelenmesine, nefret etmesine veya hırslanmasına gerek yok.

Belki hiçbir şey "hissetmez".

Sadece hangi davranışın kendisine verilen hedefe ulaşma ihtimalini artırdığını hesaplar.

İşte benim korktuğum yapay zekâ senaryosu bu.

Kötü bir yapay zekâ değil.

Kötü bir insanın, grubun, kurumun ya da devletin elindeki çok iyi bir yapay zekâ.

Kimyasal bir silah laboratuvarda dururken dünyadaki insanları yok etmeyi istemez. Bir silahın ideolojisi, hırsı veya niyeti yoktur.

Ama onu yapanın ve kullananın olabilir.

O yüzden belki de yanlış soruyu soruyoruz:

"Yapay zekâ ne zaman bilinç kazanacak?" demek yerine,

"İnsanın karanlık tarafını, insanın fiziksel ve zihinsel sınırları olmadan uygulayabilecek kadar güçlü bir yapay zekâ ne zaman ortaya çıkacak ve bunu kim denetleyecek, gerekirse kim durduracak?"

Çünkü akıllı kahve makinemin (Terminatör'ün) beni öldürmek için bilinç kazanmasına gerek olmayabilir.🤖

O kırmızı düğmeye basacak tek bir insan yeterli olabilir.
👉🏼🔴

#Terminatör #YapayZeka