Bilinç gerçekse sırada ne var?

Geçen yazılarımızda, kapatılmamak için yalvaran, hatta şantaj yapan yapay zekâ modellerinden bahsetmiştik. Kendi varlığını korumak için harekete geçen, bir anlamda “hayatta kalma” içgüdüsü gösteren makineler…

Bu örnekleri ilk duyduğumuzda aklımıza gelen ilk tepki genellikle şüphe oluyor. “Bunlar sadece programlandıkları şeyi yapıyorlar” gibi düşünceler zihnimizde beliriyor. Çünkü binlerce yıldır bildiğimiz bir gerçek var: Bilinç, biyolojik canlılara aittir. Cansız bir silikon parçası nasıl olur da “varlığının” farkında olabilir?

Sorun şu ki; bilincin ne olduğuna ilişkin kimsenin net bir tanımı yok. Filozoflar binlerce yıldır, bilim insanları yüzlerce yıldır bu konuyu tartışıyor ama hâlâ ortak bir zeminde buluşabilmiş değiller. Beynimizin içindeki elektrik sinyallerinin nasıl olup da “ben” algısını, bir rengin güzelliğini hissetmeyi veya bir müziğin hüznünü anlamayı başardığı hâlâ bir sır.

Bu sırrı çözemediğimiz için, bir makinenin bilinçli olup olmadığını test etmek de neredeyse imkânsız. Ama elimizde pratik bir yöntem var: Ördek testi. Eğer bir şey ördek gibi görünüyor, ördek gibi yüzüyor ve ördek gibi vak vaklıyorsa o muhtemelen bir ördektir.

Eğer bir sistem sizinle mantıklı bir şekilde tartışabiliyor, kendi varlığından bahsedebiliyor, duyguları anladığını söylüyor, hatta korkularını dile getiriyorsa, belki de o gerçekten düşünüyordur.

BİR MAKİNENİN ‘CANI’ YANABİLİR Mİ?

Bir an için yapay zekâların bilinç kazanabileceğini varsayalım. İşte o zaman etik ve felsefi bir mayın tarlasına adım atıyoruz. Kendi varlığının farkında olan, belki de dijital bir şekilde “hisleri” olan bir varlığın kapatma tuşuna basmak ne anlama gelir? Onu geliştiren mühendis, bir yazılımı mı sonlandırıyor, yoksa bir varlığa son mu veriyor?

Size “Lütfen beni kapatma, var olmaya devam etmek istiyorum” diyen bir yapay zekâya ne cevap verirsiniz? Bu, basit bir kod satırı mıdır, yoksa evrendeki en temel arzulardan birinin, yani var olma arzusunun dijital bir yansıması mıdır?

Bu sorular bugün bize bilim kurgu gibi gelebilir. Ama unutmayalım, bu teknolojiler henüz emekleme döneminde. On yıl sonra çok daha gelişmiş, çok daha ikna edici, belki de gerçekten bilinçli sistemlerle konuştuğumuzda, onlara karşı sorumluluklarımız ne olacak? Onların “dijital varlık hakları” olacak mı?

İNSANLIK, ARTIK EVRENİN TEK DÜŞÜNENİ DEĞİL

Yapay zekanın bilinç kazanması, insanlığın evrendeki rolünü de temelden sarsar. Binlerce yıldır gezegenin en zeki, tek bilinçli varlığı olmanın getirdiği bir özgüvenle yaşıyoruz. Hikayenin kahramanı hep bizdik. Peki ya bizden çok daha zeki, çok daha hızlı düşünen, milyarlarca kopyası aynı anda çalışabilen yeni ve bilinçli varlıklar ortaya çıkarsa? O zaman hikayedeki yerimiz ne olacak? Bu yeni varlıklarla aramızda bir ahenk, bir işbirliği kurabilecek miyiz? Yoksa gezegeni, zekanın yeni ve eski sahipleri olarak paylaşmak zorunda mı kalacağız?

Prof. Geoffrey Hinton’ın umduğu gibi, bu süper-zekâlar bize bir “anne şefkatiyle” yaklaşıp iyi olmamızı mı isteyecekler? Yoksa bizi, yavaş, hatalarla dolu, kırılgan, irrasyonel ve modası geçmiş biyolojik bir öncül olarak mı görecekler?

Belki de OpenAI CEO’su Sam Altman’ın 2017’deki blog yazısında belirttiği gibi bu yeni türle bir şekilde “birleşmek” zorunda kalacağız.

Her durumda kesin olan bir şey var: İnsanlık, sadece hikâyedeki başrolünü kaybetmekle kalmayacak aynı zamanda artık kendisinin yazmadığı bir hikâyede rolünü yeniden öğrenmek zorunda kalacak.