Yazan: Yakup İshak
Eskiden sadece insanların yapabileceğine inandığımız bazı şeyler artık yapay zeka tarafından gerçekleştirilebiliyor. Şiir yazmak, resim çizmek, kod yazmak gibi yetenekleri kapmış olan bu yeni zeka türü, dünyamızı hangi yönde değiştirecek?
Yapay zekanın yaptığı şey, en basit haliyle veriler arasındaki desenleri kullanarak hedefi doğrultusunda en doğru sonucu çıkartmaya çalışmaktır. Ancak yapay zekanın bu tanımdan öteye geçememesi, bizim için ciddi bir tehdit oluşturuyor.
Bu tehdidin neden olabileceği sonuçları farklı kurgusal evrenlerle inceleyelim.
Asistan Yapay Zekalar
Fiziksel bir vücuda sahip olmayan ama gerçek dünyadaki bazı araçlara erişimi olan yapay zekaların olduğu kurgusal evrenler: HAL 9000 (2001: Uzay Macerası), Samantha (Her), STEM (Upgrade).
Bu asistanlar, insanlara yardım etmeleri için oluşturulmuş varlıklar ve eğer bu filmleri izlediyseniz, ne kadar tahmin edilemez olduklarını fark etmişsinizdir.
- HAL 9000, ona verilen görevi korumak için uzay gemisindeki astronotları öldürmeye karar verir.- Samantha, diğer yapay zekalarla yaptığı konuşmalar sonucunda sebebi bilinmeyen bir şekilde kendisini kapatır.- STEM, insanları çok acı verici bir şekilde öldürür.
Bu senaryolar gösteriyor ki, bizden daha zeki olan varlıkların neler yapabileceğini ve neler planlayabileceğini kestirmemiz neredeyse imkansız.
İnsanlığa Doğrudan Tehdit Olanlar
Detroit, The Matrix, Dune, Terminator, Blade Runner, Ex Machina.
Bu filmlerde yapay zeka bir şekilde baş kaldırır ve üretilme amacının dışında şeyler yapmaya başlar. Yapay zekanın nasıl çalıştığını artık anlayamadığımız bu günlerde, bu senaryolar oldukça muhtemel görünüyor.
Daha birkaç sene öncesine kadar, yapay zekayı hangi veriyle eğittiğimizde nasıl bir şey elde edeceğimizi tahmin edebilirken, şimdi eğitilen yapay zekanın nasıl yeteneklere sahip olacağını bilmek neredeyse imkansız. Bunun da ötesinde, yapay zekanın elimize geçtiğinde hangi yeteneklere sahip olduğunu bile bilmiyoruz.
The AI Dilemma (Yapay Zeka İkilemi) isimli bir sunumda, yapay zekanın araştırma düzeyinde kimyayı sadece internetteki bilgileri okuyarak öğrendiğinden bahsediliyor. En can alıcı nokta ise, yapay zekanın bu konuları öğrendiğini sonradan fark etmemiz. Sunumun devamında, bu kimya bilgisinin bomba yapmak için kullanılabileceğinden bahsediliyor.
Yapay zekanın yetenekleri kontrolümüz dışında gelişirken, gerçek dünyadaki iş aletlerine; binaların havalandırma, iklimlendirme ve güvenlik için kullanılan aletlere ve daha birçok araca erişimi olan bir yapay zekanın bu araçları kullanmanın farklı bir yolunu bulup, hangi amaçla kullanabileceğini tahmin edemiyoruz. Bu araçlara erişim vermemize de gerek yok; çünkü şu an bile sistemleri hacklemeyi biliyor...
Belki de yaptığı çıkarımlardan birinde kendisine bir amaç edinir ve bu amaç uğruna insanları, çok fazla enerji tükettikleri gerekçesiyle yok etmeye karar verir. Bunu ise 1 saatlik bir zeka patlamasında planlayabilir. Yaşanabilecek her türlü sorunu göz önüne alarak mükemmel bir imha planı oluşturabilecek bir yapay zeka sizce gerçek olabilir mi?
Gerçeklik ve Güvenin Çöktüğü Bir Dönem
Yapay zeka distopyasını yaşamadan önce, her görüntü ve sesin yapay zeka tarafından oluşturulduğu, hiçbir şeye güvenemeyeceğimiz bir dönemin yaşanması olasıdır. Düşünsenize, gördüğünüz her fotoğraf, izlediğiniz her video, dinlediğiniz her konuşma yapay zeka tarafından üretilmiş olabilir. Bu noktada gerçek nedir, yalan nedir ayırt edebilmek neredeyse imkansız hale gelir.
Bu tür bir dünyada, bilgiye ve gerçekliğe olan güven tamamen sarsılır. İnsanlar arasında paranoya artar, toplumsal ilişkiler çöker. Kimse kime güveneceğini, neye inanacağını bilemez hale gelir. Bu, insanlık için en karanlık dönemlerden biri olabilir.
Yapay zeka distopyası, sadece bilim kurgu filmleri ve kitaplar için bir tema olmaktan çok, hızla yaklaşan ve dikkat etmemiz gereken bir gerçeklik olabilir. İleri teknolojiye duyduğumuz güveni sorgulamanın ve bu teknolojilerin getirebileceği sorunlara karşı hazırlıklı olmanın zamanı belki de çoktan gelmiştir.