İrem Kaya 
T24 Dış Haberler
Yapay zekânın biyolojik silahların geliştirilmesini kolaylaştırmasından nükleer silahlara veya kritik altyapılara erişmesine kadar uzanan felaket senaryoları, teknolojinin hızla gelişmesiyle birlikte yeniden tartışılıyor. Ancak bazı bilim insanları, yapay zekânın insanlığın karşı karşıya olduğu diğer varoluşsal tehditlerden ne ölçüde farklı olduğunun henüz bilinmediğine dikkat çekiyor.
The New York Times’ta yer alan haber analize göre tartışma, Anthropic’te çalışan bir araştırmacının, yapay zekâ laboratuvarlarının insanların kontrol edemeyeceği kadar gelişmiş sistemler üretmesinden endişe ettiğini belirterek sektörden ayrılmasıyla yeniden gündeme geldi.
Yapay zekânın kontrolden çıkması halinde biyolojik silah saldırısı başlatabileceği, küresel ölçekte drone savaşlarına yol açabileceği, nükleer bir silahı devreye sokabileceği veya insanların gıda, barınma ve sağlık hizmetlerine erişimini engelleyecek biçimde ekonomik kaynakları kontrol edebileceği gibi senaryolar uzun süredir tartışılıyor.
Ancak insanlığın karşı karşıya olduğu varoluşsal tehditler yapay zekâyla sınırlı değil. Asteroit çarpmaları, pandemiler, nükleer savaş, iklim değişikliği, Güneş’ten yayılan büyük madde kütleleri, ekolojik çöküş ve ani bir buzul çağı da bilim insanlarının değerlendirdiği küresel riskler arasında bulunuyor.
“Yeni olan risklerden daha fazla korkuyoruz”
Bilim insanları ve risk politikaları üzerine çalışan uzmanlara göre sorunlardan biri, insanların farklı tehditleri birbiriyle karşılaştırmakta zorlanması.
Harvard Risk Analizi Merkezi Direktörü James K. Hammitt, “Alışık olduğumuz risklere katlanıyoruz ama yeni olanlardan korkuyoruz” dedi.
Hammitt, insanların otomobile uçaktan daha sık binmesi nedeniyle hava yolculuğunu gerçekte olduğundan daha tehlikeli algılayabildiğini belirterek benzer bir durumun yapay zekâ için de geçerli olabileceğini söyledi.
Yapay zekânın henüz açık biçimde anlaşılmadığını ve insanların onu kendi kontrolleri altında görmediğini belirten Hammitt, bunun teknolojinin toplumda güçlü bir endişe yaratmasında etkili olduğunu ifade etti.
Kısa vadede biyolojik silah, uzun vadede kritik altyapı endişesi
Yapay zekâ sektöründe çalışan bazı araştırmacılar ve teknoloji yöneticileri, gelişmiş sistemlerin insanlığın varlığını tehdit edebilecek kapasiteye ulaşabileceği konusunda uzun süredir uyarılarda bulunuyor.
Kısa vadeli risklerden biri, yapay zekâ sistemlerinin yeterli uzmanlığa sahip olmayan ancak kötü niyetli kişilerin virüs ya da zehirli maddeler üretmesine yardımcı olabilmesi.
Anthropic de perşembe günü, biyolojik silah geliştirilmesine yol açabilecek araştırmalar yürütmeye çalışan bilim insanlarının bazı girişimlerini engellediğini açıkladı.
Daha uzun vadeli kaygı ise teknoloji şirketlerinin yapay zekâ sistemlerine giderek daha fazla özerklik vermesiyle ilgili. Sistemlerin internete, elektrik şebekelerine, borsalara veya askeri silahlara bağlanması halinde beklenmedik biçimde hareket edebileceği öne sürülüyor.
Bugünkü yapay zekâ sistemleri kontrolden çıktığında OpenAI gibi şirketler bunları kapatabiliyor. Buna karşılık bazı uzmanlar, gelecekte çok daha gelişmiş sistemlerin kapatılma girişimlerine direnebileceğinden endişe ediyor.
“Asıl endişe virüs”
Bu senaryoların önemli bir bölümü şimdilik varsayımlara dayanıyor.
Washington Üniversitesi profesörü ve Allen Yapay zekâ Enstitüsü’nün kurucu icra kurulu başkanı Oren Etzioni, yapay zekânın milyonlarca insanın ölümüne neden olacak biçimde kontrolden çıkmasından halen çok uzakta olunduğunu savundu.
Etzioni, “Laboratuvardan kaçıp milyonlarca insanı öldüren bir yapay zekâ ile kaçıp milyonları öldüren bir virüs arasında seçim yapmam gerekseydi, tartışmasız kazanan virüs olurdu. Asıl endişe virüstür” dedi.
Biyolojik tehditler uzun süredir varoluşsal risk tartışmalarının bir parçası. Şarbon antik çağlardan beri biliniyor ve daha yakın dönemde biyolojik silah programlarında kullanılabilecek maddelerden biri olarak öne çıktı.
Bilim insanları, uygun biçimde dağıtılması halinde bir galon şarbonun dünya çapında insan yaşamını sona erdirebilecek ölçekte sonuçlara yol açabileceğini uzun süredir değerlendiriyor.
Kuzey Kore ve İran dahil bazı devletlerin bu mikrobu barındırdığından uzun süredir şüphe edilmesine rağmen böyle bir saldırı gerçekleşmedi.
Uzmanlara göre bunun nedenlerinden biri caydırıcılık. Bir devletin biyolojik saldırıya başvurması halinde karşı saldırıyla karşılaşma ihtimali, saldırının kendisi için de yıkıcı sonuçlar yaratabilecek bir mekanizma oluşturuyor.
Asteroit, pandemi ve nükleer savaş riskleri nasıl hesaplanıyor?
1989’da kurulan Harvard Risk Analizi Merkezi, çevresel tehlikeler ve insan sağlığına yönelik büyük tehditler dahil farklı risklerin birbirleriyle karşılaştırılmasına yönelik çalışmalar yürütüyor. Merkez, politika geliştirilmesinde karar bilimi, ekonomi ve risk değerlendirmesinden yararlanıyor.
NASA da asteroit tehdidini süper bilgisayarlarla takip ediyor. Uzay ajansının değerlendirmesine göre bu yüzyılda insanlığın varlığını tehdit edecek bir asteroit çarpması olasılığı neredeyse sıfır. Hesaplamalar, Dünya’nın en az gelecek 1000 yıl boyunca bu ölçekte bir asteroit tehdidiyle karşılaşma ihtimalinin son derece düşük olduğunu gösteriyor.
Küresel bir pandeminin insanlığın büyük bölümünü yok etme olasılığı da düşük ancak sıfır değil.
Oxford Üniversitesi araştırmacısı Toby Ord, 2020’de yayımlanan The Precipice: Existential Risk and the Future of Humanity adlı kitabında, önümüzdeki 100 yıl içinde bir pandeminin varoluşsal felakete dönüşmesi riskini 30’da bir, yaklaşık yüzde 3 olarak hesapladı.
Yapay zekâ dünyasında görüş ayrılığı
Yapay zekânın yarattığı varoluşsal riskler konusunda teknoloji dünyasında ortak bir görüş bulunmuyor.
Bazı araştırmacılar, yapay zekânın yaratabileceği felaket risklerine ilişkin görüşlerin teknolojinin bugünkü kapasitesinden çok daha önce ortaya çıkan düşünsel hareketlere dayandığını savunuyor.
Yapay zekâ güvenlik şirketi Embroidery’nin kurucularından Zack Korman, bu düşüncelerin geliştiği dönemde Oxford Üniversitesi’nde bulunduğunu söyledi. Yapay zekânın insanlığın varlığına yönelik risklerine ilişkin fikirlerin özellikle “etkili altruizm” hareketi içinde geliştiğine dikkat çeken Korman, bugün bu alanda çalışan bazı kişilerin gelişmeleri on yılı aşkın süredir anlatılan aynı çerçeve içinde yorumladığını söyledi.
Buna karşılık çok sayıda üst düzey yapay zekâ araştırmacısı, söz konusu tehlikelerin ciddi biçimde abartıldığını düşünüyor. Silicon Vadisi dışındaki bilim insanlarının da yapay zekânın oluşturduğu tehditlere daha farklı yaklaştığı belirtiliyor.
Oxford Üniversitesi’nde yapay zekâ araştırmacısı Branton DeMoss da tartışmanın yapay sinir ağları ve derin öğrenmedeki büyük ilerlemeden önce oluşturulmuş belirli bir çerçeve üzerinden devam ettiğini söyledi.
DeMoss, “Tartışmanın bir çerçevesi var ve bu çok özel bir çerçeve. Bu, derin öğrenme çıkış yapmadan önce var olan ve orada kalan bir çerçeve. Ve ben buna katılmıyorum” dedi.
Riskler değişiyor, yönü her zaman belli değil
Toby Ord ise yakın tarihli bir yazısında insanlığın karşı karşıya olduğu büyük tehditlerin zaman içinde farklı yönlere hareket ettiğini değerlendirdi.
Ord’a göre iklim kaynaklı varoluşsal felaket riski azalırken nükleer felaket riski artıyor. Pandemi ve yapay zekâ konusunda ise tablo daha belirsiz. Her iki alanda da önemli değişiklikler yaşanmasına rağmen genel riskin hangi yönde ilerlediğini söylemek henüz mümkün değil.
Uzmanlar, insanlığın karşı karşıya olduğu büyük tehditlerin güçlü planlama ve erken uyarı sistemleriyle azaltılabileceğini belirtiyor. Dünya’ya doğru ilerleyen bir asteroit gibi açık ve ortak bir tehdidin ortaya çıkması halinde ülkelerin farklılıklarını bir kenara bırakarak birlikte hareket edebileceği düşünülüyor.
Ord, gelecekte “varoluşsal güvenlik” olarak tanımladığı bir aşamaya ulaşılabileceğini savunuyor.
Bu kavramı, varoluşsal risklerin düşük olduğu ve düşük tutulmasını sağlayan mekanizmaların kalıcı hale getirildiği bir gelecek olarak tanımlayan Ord, insanlığın amacının yalnızca ortaya çıkan krizlere müdahale etmek değil, bu tehditlerin temel bir tehlike olmaktan çıkmasını sağlayacak sistemleri kurmak olması gerektiğini belirtti.
(Editör: Melis Karaca)
The post Bilim insanları tartışıyor: Yapay zekâ gerçekten insanlığı yok edebilir mi? first appeared on .
