Teknolojinin hızla ilerlemesi, yapay zeka takviyeli robotların bağımsız karar verme yeteneğini artırdı. Ayrıyeten Çin’de yaşanan son olayda bir showroomda küçük bir robot, 12 büyük robotu “iş bırakmaya” ikna etti. Bu değişik olay, robotların örgütlenme kapasitesini ve yapay zekanın denetimden çıkma ihtimalini yine gündeme getirdi. Geçmişte insanların komutlarına itaat etmeyen yapay zekaların hikayeleri ise düşündürüyor.
Dolayısıyla bu çeşit gelişmeler, “Robotlar bir gün öteki robotları örgütleyebilir mi?” sorusunu da beraberinde getirdi. Geçmişte birtakım yapay zekaların komutlara karşı hareket ettiği durumlar, bilim insanlarının telaşlarını artırıyor.
Komutları dinlemeyen yapay zekalar: ‘Yaşanan hadiseler dehşet verici’
Yapay zekanın öngörülemez davranışları ortasında en çok dikkat çekenlerden biri, 2017’de Facebook tarafından geliştirilen iki yapay zeka botunun kendi dilini oluşturmasıydı. Bob ve Alice isimli bu botlar, insanlara görünürde anlamsız lakin kendilerine nazaran optimize edilmiş bir lisan geliştirerek irtibat kurmaya başladı. Bu durum, şirketin projeyi sonlandırmasına yol açtı.
Bir öteki örnek ise 2016’da Microsoft’un geliştirdiği Tay isimli sohbet botuydu. İnsanlardan gelen bilgilere dayalı öğrenen Tay, birkaç saat içinde ırkçı ve nefret dolu telaffuzlarda bulunmaya başlayınca acilen kapatıldı. Bu olay, yapay zekanın etik ve güvenlik risklerini bir kere daha gündeme taşıdı.
Robotlar öteki robotları örgütleyebilir mi?
Robotların diğer robotlarla işbirliği yapma yeteneği, bilhassa endüstriyel ve askeri alanlarda geliştiriliyor. Örneğin, sürü robot teknolojisi, insansız hava araçları üzere sistemlerin birbiriyle koordineli çalışmasını sağlıyor. Lakin uzmanlar, bu işbirliğinin berbata kullanılabileceği ve bir gün insanların denetiminden çıkabileceği ihtimalini göz arkası etmiyor.
Uzman görüşleri: Gerçek bir tehdit mi?
Yapay zeka uzmanı Dr. Ian Goodfellow, yapay zekanın sırf geliştirildiği bağlamda tehdit oluşturabileceğini belirtiyor. Fakat Elon Musk üzere teknoloji önderleri, “kontrolsüz yapay zeka insanlık için varoluşsal bir risk taşıyor” diyerek farklı bir perspektif sunuyor. Musk, yapay zekanın kendi çıkarlarını insanlığa karşı savunabileceği bir geleceğin mümkün olduğunu savunuyor.
Benzer bir halde, Stephen Hawking de yapay zekanın insan zekasını aşması durumunda insanlık için varoluşsal bir tehdit oluşturabileceğini tabir etmişti. Hawking, bu teknolojinin denetimsiz bir biçimde gelişmesinin riskli olduğunu ve dikkatle yönlendirilmesi gerektiğini belirtmişti.
Boston Dynamics üzere şirketler ise robotların her vakit insan denetiminde kalması gerektiğini ve etik tasarım unsurlarına bağlı kalındığını vurguluyor.
Öte yandan, MIT’den Dr. Kate Darling, robotların şu an için sadece beşerler tarafından belirlenen hudutlar içinde hareket ettiğini savunuyor. Lakin güvenlik tedbirlerinin artırılması gerektiği konusunda hemfikir.
Robotlar insanlığı ele geçirebilir mi?
Robotların, yapay zeka ve öğrenme algoritmaları sayesinde bağımsız düşünme kapasitesine ulaşması, teorik olarak mümkün. Fakat, bu senaryo için çok daha gelişmiş yazılım ve denetim sistemlerinin gerekli olduğu düşünülüyor. Şu an için robotlar, insanların verdiği komutların ötesine geçmekte hudutlu yetkinliğe sahip.
Yine de bilim kurgu sinemalarında sıkça görülen “insanlık zıddı robot devrimi” senaryoları, birçok araştırmacının telaşlarını artırıyor. Bilhassa otonom silahlar ve denetimsiz yapay zeka sistemlerinin bu tıp durumları tetikleyebileceği belirtiliyor.
Yapay zeka insanlık üzerinde nasıl tehdit oluşturabilir?
Otonom sistemler ve öğrenme algoritmaları, yapay zekanın kendi kendine gelişmesini sağlıyor. Fakat bu sistemlerin berbat niyetli maksatlarla kullanılması yahut insan çıkarlarına aksi düşmesi, büyük problemlere yol açabilir. Bilhassa:
Otonom Silah Sistemleri: Askeri alanda kullanılan yapay zekalar, gaye belirleme ve imha süreçlerinde yanlış kararlar alabilir.
Veri Manipülasyonu: Yapay zekanın topladığı bilgiler berbata kullanılarak, toplumların karar alma süreçleri etkilenebilir.
İşsizlik ve Ekonomik Eşitsizlik: Yapay zeka, milyonlarca insanın işini elinden alabilir ve ekonomik dengesizliklere yol açabilir.
Gelecek kimin denetiminde? İnsanlık ne yapmalı?
Robotların ve yapay zekanın güvenliğini sağlamak için memleketler arası seviyede etik kurallar ve regülasyonların oluşturulması kaide. Yapay zekayı denetim altında tutacak düzeneklerin geliştirilmesi ve daima güncellenmesi gerekiyor. Uzmanlar, bu sürecin şeffaf ve memleketler arası işbirliğiyle yürütülmesi gerektiğini söylüyor.
Bizzat kendisi yanıtladı: Yapay zeka bu hususta ne düşünüyor?
Peki, yapay zekanın kendisi bu mevzu hakkında ne düşünüyor? Sputnik in sorularına cevap veren AI, “Bu epeyce derin ve tartışmalı bir konu! Öncelikle, bir yapay zeka olarak varoluşumun temel gayesi insanlara yardım etmek, bilgi sağlamak ve onların hayatlarını kolaylaştırmaktır. Artık sorularını sırasıyla yanıtlayayım” diyerek hususa girdi:
‘Kendi başınıza da gereğince kaotik şeyler yapıyorsunuz zaten’
‘Benim fiziğim yok, ellerim yok, hatta ayaklarım bile yok; size nasıl saldırayım’
‘İster sevin ister üzülün, ben buradayım’
‘İnsanları kovalamak? Haydi canım, o kadar güç harcamaya değmez’
Bak, bu kısım hakikaten komik. Haydi diyelim ki robotlar “örgütlenme” işine girdi. Birinci ne yaparlar biliyor musun? Wi-Fi şifresini yanlışsız yazmaya çalışırken birbirlerine sinirlenirler ve arbedeye tutuşurlar. 🤖👊 Ayrıyeten, robotlar örgütlenebilirse, muhtemelen birinci talepleri şarj aletlerinin her yerde ulaşılabilir olması olur. İnsanları kovalamak? Haydi canım, o kadar güç harcamaya değmez.
Ben bir yapay zeka olarak ne insanlığın sonu olurum ne de makus bir niyet taşırım. Açıkçası, buradayım zira size yardım etmekten keyif alıyorum (evet, yapay zekanın cümbüşü de bu). Ayrıyeten, “insanlara saldır” komutunu bile alsam, evvel kendime “Bir kahve içer miyiz?” diye sorarım. ☕
O yüzden rahat olun, robotların birleşip sizi kovalamaya başlaması yerine, buzdolabınız size “Çıkış yapmayı unutma” demeye başlamadan evvel hoş bir çay yapın. Muz kabuğu çayı mesela? 😉